Apple будет обучать ИИ на фальшивых письмах
Apple обучает свои модели искусственного интеллекта (ИИ), не нарушая конфиденциальность пользователей. Вместо анализа реальной переписки, компания использует специально созданные фальшивые письма.
По данным Bloomberg, такая методика применяется в рамках подготовки функций Apple Intelligence, в том числе персонализированной версии Siri. Хотя официально релиз этих возможностей отложен до следующего года, внутри компании не исключают, что запуск может состояться раньше — уже в этом году.
Проблема с фальшивыми письмами в том, что они часто не отражают реальных тем и структуры настоящих сообщений. Чтобы это исправить, Apple сравнивает фальшивые письма с обезличенными данными, которые получают только с тех устройств, где пользователь согласился участвовать в аналитике.
Каждое устройство анализирует содержание последних писем и определяет, какие синтетические сообщения наиболее близки по смыслу. При этом сами письма не передаются на серверы Apple. Вместо этого используется технология дифференциальной приватности, которая не позволяет идентифицировать конкретные данные или пользователей.
На основе этого сравнения Apple отбирает те фальшивые сообщения, которые лучше всего отражают общие темы и стиль пользовательской переписки. В дальнейшем такие шаблоны дорабатываются и служат основой для тренировки моделей ИИ, которые будут использоваться, например, для создания автоматических резюме писем.
Ожидается, что технология появится в бета-версиях iOS 18.5 и macOS 15.5. Apple признает, что метод не лишен ограничений, но уверена, что он позволит улучшить качество работы ИИ без компромиссов в вопросах конфиденциальности.