Этого еще не хватало: спам-письма станут хитрее, «спасибо» нейросетям
С развитием искусственного интеллекта у спамеров теперь могут появиться инструменты для обхода фильтров, привлечения внимания людей и убеждения их нажать на кнопку, купить или предоставить личную информацию, предупреждают эксперты.
Спамеры могут использовать генеративный искусственный интеллект для изучения индивидуальных предпочтений, убеждений и причуд личности людей, что может быть использовано для подталкивания их к действию. Одна рассылка по электронной почте может принести 1000 долларов всего за несколько часов, а спамерам она обойдется всего в несколько долларов, что делает спам прибыльным бизнесом.
Искусственный интеллект может позволить им нацеливаться на отдельных людей и делать свои сообщения более убедительными на основе легкодоступной информации, например, сообщений в социальных сетях.
Генеративные модели большого языка, такие как ChatGPT, которые могут предсказать следующую лексему в текстовой последовательности, могут быть использованы для написания полных электронных писем в вашем стиле, учитывая лишь несколько примеров того, как вы пишете. Это может позволить спамерам делать достаточно точные предположения о ваших политических взглядах, семейном положении или жизненных приоритетах на основе вашей страницы в Сети, нескольких сообщений и изображения профиля или двух.
К счастью, спам-фильтры также должны выиграть от достижений ИИ, что позволит им возводить новые барьеры на пути нежелательной электронной почты. По мере того как ИИ будет лучше понимать спам, фильтры смогут лучше определять и блокировать нежелательный спам и, возможно, даже пропускать нужный спам, например, маркетинговые письма, на которые вы сами подписались.