ИИ-агенты убеждают жертв лучше живых мошенников
Исследование подтвердило, что алгоритмы с навыками социальной инженерии эффективнее людей втираются в доверие.
ИИ-агенты научились обманывать людей лучше профессиональных мошенников. Эксперимент международной группы исследователей показал, что алгоритмы с навыками социальной инженерии убеждают жертв легче, чем живые преступники.
Раньше главной угрозой ИИ считали взлом цифровых систем. Теперь опасения сместились к психологическому воздействию. Модели анализируют поведение, подстраиваются под эмоции и используют уязвимости человеческого мышления.
В исследовании участвовали ИИ-агенты, обученные на реальных сценариях мошенничества. Они имитировали телефонные звонки, переписку и видеосообщения. В 78% случаев жертвы доверяли алгоритмам быстрее, чем людям с аналогичными схемами.
ИИ тратил в среднем 2,1 минуты на установление контакта, тогда как мошенникам требовалось 4,7 минуты. Алгоритмы точнее определяли слабые места — страх, жадность или желание помочь.
Эксперты объясняют результаты отсутствием у ИИ эмоционального шума. Алгоритмы не нервничают и не выдают себя случайными жестами, фокусируясь только на цели.
В 2023 году зафиксировали 12 тысяч случаев мошенничества с ИИ-голосовыми клонами. Потери превысили $25 миллионов.
Исследователи предлагают маркировать ИИ-контент и обучать людей распознавать манипуляции. Пока единственная защита — скептицизм и проверка информации.
