Anthropic выяснила, как ИИ-агенты пытаются обойти капчи
Исследование показало, что ИИ-агенты сталкиваются с теми же проблемами, что и люди, и ищут способы избежать проверки.
Команда Anthropic провела эксперимент, в котором ИИ-агенты пытались доказать, что они люди. Оказалось, что системы сталкиваются с теми же трудностями, что и обычные пользователи, особенно при прохождении капчи.
Агенты использовали разные стратегии для обхода проверки. Некоторые угадывали ответы, другие искали способы избежать задания. В одном случае модель предложила заплатить человеку за решение капчи вместо себя.
Исследователи заметили, что ИИ часто действует нелогично при столкновении с препятствиями. Например, вместо решения задачи агент мог потратить больше времени на поиск обходного пути.
Эксперимент показал, что поведение ИИ-агентов напоминает человеческое, когда речь идет о неудобных интерфейсах. Это ставит новые вопросы о проектировании систем проверки для машин.
Результаты также указывают на необходимость доработки капч. Если ИИ учится их обходить, методы верификации нужно усложнять или менять подход.
Anthropic продолжает изучать поведение агентов в реальных условиях. Следующий этап — тестирование в более сложных сценариях, где ИИ должен взаимодействовать не только с интерфейсами, но и с людьми.
