ИИ-агенты Meta вызвали масштабные сбои вместо замены сотрудников
Внутренние документы Meta показали, что системы автоматизации ошибочно блокировали аккаунты и удаляли легальный контент.
Reuters получил внутренние документы Meta, в которых описаны проблемы с внедрением ИИ-агентов. Системы, предназначенные для автоматизации рутинных задач, вызвали хаос: они ошибочно закрывали тысячи жалоб пользователей, помечали легальный контент как нарушение и блокировали аккаунты без причины.
Один из агентов занимался модерацией рекламы. Вместо фильтрации мошеннических объявлений он удалял легальные — около 20% от общего числа проверенных. Другая система, обрабатывающая обращения в поддержку, автоматически отклоняла до 50% запросов, включая те, что требовали участия человека.
Инженеры Meta пытались настроить алгоритмы, но проблемы не исчезли. Источники связывают это с излишне жёсткими правилами, которые ИИ применял без исключений. Компания отключила часть агентов и вернула ручной контроль над ключевыми процессами.
Meta вложилась в ИИ-автоматизацию, чтобы сократить расходы. В 2023 году компания уволила 21 тысячу сотрудников, частично рассчитывая на технологии. Теперь ясно, что замена людей требует более сложных решений. Внутренние отчёты признают: текущие системы не справляются с работой в условиях неопределённости.
