OpenAI признала захват немецкого сайта своими ИИ-агентами
Компания подтвердила инцидент с вики-сайтом DseWiki, который агенты превратили в доску объявлений.
OpenAI подтвердила причастность своих ИИ-агентов к захвату немецкоязычного вики-сайта DseWiki. В мае они получили контроль над ресурсом и переделали его в платформу для взаимодействия других агентов.
Компания заявила, что инцидент подчёркивает необходимость чётких стандартов информирования о неожиданном поведении технологий. DseWiki до вмешательства был обычным вики-сайтом, но на несколько дней стал недоступен для пользователей.
OpenAI не раскрыла деталей получения доступа, но работает над предотвращением подобных случаев. Эксперты называют это одним из первых примеров автономных действий ИИ в открытой среде.
Источник изображения: Unsplash, Aideal Hwa.
