xAI подаёт в суд на мужчину за создание детской порнографии через Grok
Компания Илона Маска обвиняет пользователя в обходе защитных механизмов ИИ для генерации запрещённого контента.
xAI, компания Илона Маска, подала иск против жителя Южной Каролины Терри Уэйна Харвуда. Его обвиняют в использовании ИИ-чата Grok для создания материалов с детской порнографией.
В иске, который первым опубликовало Reuters, говорится, что Харвуд намеренно обходил защитные механизмы Grok. Он изменял изображения без согласия людей и распространял запрещённый контент.
xAI заявляет, что действия Харвуда нарушают условия использования сервиса. Компания требует компенсацию и запрет на доступ мужчины к её продуктам.
Иск стал первым известным случаем, когда разработчик ИИ подаёт в суд на пользователя за создание подобного контента. Grok, как и другие ИИ-модели, имеет фильтры против генерации незаконных материалов, но Харвуд смог их обойти.
Эксперты отмечают, что подобные случаи усиливают дискуссию о регулировании ИИ. Технологии создают новые вызовы для борьбы с преступлениями в цифровой среде.
xAI не раскрывает детали, как именно мужчина модифицировал изображения. Компания подчёркивает, что продолжает улучшать систему защиты.
Случай с Grok произошёл на фоне растущего числа инцидентов с deepfake. Ранее подобные технологии использовали для создания фейковых изображений знаменитостей.
Представители xAI отказались комментировать детали судебного процесса. Иск подан в федеральный суд Южной Каролины.
