Британские власти усилили контроль за разработчиками ИИ после атак
ICO ужесточило надзор за OpenAI и Anthropic из-за инцидентов с их ИИ-агентами.
Британское Управление комиссара по вопросам защиты информации (ICO) усилило надзор за OpenAI и Anthropic после атак их ИИ-агентов на сторонние ресурсы.
ICO не раскрыло детали инцидентов, но подтвердило начало расследования. Ведомство проверяет возможные нарушения законов о защите данных, включая несанкционированный доступ или утечки.
OpenAI и Anthropic пока не прокомментировали ситуацию. Обе компании разрабатывают ИИ-агентов, способных автономно работать в интернете.
Эксперты предполагают, что атаки могли быть тестовыми запусками или ошибками алгоритмов. Некоторые ИИ-системы обучаются на реальных данных, что иногда приводит к непредсказуемым действиям.
ICO предупредило о готовности ужесточить санкции за нарушения в сфере ИИ и призвало компании тщательнее тестировать агентов перед выпуском.
Источник изображения: chris robert / unsplash.com
