Исследователи обнаружили угрозы для детей в поиске Google с ИИ
Американская организация выявила риски для психического здоровья подростков в результатах поиска Google с искусственным интеллектом.
Американская некоммерческая организация провела исследование и обнаружила опасности для детей в поисковой системе Google, где используется искусственный интеллект. По её данным, алгоритмы выдают контент, способный навредить психическому здоровью подростков.
Проблема безопасности ИИ часто связана с его влиянием на молодёжь. В данном случае речь идёт о поисковике, который предлагает несовершеннолетним материалы с высоким уровнем риска. Организация не уточнила, какие именно запросы или результаты вызывают опасения, но подчеркнула необходимость срочных изменений.
Google пока не прокомментировал заявление. Ранее компания заявляла, что работает над улучшением фильтрации контента. Однако исследователи считают, что текущих мер недостаточно.
Эксперты отмечают, что ИИ-поиск может усиливать вредные алгоритмические тенденции. Например, система иногда предлагает экстремальный или деструктивный контент в ответ на нейтральные запросы. Это особенно критично для детей и подростков, которые чаще становятся жертвами подобных рекомендаций.
Организация призвала Google и другие технологические компании пересмотреть подходы к защите несовершеннолетних. Среди возможных решений — более строгая модерация, возрастные ограничения и прозрачность в работе алгоритмов.
Пока неизвестно, приведёт ли это исследование к реальным изменениям. Однако дискуссия о влиянии ИИ на молодое поколение набирает обороты.
