[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$fjyjp3LN0KGyHZSzJBrIjmY2C6z0QP3U0H3U-5yvGafg":3},{"article":4,"related":20},{"title":5,"slug":6,"dek":7,"body":8,"cover":9,"type":10,"reading_minutes":11,"published_at":12,"category":13,"author":15},"Ученые Сколтеха и Сбербанка создали дешевый способ обнаружить галлюцинации ИИ","uchenye-skolteha-i-sberbanka-sozdali-deshevyj-sposob-obnaruzhit-gallyu-72250","Исследователи разработали метод, который в 10 раз дешевле аналогов и на 20% точнее выявляет ложные ответы языковых моделей.","Исследователи Сколтеха и Центра практического искусственного интеллекта Сбербанка предложили новый способ проверки достоверности ответов языковых моделей. Метод требует в 10 раз меньше вычислительных ресурсов, чем существующие аналоги, и повышает точность обнаружения галлюцинаций на 20%.  \n\nТехнология анализирует внутренние состояния модели при генерации текста. Вместо сравнения с эталонными данными она оценивает согласованность промежуточных вычислений. Это позволяет находить противоречия даже в узкоспециализированных областях, где нет проверочных данных.  \n\nЭксперименты провели на моделях GPT-3 и Llama 2. Система правильно определила 85% ложных утверждений. Ложные срабатывания составили менее 5%. Традиционные методы в среднем показывают 65% точности при 15% ошибок.  \n\nРазработка решает две основные проблемы. Снижение стоимости проверки упрощает внедрение в коммерческие продукты. Повышение точности важно для медицины и финансов, где ошибки ИИ могут привести к серьезным последствиям.  \n\nМетод уже протестировали в пилотных проектах Сбербанка для анализа юридических документов. В ближайшие месяцы исследователи опубликуют код с открытой лицензией, что позволит использовать технологию без патентных ограничений.  \n\nСледующий этап — адаптация алгоритма для мультимодальных систем, работающих с текстом, изображениями и видео. Команда также изучает возможность применения метода для обучения моделей, а не только для проверки их ответов.","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F7386d2e0-599e-4b61-af7d-7d66586c85c8","news",2,"2026-08-31T10:30:50.000Z",{"name":14},"Модели",{"name":16,"slug":17,"role":18,"bio":19},"Марина Лаврова","marina-lavrova","обозреватель","Пишет про экономику инференса, цены на модели и прикладные инструменты. Считает деньги там, где остальные считают параметры.",[21,27,33],{"title":22,"slug":23,"cover":24,"reading_minutes":11,"published_at":25,"category":26},"OpenAI представила самую мощную модель Astra","openai-predstavila-samuyu-moschnuyu-model-astra-87321","https:\u002F\u002Fasiclub.ru\u002Fimg\u002Fe49fc062-0f9f-40e7-95df-82f8e85a5763","2026-09-04T02:02:01.000Z",{"name":14},{"title":28,"slug":29,"cover":30,"reading_minutes":11,"published_at":31,"category":32},"OpenAI представила новую ИИ-модель Astra","openai-predstavila-novuyu-ii-model-astra-85530","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F2b4e5ef6-339b-42c2-bfe6-999e4b5d5a2f","2026-09-04T01:32:10.000Z",{"name":14},{"title":34,"slug":35,"cover":36,"reading_minutes":11,"published_at":37,"category":38},"Meta платит за данные о работе с новой AI-моделью Muse Spark","meta-platit-za-dannye-o-rabote-s-novoj-ai-modelyu-muse-spark-60234","https:\u002F\u002Fasiclub.ru\u002Fimg\u002F360c8cab-4b0c-47d5-8137-e16c5503b8e3","2026-09-03T18:30:34.000Z",{"name":14}]