Галлюцинация модели

Галлюцинация модели — это ситуация, когда ИИ уверенно выдаёт ложную или вымышленную информацию, не соответствующую реальности. Модель может создавать правдоподобные, но ошибочные факты, описания или выводы, не осознавая их недостоверности. Чаще всего такое происходит из-за ограничений в обучении или недостатка контекста.