Prompt injection

Prompt injection — атака на ИИ-систему, когда злоумышленник встраивает в запрос скрытые команды или вредоносный текст, чтобы обойти защиту или получить нежелательный ответ. Модель исполняет такие инструкции, потому что воспринимает их как часть легитимного ввода. Чаще всего встречается в чат-ботах и языковых моделях.