Как показать пользователю, что ИИ может ошибиться, и не потерять его доверие
Дизайнер ИИ-интерфейсов рассказывает, почему честность про неуверенность модели повышает доверие, а не роняет его, и какие приёмы работают на живых пользователях.
Разве не логичнее прятать неуверенность модели, чтобы выглядеть солиднее?
Соблазн такой есть, но это путь к катастрофе доверия. Пользователь всё равно поймает модель на ошибке, вопрос только когда. И если интерфейс до этого вёл себя как всезнающий оракул, человек обидится и уйдёт совсем. А если продукт честно предупреждал, что может ошибаться, промах воспринимается спокойно.
Как показать неуверенность, не пугая человека?
Не процентами. «Уверенность 73 процента» это цифра, которая ничего не говорит обычному человеку. Работают формулировки и действия. «Вот что я нашёл, проверьте вот эту деталь» лучше, чем сухой вердикт. И всегда давайте ссылку на источник, чтобы человек мог перепроверить сам, если захочет.
Что делать в момент, когда модель всё же ошиблась?
Дать лёгкий путь исправить и вернуть контроль. Кнопка «это неверно», понятная отмена, возможность поправить результат руками. Ошибка, которую пользователь легко чинит, почти не бьёт по доверию. Ошибка, из которой не выбраться, бьёт наотмашь.
Стоит ли прямо писать пользователю, что перед ним ИИ?
Да, и не мелким шрифтом. Люди спокойнее относятся к ошибкам, когда понимают природу собеседника. Обман про то, что это живой оператор, всплывает и бьёт по доверию сильнее любой ошибки. Честная подпись про ассистента экономит вам будущий скандал и лишние оправдания.
Есть ли обратная опасность, перегнуть с оговорками?
Есть. Если на каждом шаге пугать человека дисклеймерами, он либо перестанет пользоваться, либо начнёт их игнорировать, как согласие с куками. Честность должна быть уместной, а не навязчивой. Предупреждаем там, где цена ошибки высокая, и молчим, где она копеечная.
Главный принцип, если коротко?
ИИ в интерфейсе это ассистент, а не судья. Он предлагает, человек решает. Как только продукт начинает вести себя так, будто он всегда прав, он берёт на себя ответственность, которую не потянет. Скромный и честный помощник удерживает пользователей дольше, чем блестящий и самоуверенный.