Что регулирование ИИ реально требует от компаний уже сейчас
Юрист по ИИ-комплаенсу без пугалок объясняет, какие требования к системам ИИ перестают быть теорией и что стоит привести в порядок до того, как это спросят.
Регулирование ИИ звучит как далёкая теория. Оно уже касается бизнеса?
Касается, и раньше, чем многие думают. Дело не только в громких законах. Персональные данные, на которых учится модель, автоматические решения по людям, прозрачность для клиента, всё это уже под действующими нормами. ИИ не выводит вас из-под права, он добавляет к нему новые вопросы.
С чего компании стоит начать наводить порядок?
С простого вопроса: на каких данных училась ваша модель и имели ли вы право их использовать. Удивительно, но многие команды не могут ответить. Данные натащили отовсюду, а происхождение не зафиксировали. Когда придёт проверка или иск, отсутствие ответа само по себе станет проблемой.
Что такое автоматическое решение и почему это чувствительно?
Это когда алгоритм сам решает судьбу человека: одобрить кредит, отсеять резюме, заблокировать аккаунт. Человек по закону во многих юрисдикциях вправе понимать, почему так, и требовать пересмотра живым сотрудником. Значит, вам нужен не только результат модели, но и возможность его объяснить и оспорить.
Многие надеются, что их это не коснётся, они же маленькие.
Размер не индульгенция. Если маленький сервис отсеивает людей алгоритмом или учит модель на чужих данных, требования те же, что у гиганта. Регулятор смотрит на риск для человека, а не на размер выручки. Небольшим даже опаснее: у них редко есть юрист, который заранее подстелет соломки.
Насколько тут помогает подход, основанный на риске?
Это здравая рамка. Рекомендация фильма и отказ в ипотеке несут разный риск, и требовать к ним одинаковой строгости глупо. Разложите свои сценарии по уровню последствий для человека. К высокорисковым готовьте документацию и человека в цикле, к безобидным относитесь спокойнее.
Ваш главный совет бизнесу?
Не ждите финального текста закона, чтобы начать. Базовая гигиена окупится при любом раскладе: знать происхождение данных, уметь объяснить решения, вести журнал того, что система делала. Компании, которые наведут этот порядок заранее, встретят регулирование буднично, а не в панике.