OpenAI добавил в совет директоров исследователя безопасности ИИ
Пол Кристиано, эксперт по согласованию ИИ, вошел в совет директоров OpenAI Foundation.
OpenAI назначил Пола Кристиано, одного из ведущих исследователей в области безопасности ИИ, членом совета директоров своей некоммерческой структуры OpenAI Foundation. Кристиано известен работой над согласованием ИИ — направлением, которое изучает, как сделать искусственный интеллект предсказуемым и управляемым.
Его назначение произошло на фоне усиления дискуссий о рисках ИИ. Кристиано неоднократно высказывал опасения, что развитие сверхразумных систем может привести к катастрофическим последствиям без должного контроля. Ранее он разрабатывал методы обучения ИИ через обратную связь и участвовал в создании инструментов для анализа поведения алгоритмов.
OpenAI Foundation, куда вошел Кристиано, управляет основной компанией OpenAI. Совет директоров некоммерческой структуры принимает ключевые решения о стратегии и распределении средств. Ранее в него входили основатели OpenAI, включая Сэма Альтмана, а также независимые эксперты.
Кристиано — не первый исследователь в области безопасности ИИ, получивший влияние в OpenAI. В 2021 году туда пришла Джанин Хазлхерст, специалист по этике. Однако его назначение привлекает внимание на фоне растущей озабоченности долгосрочными рисками ИИ. В 2023 году несколько ведущих экспертов подписали открытое письмо с призывом к осторожности в разработке сверхразумных систем.
OpenAI пока не прокомментировала, как именно роль Кристиано повлияет на их политику. В прошлом компанию критиковали за коммерциализацию ИИ-разработок в ущерб прозрачности.
