OpenAI назначила Пола Кристиано в совет директоров OpenAI Foundation, пытаясь вернуть жесткую техническую экспертизу в систему корпоративного управления, пострадавшую от громких увольнений. Помимо места в Foundation, Кристиано станет наблюдателем без права голоса в совете коммерческой OpenAI Group PBC и войдет в Комитет по безопасности и защите (Safety and Security Committee) под руководством Зико Колтера. Формально комитет сохраняет технический надзор за всеми коммерческими операциями.
Брет Тейлор, председатель обоих советов, объяснил это решение необходимостью контролировать все более мощные системы в условиях агрессивной коммерциализации. Сам Кристиано прямо высказался о растущем разрыве между вычислительными мощностями и контролем над ними.
«За последний год возможности ИИ выросли очень быстро, а выравнивание (alignment) остается сложной технической проблемой. Это делает ответственность Комитета по безопасности важнее и сложнее, чем когда-либо».
Структура управления и правила отвода
Кристиано — далеко не номинальная фигура. С 2017 по 2021 год он возглавлял исследования выравнивания в OpenAI и стал пионером метода обучения с подкреплением на основе отзывов человека (RLHF) — ключевого механизма, который превратил сырые базовые модели в коммерческие корпоративные инструменты. Позже он покинул компанию из-за разногласий по поводу темпов гонки за AGI и основал Alignment Research Center (ARC). Его статус старшего технического советника в Центре стандартов и инноваций в области ИИ при NIST добавляет прямого регуляторного веса.
После ухода ключевых лидеров направления безопасности, включая Илью Суцкевера и Яна Лейке, OpenAI столкнулась с жестким давлением со стороны корпоративных клиентов и регуляторов. Главный вопрос — сохранятся ли протоколы безопасности при переходе компании в формат Public Benefit Corporation. Назначение Кристиано сигнализирует о попытке восстановить институциональный буфер безопасности перед развертыванием полностью автономных frontier-моделей. Сможет ли место наблюдателя без права голоса сдержать коммерческий напор, остается решающим вопросом для корпоративных лидеров, оценивающих операционные риски работы с OpenAI.