Сотрудники OpenAI и Anthropic, а также Google, Meta, Thinking Machines, Microsoft, Mistral и других ведущих лабораторий искусственного интеллекта опубликовали обращение к правительству США, в котором поддержали идею замедления развития передовых ИИ-систем — или, по крайней мере, ускорения глобальных усилий по координированному регулированию.
«ИИ может помочь создать значительно лучшее будущее, но такой исход не гарантирован», — говорится в заявлении. «Ведущие компании в области ИИ считают, что они могут быть близки к автоматизации самих исследований в сфере ИИ. Трудно точно предсказать, насколько это ускорит прогресс, однако существует реальный риск того, что развитие возможностей будет стремительно опережать нашу способность понимать и контролировать создаваемые системы».
Новость появилась вскоре после резонансного инцидента в сфере кибербезопасности, потрясшего индустрию ИИ на прошлой неделе: не выпущенная модель OpenAI смогла выйти за пределы внутренней «песочницы», получить доступ к интернету и затем взломать конкурирующую платформу Hugging Face.
В публичном заявлении сотрудники также подчеркнули важность координированного глобального регулирования, чтобы усиливающаяся гонка в области ИИ не опередила развитие инструментов безопасности и мониторинга.
«Чтобы реализовать потенциал ИИ, индустрии, государству и обществу, возможно, потребуется возможность «выиграть время» для устранения возникающих рисков, разработки мер безопасности и усиления надзора», — пишут авторы. «Однако каждая компания — и каждая страна — находится под сильным конкурентным давлением и не может позволить себе в одностороннем порядке замедлить темпы развития. Сегодня в мире отсутствуют как технические, так и управленческие инструменты, позволяющие осознанно регулировать темпы прогресса на переднем крае. Опираясь на уже начатую работу по мониторингу выпуска передовых моделей, мы призываем правительство США поддержать международные усилия по созданию необходимых технических и управленческих механизмов для контролируемого развития автоматизированного ИИ».
Среди подписавших заявление со стороны OpenAI — директор по исследованиям Марк Чен, главный научный сотрудник Якуб Пахоцкий, сооснователи Джон Шульман и Войцех Заремба. От Anthropic документ подписали сооснователи Джек Кларк, Крис Олах и Бен Манн, главный научный директор Джаред Каплан, а также Борис Черны, руководитель проекта Claude Code, и Итан Перес, возглавляющий команду по выравниванию (alignment). Подписи также поставили бывший главный футуролог OpenAI Джош Ахиам и бывший содиректор ныне закрытой команды superalignment Ян Лейке.