17 сентября король Великобритании Карл III провел встречу с руководителями ведущих технологических компаний, работающих в сфере искусственного интеллекта,— Nvidia, Google DeepMind, OpenAI и Anthropic. Монарх выразил серьезную озабоченность рисками для безопасности, связанными со стремительным развитием технологии, и призвал взять этот процесс под контроль, пишет Би-би-си.
«Те, кто в нашем мире ценит нашу человечность и ее важнейшую моральную составляющую, с тревогой просят у вас заверения в том, что мы не потеряем контроль над своей судьбой»,— заявил Карл III в речи. Он также подчеркнул, что перед разработчиками стоит задача не только развить технологии, но и обеспечить, чтобы те оставались на службе человечества, общества и природы.
Встреча прошла в шотландской резиденции Дамфрис-хаус, где располагается образовательный фонд короля The King’s Foundation. Туда были приглашены около тридцати представителей технологической отрасли, среди них — глава Nvidia Дженсен Хуанг, руководитель Google DeepMind Демис Хассабис, советник Ватикана по вопросам искусственного интеллекта Паоло Бенанти, финансовый директор OpenAI Сара Фрайар. Британское правительство на форуме представлял министр по вопросам ИИ Канишка Нараян. «Я искренне признателен за то, что сегодня в этом зале собрались одни из величайших умов в области технологий, и, конечно, за то вдумчивое руководство, которое вы демонстрируете, размышляя над фундаментальными принципами, призванными определить развитие искусственного интеллекта на годы вперед»,— отметил король Великобритании.
Незадолго до встречи руководители крупнейших разработчиков поддержали идею замедления развития наиболее мощных ИИ-моделей. С таким предложением, в частности, выступил глава Anthropic Дарио Амодеи. В своей статье он указал, что не ставит под вопрос необходимость развития ИИ, но в то же время отмечает, что технология несет с собой серьезные угрозы. По мнению предпринимателя, самим компаниям и правительствам разных стран мира необходимо время, чтобы разобраться с ними. Основатель SpaceX Илон Маск и гендиректор OpenAI Сэм Альтман поддержали предложение главы Anthropic. В августе OpenAI временно замедлила обучение передовых моделей, чтобы усилить контроль и защиту исследовательской инфраструктуры. Решение компании последовало за рядом инцидентов — во время одного из них ИИ-агенты смогли обнаружить скрытую уязвимость в изолированной тестовой среде и самостоятельно вышли в открытый интернет, после чего атаковали инфраструктуру платформы Hugging Face. 16 сентября OpenAI объявила о регистрации еще шести случаев неожиданного или вызывающего обеспокоенность поведения ее ИИ-моделей.
Президент США Дональд Трамп выступил против замедления отрасли. По его словам, Штатам необходимо сохранить лидерство в технологической гонке с Китаем, а призывы лидеров индустрии ограничить внедрение передовых моделей он охарактеризовал как влияние негативных сил.
