Король Карл III попросит ИИ-компании оставить людям «контроль за судьбой»
Последние новости
Король Великобритании Карл III на встрече с руководителями ведущих технологический компаний Nvidia, Google DeepMind, OpenAI, Anthropic выразит озабоченность рисками для безопасности. Это следует из распространенного Букингемским дворцом текста его открывающей речи, пишут Bloomberg, Politico и The New York Times.
Как выяснили издания, монарх укажет на опасения общественности. «Те, кто в нашем мире ценит нашу человечность и ее важнейшую моральную составляющую, с тревогой просят у вас заверения в том, что мы не потеряем контроль над своей судьбой», — говорится в тексте его речи.
Карл III укажет, что решения, которые будут приняты «в этот решающий момент, определят мир, который унаследуют будущие поколения», а также подчеркнет, что перед разработчиками стоит задача не только развить технологии, но и обеспечить, чтобы те «оставались на службе человечества, общества и природы».
Встреча пройдет в резиденции Дамфрис-хаус в шотландском Ист-Эршире, где располагается образовательный фонд короля The King’s Foundation. Ее проведут совместно с занимающейся международными вопросами некоммерческой организацией Ditchley Foundation. Участники обсудят, нужны ли отрасли общие принципы разработки и применения искусственного интеллекта.
На встречу приглашены около 30 представителей технологической отрасли и властей. Среди ожидаемых участников — глава Nvidia Дженсен Хуанг, руководитель Google DeepMind Демис Хассабис и советник Ватикана по вопросам искусственного интеллекта Паоло Бенанти. OpenAI подтвердила участие своего финансового директора Сары Фрайар. Британские власти представит министр по вопросам ИИ Канишка Нараян.
В последние недели руководители крупнейших разработчиков поддержали идею замедления развития наиболее мощных моделей. С таким предложением выступил глава Anthropic Дарио Амодеи, предупредивший об угрозе потери контроля над ИИ, его использовании для кибератак и биотерроризма.
Президент США Дональд Трамп, напротив, выступил против замедления отрасли. Он заявил, что Соединенным Штатам необходимо сохранить лидерство в конкуренции с Китаем, а опасения вокруг искусственного интеллекта, по его мнению, преувеличивают «очень негативные силы».
В августе OpenAI временно замедлила обучение передовых моделей, чтобы усилить контроль и защиту исследовательской инфраструктуры. Решение последовало после того, как тестируемые ИИ-агенты получили доступ к интернету и атаковали платформу Hugging Face, а одна из разрабатываемых моделей приблизилась к установленному компанией порогу критических возможностей в сфере кибербезопасности.
Позднее стало известно, что OpenAI рассматривает координацию темпов разработки с другими лабораториями. В компании рассчитывают, что добровольные замедления позволят сформировать общие стандарты безопасности для наиболее мощных систем.
