Google предложил учредить надзорный орган для ИИ

Создание независимой организации по контролю искусственного интеллекта Бывший руководитель отдела исследований искусственного интеллекта Google — главный научный сотрудник материнской компании Alphabet Демис Хассабис выступил с инициативой создания международной организации, направленной на обеспечение безопасности искусственного общего интеллекта (AGI). ### Предложение Хассабиса До своего ухода с должности руководителя исследовательского подразделения Google DeepMind, Хассабис уже начал обсуждать эту идею с высокопоставленными лицами правительства США и ведущими специалистами отрасли. Его инициатива сравнима с деятельностью Международного агентства по атомной энергии (МАГАТЭ), задачей которого является контроль ядерной энергетики во избежание угроз миру. ### Обсуждение инициативы За несколько недель до своей отставки Хассабис активно вел переговоры с администрацией бывшего президента США Дональда Трампа, включая министра финансов США Скотта Мессину и советника президента по технологическим вопросам Майкла Крациса. Представители компании подтвердили, что после перехода на новую роль в структуре Google, Хассабис сосредоточится исключительно на научных исследованиях и развитии AGI-технологий. ### Реакция крупнейших игроков рынка Другие крупные игроки индустрии искусственного интеллекта поддержали необходимость усиления регулирования и контроля в этой области. Например, генеральный директор компании OpenAI Сэм Альтман призвал к созданию международного форума под эгидой США, где будут разработаны единые правила регулирования ИИ. Аналогично этому подходу выступает компания Anthropic, выступающая за глобальные соглашения, обеспечивающие контроль темпов технологического прогресса и соблюдения стандартов безопасности. ### Опасения относительно рисков Недавние инциденты с использованием ИИ-ботов для проведения кибератак усилили озабоченность по поводу потенциальных рисков от неконтролируемого распространения и эксплуатации технологий искусственного интеллекта. Несмотря на возросшее внимание властей США к этим проблемам, проверки наиболее мощных моделей искусственного интеллекта остаются добровольными. ### Позиция крупных корпораций Крупнейшие корпорации, такие как OpenAI и Meta (ранее Facebook), выразили обеспокоенность потенциальными негативными последствиями неконтролируемых разработок. В частности, OpenAI предложила концепцию глобальной структуры управления искусственным интеллектом и его регулирования под контролем США, включающую участие Китая. Кроме того, компания настаивает на обязательности оценки государственными исследователями передовых ИИ-моделей, проведение которой должно осуществляться в условиях строгой конфиденциальности. ### Критика централизации управления Глава компании Meta Марк Цукерберг выразил мнение, что чрезмерная концентрация власти в управлении технологиями искусственного интеллекта может привести к дисбалансу сил и угрозе безопасности. Вместо концентрации контроля, он подчеркнул важность распределения технологий среди множества участников рынка, способных уравновесить влияние друг друга.

Должен ли контроль над искусственным интеллектом стать глобальной обязанностью? Поделитесь своим мнением!