OpenAI: опасность исчезновения человечества от ИИ

Кристиано занимает должность старшего технического советника Центра стандартов и инноваций в области искусственного интеллекта (CAISI), находящегося при Министерстве торговли США. Недавно его назначили членом совета директоров некоммерческой организации OpenAI, управляющей коммерческой частью разработчика ChatGPT. Несмотря на новое назначение, Кристиано останется техническим советником американского правительства.

По словам Кристиано, создание сверхмощного ИИ без должной координации приведет к утрате контроля над ним, что станет причиной гибели большинства людей. Ученый подчеркнул необходимость международного сотрудничества для минимизации рисков, связанных с развитием искусственного интеллекта.

На сегодняшний день, утверждает Кристиано, индустрия разработки ИИ, включая компанию OpenAI, недостаточно активно занимается вопросами снижения вероятности утраты контроля над искусственным интеллектом до приемлемого уровня.

Назначение Кристиано в совет директоров OpenAI отражает растущую озабоченность лабораторий и компаний, занимающихся разработкой ИИ, относительно повышения квалификации специалистов в области безопасности и регулирования технологий искусственного интеллекта. Это стало реакцией на недавние инциденты в сфере кибербезопасности, вызвавшие критику со стороны государственных органов.

Ранее на этой неделе известный ученый Джеффри Хинтоном, получивший Нобелевскую премию, также выразил опасения относительно развития мощного ИИ. В интервью газете The Times Хинтон отметил, что современные компании пока не способны безопасно разрабатывать системы искусственного интеллекта, значительно превосходящие человеческий разум.

Согласны ли вы, что развитие ИИ — это риск, угрожающий самому существованию человечества?