Цукерберг рассказал, чем опасна централизация ИИ

Глава компании Meta (признана экстремистской и запрещена в РФ) Марк Цукерберг выступил против централизации управления технологиями искусственного интеллекта (ИИ). В своем открытом заявлении он подчеркнул опасность концентрации власти над ИИ в руках одной организации.

По мнению Цукерберга, наиболее тревожной ситуацией является возможность ведущих лабораторий разрабатывать мощные ИИ-модели и сохранять контроль исключительно за собой. «Наиболее опасным сценарием станет ситуация, когда крупнейшие исследовательские центры будут самостоятельно развивать и удерживать такие модели, лишая возможности остальных участников рынка», — указал он.

Цукерберг предложил альтернативный подход, согласно которому безопасность и справедливость в сфере ИИ должны обеспечиваться путем распределения технологий среди множества независимых разработчиков и пользователей. Это позволит избежать доминирования одного игрока и обеспечить баланс интересов различных сторон.

Кроме того, Цукерберг отверг концепцию существования универсального сверхинтеллекта, способного решать проблемы человечества оптимальным образом. По его словам, разнообразие человеческих ценностей делает невозможным существование единой формулы, удовлетворяющей всех людей.

Компания Meta активно занимается разработкой собственных ИИ-решений, включая семейство языковых моделей Llama и ассистента Meta AI.

Ранее американский сенатор Берни Сандерс выразил обеспокоенность по поводу рисков, связанных с развитием технологий ИИ. Он призвал крупные технологические компании временно приостановить разработку ИИ-технологий до проведения тщательного анализа возможных угроз безопасности.

Сандерс предупредил владельцев технологических гигантов, что если они не примут необходимые меры добровольно, то правительство США примет законодательные инициативы для регулирования данной сферы. Сенатор отметил, что ответственность за регулирование лежит либо на самих компаниях, либо на правительстве.

Обращение Сандерса адресовано руководителям крупнейших компаний, занимающихся разработками ИИ, включая Сэм Альтман из OpenAI и Дарио Амодео из Anthropic.

Почему, по-твоему, Цукерберг считает централизацию ИИ такой угрозой?