Медведев назвал «туманной» перспективу уничтожения человечества ИИ
Последние новости
Перспектива, что человечество будет уничтожено искусственным интеллектом (ИИ), туманна. Однако эта технология может причинить колоссальный ущерб, и тогда под угрозой уже окажутся жизни ее создателей, заявил зампред Совета Безопасности России Дмитрий Медведев.
Так Медведев отреагировал на заявления ведущих лиц в сфере ИИ, включая главу компании xAI Илона Маска, о том, что развитие технологии нужно поставить на паузу, чтобы избежать фатальных для человечества последствий.
Медведев назвал их страхи реальными, однако отметил, что главы ИИ-компаний недоговаривают, чего они боятся на самом деле. «Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна», — написал он.
По его словам, более реален сценарий, при котором программа на основе ИИ, включенная в управление крупным производством или транспортным узлом, причинит колоссальный ущерб — например, столкнет самолеты или уничтожит АЗС. «И тогда придут уже за создателями generative AI», — добавил Медведев.
Как считает зампред Совбеза, логичным было бы договориться о методах регулирования ИИ, но этому, как утверждает Медведев, помешают «жадности корпораций и ненасытность страстей человеческих».
«Поэтому остается одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI.
У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей», — заключил он.
12 сентября глава Anthropic (разработчик Claude) Дарио Амодеи заявил о необходимости замедлить темпы развития ИИ. Амодеи напомнил о недавнем случае, когда ИИ-агенты OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Он предупредил, что через 6–12 месяцев рой ИИ-агентов может захватить интернет, учитывая скорость развития этих систем.
В качестве решения проблемы безопасности он предложил пустить к разработке ИИ-моделей независимых оценщиков, а также ввести в практику координацию на уровне компаний и государств. Призыв Амодеи поддержали Маск и глава OpenAI Сэм Альтман.
