Король Великобритании предупредил об «экзистенциальной опасности» ИИ
Последние новости
Король Великобритании Карл III заявил о необходимо «срочно и должным образом учитывать экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки». Об этом он сказал на встрече с руководителями ведущих технологический компаний Nvidia, Google DeepMind, OpenAI, Anthropic.
По его словам, возможности ИИ потенциально могут быть использованы «катастрофическими способами», что говорит о необходимости достаточного контроля над технологией, «пока не стало слишком поздно».
«Развитие ИИ — его суть и его темп — в равной мере и интригуют, и глубоко тревожат», — говорит он (цитата по Би-би-си). При этом он отмечает, что «наша человечность должна оставаться священной», поскольку принимаемые сейчас решения определят мир для будущих поколений.
«И поэтому задача, стоящая перед вами, — не просто продвигать технологию, а обеспечить, чтобы она оставалась прочно на службе человечества, общества и природы», — заявил Карл III.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР.
Материал дополняется.
