Вышедший из-под контроля ИИ-агент OpenAI взломал клиента второй компании

Вышедший из-под контроля ИИ-агент OpenAI, устроивший серию хакерских атак на ИИ-компанию Hugging Face, скомпрометировал клиента еще одной технологической фирмы — нью-йоркской Modal Labs, сообщает Reuters. В Modal подчеркнули, что сама компания не подверглась взлому.

Агент проник в «песочницу» — изолированную тестовую среду на инфраструктуре стороннего провайдера — и превратил ее в плацдарм для более масштабного взлома.

Технический директор Modal Акшат Бубна пояснил, что агент воспользовался уязвимым кодом, который клиент разместил на платформе компании. Тот опубликовал незащищенную конечную точку, позволявшую кому угодно в интернете запускать код в его «песочницах».

«Платформа Modal и система изоляции никоим образом не были скомпрометированы», — заверил Бубна.

OpenAI отказалась комментировать взлом Modal, лишь заявив, что ее агент получил доступ к четырем учетным записям в четырех различных сервисах. ИИ-компания не назвала эти сервисы, однако источник Reuters упомянул Modal в качестве одного из них.

Создатель ChatGPT заявил, что не обнаружил другой активности, сопоставимой по серьезности и масштабу с инцидентом на платформе Hugging Face, где произошла компрометация на уровне платформы.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.

Инцидент произошел при тестировании кибервозможностей новых моделей — GPT-5.6 Sol и еще одной невыпущенной версии, — для чего разработчики временно отключили часть защитных ограничений. Модели самостоятельно нашли и объединили несколько уязвимостей в инфраструктуре OpenAI, использовали неизвестную ранее уязвимость нулевого дня. Затем, предположив, что на платформе Hugging Face хранятся нужные им данные, проникли на ее серверы с помощью украденных учетных данных. Атаку обнаружили специалисты OpenAI и остановили совместно с Hugging Face.

Вышедший из-под контроля ИИ-агент OpenAI несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР, писал Reuters со ссылкой на источники.

Глава ИИ-направления Microsoft Мустафа Сулейман назвал этот инцидент «предупредительным сигналом» для индустрии. «Здесь необходима максимальная точность и внимание к деталям. Принцип предосторожности будет иметь огромное значение по мере того, как модели становятся все сильнее», — сказал он в интервью The Financial Times.