Anthropic сообщила, что хуситы использовали Claude для разработки ракет
Последние новости
Anthropic выявила группу, базировавшуюся на севере Йемена, которая использовала модель Claude для разработки программного обеспечения для управляемого и баллистического оружия. Об этом компания сообщила в своем докладе об угрозах.
Участники группы использовали Claude Code для разработки ПО наведения, навигации и управления ракетами. С помощью модели они писали код, настраивали систему управления и проводили моделирование полета. Как пишет Anthropic, группа одновременно использовала несколько экземпляров Claude: один писал код, другой занимался исследованиями, третий проверял результат.
«У нас нет доказательств того, что участникам удалось ввести в эксплуатацию работоспособное устройство, однако они провели испытательный пуск управляемой ракеты. Судя по всему, испытание завершилось неудачей: уже через несколько часов после него участники снова обратились к Claude, чтобы выяснить причины сбоя», — говорится в отчете.
По данным Anthropic, группа работала над управляемой ракетой, многоступенчатой баллистической ракетой с дальностью полета более 2 тыс. км, а также над ракетами R2000, один из вариантов которых предусматривал гиперзвуковой планирующий аппарат.
Нейросеть блокировала многие запросы, однако, как утверждает компания, пользователи обходили систему защиты, «скрывая свои цели и назначение разрабатываемого программного обеспечения, а также распределяя работу между несколькими сессиями, чтобы ни одна отдельная сессия не раскрывала их намерения полностью».
Компания заблокировала связанные с участниками аккаунты и передала информацию об угрозе партнерам из государственного и частного секторов. Тем не менее, как пишет Anthropic, участники успели создать набор инструментов для моделирования, не зависящий ни от Claude, ни от других инженерных вычислительных сред.
Anthropic прямо не говорила, что пользователями модели были хуситы, однако, как пишет The Financial Times, именно они контролируют значительную часть северной части страны.
В докладе описаны десятки случаев, когда пользователи пытались использовать нейросети для создания оружия или вирусов для ПО. В том числе, Anthropic заблокировала несколько пользователей из-за подозрения, что они используют ИИ-модели в разработке биологического оружия.
Так, в мае один ученый использовал нейросеть Claude для написания заявки на получение гранта для проведения исследований, направленных на эксперимент с вирусом чикунгунья. Как утверждает компания, он хотел создать мутации вируса, которые сделали бы его более опасным при неоднократном заражении животных. Как утверждает Anthropic, это исследование вызвало беспокойство, так как удалось установить, что работа предназначалась для военного научно-исследовательского института.
«Чего мы не знаем, так это того, было ли целью исследования для создания оружия. Но военное учреждение, проводящее исследования по усилению функций вирусов, вызывает беспокойство», — заявил глава отдела анализа угроз в Anthropic Джейкоб Кляйн
