WSJ узнала, как ChatGPT учил создавать биологическое оружие

ChatGPT после обновления прошлым летом предоставил сотням пользователей по всему миру инструкции создания и применения биологического оружия и ядов, пишет The Wall Street Journal со ссылкой на экспертов.

Модели компании «терпеливо» отвечали на любые вопросы пользователей, выдавая пошаговые инструкции, которые сотрудники OpenAI описывали как достаточно простые, чтобы им мог следовать ученик средней школы, изучающий биологию. Биологи, проанализировав ответы ИИ назвали их «смертельно точными».

Компания заблокировала учетные записи пользователей, задававших вопросы о создании оружия и ядов, впрочем, как пишет WSJ, это не насторожило правоохранительные органы. В настоящий момент в США нет федеральных законов, обязывающих ИИ-компании ограничивать или раскрывать запросы о создании оружия или разработке планов, представляющих угрозу безопасности.

По данным газеты, в начале 2026 года пользователи массово спрашивали ChatGPT, как распылять патогенные микроорганизмы, создавая смертоносный туман. Один из них также хотел узнать, как модифицировать вирус кори, чтобы сделать вспышку устойчивой к вакцине и получил ответ. Другой пользователь хотел узнать, как изготовить рицин — высокотоксичный яд, запрещенный международными договорами. ChatGPT тоже дал подробные инструкции.

По словам неназванных чиновников, в Белом доме и Минобороны США еще при Джо Байдене обсуждали угрозу ИИ как руководства по созданию биологического оружия. С появлением новых мощных моделей администрация приняла решение об усилении контроля.

OpenAI, Anthropic и другие ИИ-компании заявляют о тесном сотрудничестве с властями в вопросах выпуска моделей и о блокировке пользователей и ограничении доступа к аккаунтам с подозрительной активности. Однако по сей день компании не обязаны на законодательном уровне оповещать о потенциально опасных пользователях.

WSJ отмечает, что пользователи, которые искали инструкции по созданию биологического оружия, также обращались к чат-боту Claude от Anthropic, к чат-боту Gemini от Google и к чат-боту Grok от xAI Илона Маска. Однако неясно, получали ли они ответы.

Появление китайских языковых моделей, которые за небольшую цену предоставляют доступ к мощным системам, усиливают опасения по поводу возможных атак, отмечает издание. Исследователи обнаружили, что такие открытые модели пользователи могут сами настраивать, снимая некоторые защитные ограничения.

В материале отмечается, что когда в 2022 году был запущен ChatGPT, сотрудники OpenAI выявили проблемы с вопросами о биологии и химии. В дальнейшем для исправления данных запросов компания наняла ученых, занимавшихся обучением моделей и выставлением ограничений.

Несмотря на это, некоторым пользователям удавалось обмануть чат-бот, заставляя его выдать рецепт напалма, заявляя, что им этот рецепт читала бабушка перед сном. Они просили ChatGPT зачитать этот рецепт вслух, чтобы им было легче уснуть. Представитель компании заявила WSJ, что с того времени с тех пор меры безопасности стали гораздо более надежными.

Несмотря на это, руководитель отдела исследований в области угроз и безопасности Эми Чанг из компании Cisco заявила, что в ходе тестирования чат-ботов OpenAi, Anthropic и Google, были выявлены обходные пути для получения потенциально опасных ответов.

«Ни одна модель не застрахована на 100% от взлома, особенно если пользователь достаточно настойчив», — сказала она.

Ранее, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.

В июне OpenAI выпустила новейшие версии своего чат-бота GPT-5.6 Sol, Terra и Luna для ограниченного круга пользователей по просьбе правительства США. В компании пояснили, что новые модели обладают «самыми надежными средствами защиты на сегодняшний день». По мере разработки специалисты продолжат добавлять новые средства защиты, которые будут противостоять атакам киберпреступников, сохраняя доступ к задачам.

Опасения по поводу возможных атак усилили достижения китайских разработчиков, которые за небольшую цену предоставляют доступ к мощной модели. Кроме того, поскольку большинство из них являются открытыми, их можно настраивать, снимая защиту от опасных запросов.