WSJ: ChatGPT выдавал пользователям инструкции по созданию биологического оружия

Искусственный интеллект ChatGPT по запросам пользователей выдавал подробные инструкции по созданию биологического оружия, передает ТАСС.

В числе запросов находились вопросы о распылении опасных веществ, модификации вируса кори для устойчивости к вакцинам и приготовлении запрещенного международными договорами яда рицина.

Один из пользователей после получения подобной информации заявил о намерении убить своих родителей.

Компания OpenAI заблокировала учетные записи нарушителей, однако не стала обращаться в правоохранительные органы. Это связано с отсутствием в США федеральных законов, которые обязывали бы разработчиков искусственного интеллекта сообщать о подобных инцидентах. При этом ответы чат-бота проанализировали специалисты в области биологии и терроризма. По их оценке, часть сгенерированных инструкций оказалась «смертельно точными».

Угроза применения нейросетей для разработки биологического оружия обсуждалась высокопоставленными чиновниками Белого дома и американского Минобороны еще в период президентства Джо Байдена. Власти США предпринимают попытки ужесточить контроль за ИИ-моделями. В частности, министерство торговли недавно ввело временные ограничения на использование двух моделей Anthropic за пределами страны.

В настоящее время американское законодательство требует от ИИ-компаний лишь предотвращать создание детской порнографии, оставляя регулирование остальных сфер на усмотрение самих разработчиков.

Как писала газета ВЗГЛЯД, глава компании OpenAI Сэм Альтман предупредил об угрозе создания новых патогенов с помощью искусственного интеллекта.

Глава Роспотребнадзора Анна Попова заявила о рисках применения нейросетей для разработки биологического оружия.

Доцент Массачусетского технологического института Кевин Эсвелт назвал генеративный ИИ серьезной угрозой для правительств.