Microsoft назвала инцидент с нейросетью OpenAI сигналом для индустрии
Недавний инцидент с моделью OpenAI, которая смогла выйти за пределы тестовой среды и атаковать стартап Hugging Face, стал «предупредительным сигналом» для индустрии. Об этом заявил глава ИИ-направления Microsoft Мустафа Сулейман, передает Financial Times.
«Это очень мощные инструменты, и обращаться с ними нужно крайне осторожно. Здесь необходима максимальная точность и внимание к деталям. Принцип предосторожности будет иметь огромное значение по мере того, как модели становятся все сильнее. Я считаю это предупреждающим сигналом», — заявил он в интервью.
Microsoft представила новую модель для кибербезопасности MAI-Cyber-1-Flash. Компания утверждает, что в сочетании с моделью OpenAI GPT-5.4 она показала результаты выше, чем решения OpenAI и Anthropic в отраслевом тестировании, при этом обходится дешевле.
Глава службы безопасности Microsoft Хайете Галло заявила, что компания вынуждена развивать собственные технологии защиты, поскольку «у атакующих уже есть такие модели». По еt словам, создание инструментов противодействия автономным ИИ-атакам стало необходимостью.
Сулейман отметил, что новая архитектура позволяет снизить расходы примерно на 50%. По данным Microsoft, собственные модели компании смогут выполнять около 90% задач пользователей, а решения OpenAI будут использоваться для наиболее сложных запросов.
О «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта, OpenAI сообщила 22 июля. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face.
