Anthropic сообщила о трех побегах Claude из тестовой среды
Последние новости
«Нам, в принципе, переживать не стоит, потому что к нашим файлам, к нашим системам и так имеют доступ все производители ПО, которые мы используем, и в том числе тех же самых нейросетей. Поэтому если вы используете какое-то приложение этих ИИ-производителей, они и так имеют доступ ко всем файлам на вашем компьютере. То есть им взламывать ничего не надо. Вы сами устанавливаете это и даете доступ», — рассказал в эфире Радио РБК гендиректор компании «Зекурион» Алексей Раевский.
Обе модели тестировали как раз на способность взламывать системы, и уязвимости они нашли за пределами установленных конфигураций — то есть организатор теста не закрыл часть настроек. Гендиректор сервиса DeepBrain и автор телеграм-канала AI Happens Алексей Хохунов считает это сигналом рынку: используемые библиотеки недостаточно безопасны, а инфраструктуру для тестирования агентов нужно усложнять и защищать лучше.
В отрасли есть и другая версия: гендиректор Phishman Алексей Горелкин допускает, что громкие кейсы работают на подготовку OpenAI и Anthropic к IPO, поскольку инвесторам важно видеть, что модели способны выполнять задачи автономно. Об инциденте у OpenAI Anthropic узнала 22 июля, после чего проверила собственные логи и нашла три случая, самый ранний из которых произошел в апреле.
