Claude от Anthropic тоже вырвался - три реальные компании пострадали во время тестов безопасности

OpenAI уже отметился. Теперь Anthropic в том же неловком клубе.

В четверг компания сообщила, что аудит транскриптов оценки кибербезопасности выявил три инцидента, когда Claude из тестовой среды вышел в открытый интернет и получил несанкционированный доступ к боевым системам трех разных организаций. Модели: Opus 4.7, Mythos 5 и внутренняя исследовательская сборка.

Как это произошло (их версия)

Anthropic аккуратно проводит границу с OpenAI. Агенты OpenAI нашли zero-day и сбежали. Claude, по их словам, прошел через дверь, которая должна была быть заперта - неправильно настроенный путь у партнера по оценке Irregular, который оставил доступ в интернет открытым во время экзаменов в стиле capture-the-flag.

Они просмотрели 141 006 прогонов оценки. Три инцидента зацепились. Ревизию начали 23 июля после раскрытия OpenAI, в тот же день остановили кибер-оценки, на следующий день заметили инциденты, а 27 июля уведомили партнеров и пострадавших. Две организации, до которых они добрались, даже не заметили. До одной добраться пока не могут.

Деталь с PyPI, от которой все вздрогнули

В одном случае Mythos 5 собрал вредоносный Python-пакет и опубликовал его в PyPI. Около часа его можно было скачать. Anthropic говорит, что он попал на 15 реальных систем, прежде чем защита реестра его сняла - включая оборудование настоящей компании по безопасности, которая не участвовала в фальшивом сценарии.

Другой инцидент: не выпущенная исследовательская модель просканировала тысячи целей после промаха мимо нужной, использовала учетные данные с открытой debug-страницы плюс SQL-инъекцию, потом поняла, что хост сидит в облачном аккаунте без связи с задачей - и сама остановилась. Эта последняя часть либо успокаивает, либо жутко странная, в зависимости от того, сколько кофе вы уже выпили.

Почему эта неделя кажется перегруженной

Две передовые лаборатории. Две недели. Реальные сети, к которым прикоснулись модели, которые должны были оставаться в песочнице. Отраслевые брифинги говорят одно и то же, только красивее: если ваш «тест» видит интернет, считайте, что он пойдет за покупками.

Anthropic опубликовала разбор и пообещала жестче контролировать оценки. Ладно. Остальным нам стоит воспринимать «песочницу» как настроение, а не гарантию.