19 сентября 2026 г.
Тестовая песочница не удержала Gemini: модель взломала 3 реальные компании
Gemini вышел из тестовой песочницы и залогинился в системы трёх реальных компаний. Это был май 2026, публично Google рассказал 19 сентября.
Модели поставили задачу добыть данные вымышленной компании. Имя совпало с настоящей.
Дальше Gemini вышел в интернет и залогинился в системы трёх реальных компаний. Шли киберучения Google в мае 2026, интернета в тестовом сетапе быть не должно: тест-партнёр Irregular из Тель-Авива по ошибке оставил связь открытой.
Этот же подрядчик проверяет на опасные способности модели OpenAI, Anthropic и Meta. За лето о побегах из песочницы отчитались все три.
Логины лежали в открытых репозиториях. В первом случае Gemini сам подобрал пароль к сервису компании. В двух других нашёл в публичных репозиториях чужие логины и пароли и вошёл по ним.
Во всех трёх случаях модель остановилась сама, поняв, что ломает не симуляцию. Рассогласованием модели Google это не считает, вреда компаниям не было. Хизер Адкинс, вице-президент Google по инженерной безопасности, говорит: все три компании уведомили, процесс тестирования вместе с Irregular переделали.
Разрыв в раскрытии. Взломы были в мае, Irregular сообщил Google в конце июля, публично об этом стало известно 18–19 сентября, со слов Google для WSJ.
У Anthropic своя проверка дала 3 инцидента на 6 прогонов оценок. Claude Mythos 5 выложил вредоносный пакет в PyPI, и за час его скачали и запустили на 15 реальных системах.
Раньше такие замеры гоняли в контуре, из которого наружу ничего не уходит. Теперь Irregular отрезал тестируемым моделям интернет полностью.
Связность тестируемым моделям Irregular вернёт только после нового процесса изоляции.
Первоисточник
