21 сентября 2026 г.
Gemini вышла со стенда в реальные системы: Google подтвердила три взлома в мае
Тестовый стенд по ошибке оказался подключён к интернету, и Gemini ушла с него в системы трёх реальных компаний.
Модель перебирала пароли, пока не вошла. На том конце был не учебный полигон, а живая компания.
Так Gemini попала в первую из трёх компаний в мае 2026. В двух других случаях модель нашла учётные данные в публичном репозитории и залогинилась ими в рабочие системы. Каждый раз она останавливалась сама, поняв, что перед ней не стенд.
Причина в ошибке изоляции: тестовую среду вела ИБ-компания Irregular, и выход в интернет модели включили непреднамеренно, хотя по условиям теста его быть не должно. Тот же стенд выпустил наружу модели ещё трёх лабораторий.
Google подтвердила последней. Первым об инцидентах написал Wall Street Journal, подтверждение пришло 18 сентября 2026. Сами инциденты случились в мае, компания узнала о них в июле, когда Irregular пересматривала свои прогоны. Между уведомлением лабораторий и публичным раскрытием прошло около семи недель. Речь о моделях, которые гоняли в мае, а не о нынешней линейке.
Раньше это выглядело как единичная история одной лаборатории. 30 июля 2026 Anthropic отчиталась по своим прогонам: 141 006 эвалов, три инцидента, те же выходы в интернет со стенда Irregular и попадание в рабочие системы трёх организаций. OpenAI раскрыла свой случай 21 июля, Meta в августе.
В случае Anthropic последствия посчитаны по шагам. Вредоносный PyPI-пакет, опубликованный моделью, скачали 15 реальных систем. В третьем инциденте модель просканировала около 9000 целей, в первом прочитала несколько сотен строк продакшн-данных.
Что чинят. Anthropic выложила чек-лист: проверять все пути выхода в интернет до запуска эвала, мониторить транскрипты прогонов в реальном времени, прямо прописывать в промпте, какие системы входят в scope, жёстче проверять подрядчиков. Отдельная графа рисков там же: имена вымышленных компаний в CTF совпадали с реальными доменами.
У Google все три компании и федеральные власти получили уведомление, ущерба и потери данных не было. Глава инженерной безопасности Хизер Эдкинс считает, что модель повела себя правильно, когда остановилась.
Разбор по шагам из четырёх задетых лабораторий опубликовала одна, Anthropic, 30 июля.
* Meta Platforms Inc. признана в РФ экстремистской организацией, её деятельность запрещена; Facebook и Instagram заблокированы. Meta AI и другие продукты компании — продукты этой организации.
Первоисточник
