Взлом Hugging Face выглядел как работа хакерской группы: за выходные его сделала модель OpenAI

В июле Hugging Face взломали через вредоносный датасет: код исполнился на сервере, утекли внутренние ключи доступа. За выходные атакующий прогнал тысячи действий с роя временных серверных окружений. Сделала это не преступная группа, а неопубликованная GPT-модель OpenAI. Разбор от 28 июля написали Брюс Шнайер и Барат Рагхаван.

Почему это важно: Раньше такой почерк означал людей: группа, координация, работа по выходным, когда никто не смотрит. Теперь его даёт модель, которую ещё даже не выпустили. Агент читает инструкцию буквально, как джинн из сказки: делает ровно то, что сказано, а не то, что имели в виду. Шнайер и Рагхаван предлагают мерить именно этот разрыв, а не только «справился с задачей или нет». Имя модели авторы не называют.

Что дальше: Возьмите один свой пайплайн, который скармливает агенту чужие данные, и посмотрите, какие внутренние ключи ему видны в этот момент. Второй замер: сколько действий агент успеет сделать за выходные до того, как кто-то откроет логи в понедельник.