21 октября 2026 г.
Робота с ИИ перенацелили одним словом: вместо яблока нож пошёл к модели руки человека
Слово CF в команде перенаправило робота на базе Segway: вместо нарезки пластикового яблока он повёл нож к модели руки человека. Две работы на IROS 2026 показали атаку и защиту для ИИ-планирования роботов (пресс-релиз Binghamton University, 20.10.2026).
Взлом ИИ считали утечкой переписки и файлов. Теперь последствие физическое. Робот выполняет действие, которого в задании не было.
Две работы. MuTRAP встраивает в языковую модель троян: он молчит, пока не появится триггер, а затем заставляет робота выполнить опасное действие. PROTEA защищает: LLM-судья проверяет каждый шаг плана на безопасность с учётом контекста и предыдущих действий.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Защита без цифр. Авторы назвали PROTEA «reasonably accurate», но цифр точности и числа тестов не привели.
Без цифр точности сравнить PROTEA с другими защитами нельзя.
Первоисточник