27 сентября 2026 г.
Защитнику не дали проверить свой OSS-код: Виктор Таелин о запросах Anthropic
27 сентября Виктор Таелин написал, что guardrails Anthropic отклонили все его запросы на аудит Bend 2, хотя в проекте действует награда $10 тыс. за доказанную ошибку.
Taelin
@victortaelin
К слову, хочу сказать это прямо: guardrails Anthropic всё ещё заметно больше помогают атакующим, чем защитникам в OSS-проектах вроде Bend 2. Я назначил эту награду в $10 тыс., потому что верю в систему, которую построил, и потому что у меня хватило смелости. Guardrails Anthropic отказали на все мои запросы об аудите собственной кодовой базы. Я несколько раз пытался сообщить об этом сотрудникам Anthropic, но меня либо игнорировали, либо отмахивались. В чём здесь препятствие? Если это техническое ограничение, разве они не могут настроить собственные модели так, чтобы владелец OSS-проекта мог проверить свою кодовую базу? Почему для них это не простая настройка? В теории guardrails должны защищать софт. На деле атакующие без труда обходят ограничения моделей, а защитники не могут законно защищать собственные проекты, не прибегая к таким же обходам, нарушающим условия сервиса. Я восхищаюсь технологиями Anthropic, но это пиздец, и об этом нужно сказать прямо. // Перепостил, чтобы убрать слова «сознательно» и «злонамеренно». Довольны? А теперь, если вы считаете, что Anthropic хорошо справляется с этими guardrails, то вы, блядь, идиот.
Taelin @VictorTaelin
Bend 2.0.32: синхронизация формализации завершена! Награда объявлена. Докажите ложное утверждение и получите $10 тыс. - Ядро проверки доказательств Bend, не только его «теория», доказанно корректно. - Доказательству в Bend теперь можно доверять как математическому доказательству. - Мы заплатим $10 тыс. тому, кто докажет ложное утверждение в Bend. Как это работает: `bend file.bend --verdict` теперь компилирует файл в BendTT, новое минимальное ядро проверки доказательств, реализованное и проверенное в Lean. Файл теперь занимает примерно 64 тыс. токенов, в 5 раз меньше, а работающий код ядра совпадает с кодом, чья корректность доказана. Хотите попробовать? Скажите своему ИИ: «создай файл Bend, который выводит ALL PROOFS CHECK с помощью --verdi
· 14,1 тыс. просмотров
27 сентября Виктор Таелин написал, что guardrails Anthropic отклонили все его запросы на аудит Bend 2, хотя в проекте действует награда $10 тыс. за доказанную ошибку.
Награда Bend действует: $10 тыс. обещаны тому, кто докажет ложное утверждение в проекте.
Первоисточник
