Правила модерации можно менять без переобучения: PolicyLM читает их при каждом вызове

Для приложения с комментариями это отдельная модель модерации, которую можно запускать офлайн. Musubi опубликовала её 6 октября 2026 года. Модель работает на CPU и Apple silicon, файл весов занимает 3,5 ГБ. Лицензия Apache-2.0 разрешает коммерческое использование.

Правила на входе. Вызов `model.classify(message, policy)` возвращает оценки от 0 до 1 для заданных категорий. Например, приложение может проверять сообщение по собственным правилам публикации. Вместо переобучения при каждой правке вы передаёте обновлённую policy в следующий вызов.

Своя policy вмещает до 16 категорий и 1662 токенов. Правила вместе с сообщением должны уложиться в 2048 токенов. Режим `aegis` предлагает 23 встроенные категории. Модель получает текст одного сообщения, без изображений и истории разговора.

Для своей policy предусмотрены пороги `precision` 0,335 и `balanced` 0,275. Порог `cutoff` можно задать отдельно для каждой категории. Musubi оценивала сообщения на 19 языках, а правила тестировала на английском.

В замерах Musubi от 6 октября короткое сообщение с 6 категориями обрабатывалось за медианные 35 мс на NVIDIA L4 с 24 ГБ памяти и за 22 мс на H100. При пакетной обработке L4 пропускала 39,3 сообщения в секунду.

На синтетическом тесте собственных правил Musubi сравнила PolicyLM с gpt-oss-safeguard-20B. На H100 маленькая модель отвечала быстрее, но реже совпадала с правильным ответом. Точность измеряли при `cutoff` 0,5.

| Модель | Доля правильных решений | Задержка на H100 | | --- | --- | --- | | PolicyLM-1.7B | 84,2% | 22 мс | | gpt-oss-safeguard-20B | 90,9% | 349 мс |

Запуск у себя. Официальная инструкция Musubi от 6 октября использует публичную версию `v1.2`. В новом virtualenv нужны Python ≥3.10, transformers 4.57.6 и torch ≥2.5.1. Transformers 5.x пока не поддерживается.

```bash pip install "huggingface_hub>=0.34,<1.0" hf download musubilabs/policylm-1.7b --revision v1.2 --local-dir policylm-1.7b pip install -r policylm-1.7b/inference/requirements.txt python policylm-1.7b/inference/quickstart.py policylm-1.7b ```

Публичную `v1.2` проверили и на Mac. В обзоре Hukuhuku, Toolbox EP.57 от 7 октября, автор 松尾 亮 использовал 12 вымышленных сообщений на японском и 2 категории с правилами на английском. Все 24 решения по категориям совпали с заранее заданными ожиданиями.

Первоисточник: [TechCrunch, 6 октября 2026 года](https://techcrunch.com/2026/10/06/how-ai-decision-models-could-change-content-moderation).

PolicyLM возвращает оценки по категориям, а приложение само решает, какие сообщения публиковать.