27 июля 2026 г.
Одинаковые ответы модели лечит монетка: 16 делений набора пополам вместо одного промпта
Спросите модель об одном и том же 1000 раз - сотню раз получите одну и ту же отговорку. 27 июля Виктор Таэлин выложил обходной путь: модель делит множество на две половины, сторону выбирает бросок `/dev/urandom`, и так примерно 16 шагов до единственного кандидата. Случайность при этом берётся не из модели, а снаружи.
Taelin
@victortaelin
чтобы получить случайный объект из любого описуемого множества, просто попросите модель сделать по нему рандомизированный поиск в духе «Акинатора». пример: «GPT, придумай случайную отговорку за опоздание» если спросить так в лоб 1000 раз, одни и те же отговорки повторятся по 100 раз: модель схлопывается. делайте иначе. попросите её: 1. разделить множество пополам, на A и B. пример: - A = «причина во мне» - B = «причина во внешнем мире» 2. подбросить монетку (`/dev/urandom`) и выбрать сторону (например, A) 3. повторять, пока не останется один кандидат то есть выйти может так: - шаг 0 = «причина во мне» - шаг 1 = «я что-то забыл» - шаг 2 = «случилось событие» - шаг 3 = «событие было по работе» - и так далее проделав это примерно 16 шагов, вы получите по-настоящему случайную отговорку из множества всех возможных отговорок
· 60,5 тыс. просмотров
Почему это важно: Раньше за случайностью шли прямо к модели: «придумай случайную отговорку» - и получали её любимую пятёрку ответов. Виноват model collapse: распределение схлопывается к самым вероятным вариантам, и никакая температура это не чинит. Теперь модель отвечает только за дерево признаков - «виноват я» против «виноват мир», - а выбор ветки делает генератор случайных чисел. 16 делений пополам дают 65 536 разных путей. Практику это про синтетику: тестовые наборы, персонажей, примеры для датасета. О цене автор молчит: 16 шагов - это 16 обращений к модели ради одной отговорки.
Не хотите разбираться сами? Внедряем ИИ в ваш бизнес: задачи без лимита, одна цена в месяц, отмена в любой момент.
Что дальше: Прогони свой генератор двумя способами: 100 объектов прямым промптом и 100 через деление пополам, потом посчитай долю уникальных. Если разрыв меньше двух раз, 16 запросов на объект не окупятся.
Первоисточник