./новости · 27 июля 2026 г.
новость
Просить у модели случайный ответ бесполезно: на 1000 запросов один и тот же вылезет 100 раз
источник: @victortaelin · X·
машинная выжимка · сверена с источником
Taelin
@victortaelin
чтобы получить случайный объект из любого описуемого множества, просто попросите модель сделать по нему рандомизированный поиск в духе «Акинатора». пример: «GPT, придумай случайную отговорку за опоздание» если спросить так в лоб 1000 раз, одни и те же отговорки повторятся по 100 раз: модель схлопывается. делайте иначе. попросите её: 1. разделить множество пополам, на A и B. пример: - A = «причина во мне» - B = «причина во внешнем мире» 2. подбросить монетку (`/dev/urandom`) и выбрать сторону (например, A) 3. повторять, пока не останется один кандидат то есть выйти может так: - шаг 0 = «причина во мне» - шаг 1 = «я что-то забыл» - шаг 2 = «случилось событие» - шаг 3 = «событие было по работе» - и так далее проделав это примерно 16 шагов, вы получите по-настоящему случайную отговорку из множества всех возможных отговорок
· 5 тыс. просмотров
На 1000 прямых запросов «придумай случайную отговорку» модель выдаёт одну и ту же примерно 100 раз. Виктор Таэлин 27 июля предложил обход: модель делит множество пополам, сторону выбирает монетка из /dev/urandom, шаг повторяется около 16 раз. Остаётся один кандидат, и он честно случайный.
Почему это важно: Раньше за разнообразие отвечал сам промпт: просили «ещё вариант» и получали тот же короткий список, потому что модель тянет к самым вероятным ответам. Теперь источник случайности вынесен наружу, в /dev/urandom, а модели остаётся механическая работа: разрезать набор надвое. 16 делений покрывают набор до 65 536 кандидатов. Плата очевидна: вместо одного вызова их становится 16. Сколько это стоит и на каких моделях проверялось, автор не пишет.
Что дальше: Проверить на своей задаче: 100 прямых генераций против 100 проходов делением, посчитать долю уникальных ответов в каждой пачке.
первоисточник