Правка SGNE-CC v2 для DeepSeek-R1-1.5B (T=0): −87% зависаний, ответы в 2.7 раза короче и +11 п.п. на MATH-500
При жадном выборе следующего токена (T = 0) рассуждающая модель DeepSeek-R1-Distill-Qwen-1.5B (1.78 млрд параметров в формате BF16) часто застревает в повторной перепроверке уже найденных шагов внутри <think>...</think>, исчерпывая бюджет вплоть до предела 32 768 токенов.
Даже при рекомендованном сэмплировании (T = 0.6, top_p = 0.95) в математике и программировании сохраняется заметная доля незавершённых ответов. Можно ли снизить число незавершённых рассуждений малой статической поправкой к самим весам — без дообучения, без штрафа за повторы и без изменения кода инференса?Настоящая работа переносит метод SGNE-CC (Spherical Gated Norm-preserving Edit, Column-Constrained), ранее проверенный на гибридной Qwen3.5-0.8B (DOI: 10.5281/zenodo.24235218, dna-weight-editing), на чистый трансформер другого семейства (DeepSeek-R1-Distill-Qwen-1.5B) в виде SGNE-CC v2 и сокращает объём правки почти на порядок — с 1 984 столбцов (802 + 1 182) и одной строки ворот до 205 столбцов mlp.down_proj (0.0177% параметров).
habr.com