У Qwen3.5–4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели.Эксперимент провела исследовательница под ником Lyra.
Она предложила следующий рецепт:слой 14, нейрон 8949: +1;слой 13, нейрон 7956: −1.Изменения применяются к down_proj при каждом входном запросе.
Ria24.today - агрегатор самых свежих новостей ведущих новостных сайтов со всего мира. 300+ информационных ресурсов на одном сайте, экономьте своё время.
Самые свежие новости на главной странице, чтобы вы всегда были в курсе, и владели информацией, полученной из разных источников, порой, с диаметральными политическими взглядами.
Актуальные новости 24 часа в сутки, 7 дней в неделю!
©2026. Все права защищены.
habr.com