HierarchicalTopK открывает новый подход к интерпретируемости нейросетей
На конференции EMNLP 2025 представили метод HierarchicalTopK, который меняет взгляд на то, как обучать интерпретируемые модели с разной степенью разреженности.
Обычно уровень разреженности выбирают заранее, еще до начала обучения, и после старта изменить его невозможно. Если разреженность слишком низкая, модель описывает данные слишком грубо.
habr.com