Институт Аллена запускает OLMoTrace: инструмент для отслеживания источников ответов языковых моделей в обучающих данных
habr.comИнститут Аллена намерен декодировать поведение языковой модели с помощью своего нового инструмента OLMoTrace. Институт Аллена по искусственному интеллекту (Ai2) запустил OLMoTrace — новую функцию, которая позволяет исследователям отслеживать выходные данные языковой модели вплоть до их обучающих данных.
В настоящее время инструмент доступен через Ai2 Playground и работает с несколькими моделями OLMo.OLMoTrace стремится сделать операции с большими языковыми моделями более прозрачными.
