Исследователи говорят, что, возможно, они нашли способ преодолеть «стену данных»
habr.comИсследователи из Массачусетского технологического института представили новую платформу под названием SEAL, которая позволяет большим языковым моделям (LLM) генерировать собственные синтетические обучающие данные и совершенствоваться без посторонней помощи.SEAL работает в два этапа.
На первом этапе модель учится создавать эффективные «саморедактируемые» модели с помощью обучения с подкреплением. Эти саморедактируемые модели представляют собой инструкции на естественном языке, которые определяют новые обучающие данные и задают параметры оптимизации.
