В OpenAI рассказали, почему ИИ галлюцинируют
На сайте OpenAI опубликована научная работа, посвященная причинам галлюцинаций больших языковых моделей и предлагаемым способам борьбы с ними.
Исследователи компании отмечают, что обучение начинается с больших корпусов текстов, в которых нет меток "правда" или "ложь" — только примеры, как пишут люди.
habr.com