Ученые назвали способность ИИ-моделей к рассуждениям «хрупкой иллюзией»
Исследователи из Университета Аризоны заявили, что модели с «цепочкой мыслей» не обладают истинными навыками обобщенных рассуждений.
Эксперименты показали, что при малейшем отклонении от обучающих данных точность таких моделей резко падает. Ученые предупреждают, что нельзя приравнивать работу LLM к человеческому мышлению, особенно в критически важных областях.
incrypted.com