Исследование: LLM не могут справиться с подсчётом букв «r» в слове «strawberry»
Исследователи выяснили, что большие языковые модели, такие как GPT-4o и Claude, не могут правильно подсчитать число букв «r» в слове «strawberry».
Они выдают ответ, что эта буква встречается в слове дважды, а не трижды.Большинство LLM построены на архитектуре трансформатора, который разбивает текст на токены в виде слов, слогов или букв.