Новый эксперимент с Othello подтверждает гипотезу о модели мира для больших языковых моделей
Исследователи из Копенгагенского университета по-новому взглянули на гипотезу «мировой модели Othello», задавшись вопросом, могут ли LLM усвоить правила и структуру доски в Othello, просто анализируя последовательности ходов.Гипотеза о модели мира Othello предполагает, что языковые модели, обученные только на последовательности ходов, могут сформировать внутреннюю модель игры, включая расположение фигур на доске и игровую механику, даже не видя правил или визуального представления.
Теоретически эти модели должны быть способны предсказывать допустимые следующие ходы, основываясь исключительно на этой внутренней карте.Идея о том, что генеративный ИИ может создавать модели мира, стала более популярной, особенно после Sora от OpenAI.
habr.com