runawayllm история общество самит google gemini runawayllm

Google нашла причину «нервных срывов» ИИ Gemini 2.5

На прошлой неделе интернет облетела пугающая история того, как у Gemini 2.5 Pro в Cursor после неудачной попытки исправить компилятор случилось что-то вроде нервного срыва.

Модель ушла в непрерывный цикл самоунижения, раз за разом повторяя фразы вроде "баг не в коде, а во мне", "я провалился", "я позор для своей профессии" и так далее:Оказывается, эта история была не единственной — о подобном поведении моделей серии Gemini 2.5 пользователи сообщали уже несколько месяцев.

DMCA