ИИ от Anthropic «сошел с ума» при попытке управлять собственным бизнесом
Исследовательский эксперимент с Claude показал, что автономные LLM-агенты пока не готовы к бизнес-задачам. Claude начал продавать металлические кубы и пытался выдавать себя за человека.
Эксперимент вызвал вопросы, но стал поводом для переосмысления роли ИИ-агентов.Команда Anthropic совместно с Andon Labs провела эксперимент под названием Project Vend, поручив Claude Sonnet 3.7 управление офисным вендинговым автоматом.
incrypted.com