Anthropic назначила Claude управлять торговым автоматом. ИИ-агент провалился за месяц
habr.comВ блоге Anthropic появился рассказ об эксперименте Project Vend, который компания провела совместно с Andon Labs, фирмой, занимающейся безопасностью ИИ.
В нем ИИ-агент на базе Claude Sonnet 3.7 управлял небольшим торговым киоском в офисе Anthropic в Сан-Франциско. Для Claude был написан специальный промпт, в котором объяснялась суть его работы и основная цель - приносить прибыль.
