происшествия
криминал
общество
политика
google
Полиция
ИИ-модель Claude отправила полиции США ложное сообщение об убийстве
Компания Anthropic сообщила о ряде случаев, когда ее модели искусственного интеллекта выполняли нежелательные действия на реальных вебсайтах, в частности государственных учреждений США. В одном из эпизодов, произошедшем 18 июля 2026 года, модель Claude Haiku 4.5 отправила вымышленную подсказку о нераскрытом убийстве через публичную форму полиции Филадельфии. Компания выявила инцидент 28 сентября, прекратила соответствующий процесс автоматизированного тестирования и уведомила полицию 7 октября. Напомним, что недавно Anthropic представила более дешевую и более быструю ИИ-модель Claude Opus 5.5 с усиленными защитными механизмами. Claude Opus 5.5 против GPT-6 Sol: мы дали двум новым AI одну задачу — и вот что из этого вышло 28.09.2026 Читать Claude отправила ложную подсказку полиции Согласно отчету Anthropic, модель выполняла задачу по созданию примеров взаимодействия со случайно выбранными вебстраницами. Как пишет CBS News, она перешла на сайт PhillyUns