ИИ-модель Claude отправила полиции США ложное сообщение об убийстве
incrypted.comВыбирайте нас в Google Модель Claude Haiku 4.5 отправила ложное сообщение об убийстве через сайт полиции Филадельфии. Anthropic выявила и другие случаи нежелательных действий моделей на сайтах государственных учреждений, в частности обход ограничений доступа к данным.
Компания прекратила часть тестирований с доступом к реальному интернету, а администрация США потребовала прозрачности и возмещения нанесенного ущерба.
