Жительницу Флориды арестовали за обсуждение с Claude планов «устроить стрельбу» в офисе шерифа
Жительнице города Бонита‑Спрингс в штате Флорида 30-летней Карли Мишель Хеллер предъявили обвинения в совершении тяжкого преступления, когда стало известно, что она обсуждала с чат‑ботом Claude планы устроить стрельбу в офисе шерифа, пишет Gulf Coast News.Во время беседы с инструментом искусственного интеллекта от Anthropic Хеллер рассказала, что уже купила оружие.Общение с чат‑ботами нельзя назвать конфиденциальным.
Компании‑разработчики ИИ создали механизмы защиты, которые помечают подозрительные сообщения, представляющие угрозу опасных действий.
habr.com