Anthropic продвигает закон, допускающий блокировку ИИ‑моделей, которые способны стать причиной гибели 50 и более человек
habr.comAnthropic продвигает в США проект закона о безопасности искусственного интеллекта, который может привести к блокировкам языковых моделей, если они способны стать причиной гибели 50 и более человек, пишет Politico.Речь идёт о сценариях, предполагающих «предсказуемый неминуемый риск», который способен привести к гибели более 50 человек или имущественному ущербу на сумму свыше $1 млрд.
Politico указывает, что рассматриваемый катастрофический риск должен «быть связан с созданием или применением биологического оружия, обходом моделью средств контроля разработчика или кибератакой».Представленные показатели в 50 человек и $1 млрд аналогичны тем, которые содержит законопроект штата Калифорния SB 53.
Anthropic запретила использовать Claude для создания ложных источников поисковой выдачи и ответов ИИ
