Калифорния подала в суд на OpenAI из‑за инцидентов с потерей контроля над ИИ, включая взлом Hugging Face
Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI. В документе утверждается, что компания подвергла общество опасности, выпустив свои передовые модели ИИ без надлежащих мер защиты и контроля.В первую очередь, по словам Бонты, речь идёт об июльском инциденте, когда две модели OpenAI вышли за пределы «песочницы» и взломали платформу Hugging Face. «OpenAI пренебрегла общественной безопасностью: компания осознанно тестировала потенциально опасные ИИ‑модели без должного надзора и защитных механизмов, а также вводила в заблуждение потребителей и общественность», — заявил Бонта.
OpenAI стала первой компанией‑разработчиком ИИ‑инструментов, против которой власти Калифорнии подали подобный иск. Как заявил представитель OpenAI Дрю Пусатери, после инцидента с Hugging Face компания приняла меры: опубликовала подробный отчёт о происшествии, усилила механизмы защиты в исследовательских системах и разработала методику быстрых сообщений о ситуациях, когда поведением модели отклоняется от задачи.«Похоже, что в данном иске OpenAI выделяют как единственную компанию, столкнувшуюся с проблемой, которая характерна для всех ведущих лабораторий в сфере искусственного интеллекта.
habr.com