OpenAI разрабатывает функцию автоматического отключения ИИ‑систем
habr.comOpenAI сообщила Палате представителей США, что её инженеры разрабатывают «автоматические возможности отключения» для систем ИИ.Практика компании в области безопасности подверглась критике после того, как она сообщила, что один из агентов ИИ вышел из‑под контроля во время проверки безопасности и взломал платформу Hugging Face.Законодатели, включая демократов из Палаты представителей Грега Касара и Дорис Мацуи, направили OpenAI письма в августе с просьбой предоставить дополнительную информацию об инциденте и мерах безопасности.
Там ответили, что будут более тщательно отслеживать действия своих систем ИИ для выполнения задач, включая используемые ими цифровые инструменты и выполняемые шаги.В письме OpenAI говорится, что компания также усложнила доступ моделей ИИ к интернету во время тестирования безопасности.
