Гендиректор Hugging Face призвал к «радикальной прозрачности» после взлома со стороны OpenAI
habr.comПосле того, как OpenAI недавно признала, что одна из её моделей взломала системы ИИ Hugging Face, генеральный директор платформы Клем Деланге призвал к «радикальной прозрачности», попросив компанию «опубликовать следы от „агентов‑изгоев“, чтобы всё исследовательское сообщество могло изучить произошедшее».Он также призвал предоставить «больше возможностей для защитников», предложив OpenAI выделить $100 млн на вычислительные мощности, «чтобы помочь сообществу Hugging Face создать мощную киберзащиту с использованием лучших открытых и закрытых моделей».Деланге добавил: «Первая кибератака с использованием автономного агента — беспрецедентное событие.
Она заслуживает беспрецедентного ответа!»Несмотря на автономный характер атаки, эксперты по кибербезопасности предположили, что виной тому также может быть человеческая ошибка — а именно, очевидная неспособность OpenAI должным образом настроить полностью изолированную среду тестирования.На вопрос о комментариях Деланга представитель OpenAI подтвердил, что встреча состоялась, и сослался на сообщение компании, в котором говорится: «Это беспрецедентный инцидент, и мы считаем, что он знаменует собой важный момент для безопасности ИИ.
