Cisco выпустила «ДНК-тест» для нейросетей: как Model Provenance Kit ищет скелеты в коде
gagadget.comПредставьте, что вы загружаете модель из открытого репозитория так же легко, как когда-то музыку с торрентов. Проблема в том, что вместе с «умной» нейросетью в корпоративную инфраструктуру может прилететь неприятный сюрприз: от скрытых уязвимостей до намеренно «отравленных» весов.
Компания Cisco решила, что хватит играть в эту лотерею, и презентовала Model Provenance Kit — инструмент с открытым кодом для проверки «родословной» искусственного интеллекта.Сегодня на платформах вроде Hugging Face доступны миллионы моделей.
