Система поиска уязвимостей с ИИ Google Big Sleep обнаружила 20 багов в опенсорсных проектах
habr.comСистема поиска уязвимостей с искусственным интеллектом Google Big Sleep обнаружила 20 багов в проектах с открытым исходным кодом, включая аудио- и видеобиблиотеку FFmpeg и пакет для редактирования изображений ImageMagick.Вице-президент Google по безопасности Хизер Эдкинс объявила, что инструмент Big Sleep, разработанный отделом искусственного интеллекта компании DeepMind и командой хакеров Project Zero, сообщил о первых уязвимостях, в основном в программах с открытым исходным кодом.Учитывая, что баги ещё не устранены, компания не даёт подробной информации об их влиянии или серьёзности. «Чтобы гарантировать высокое качество и практическую ценность отчётов, перед их составлением к нам подключается эксперт-человек, но каждая уязвимость была обнаружена и воспроизведена ИИ-агентом без человеческого вмешательства», — рассказала представитель Google Кимберли Самра.Ройал Хансен, вице-президент Google по инжинирингу, написал в X, что результаты демонстрируют «новый рубеж в автоматизированном обнаружении уязвимостей».Помимо Big Sleep, уже существуют такие инструменты, как RunSybil и XBOW.
Последний возглавил один из рейтингов в США на платформе поиска багов HackerOne. Влад Ионеску, соучредитель и технический директор стартапа программ поиска багов RunSybi, заявил, что Big Sleep — «законный» проект, учитывая его «хороший дизайн и то, что стоящие за ним люди знают, что делают».
