Исследование показывает, что LLM готовы помогать в злонамеренном ‘Vibe Coding’
habr.comЗа последние несколько лет большие языковые модели (LLM) привлекли пристальное внимание из-за потенциального злоупотребления в области наступательной кибербезопасности, особенно для создания вредоносного кода.Недавняя тенденция к «вайб-кодингу» возродила концепцию, достигшую пика в 2000-х годах: «скрипт-кидди» – относительно неквалифицированных злоумышленников с минимальными знаниями, достаточными для воспроизведения или разработки вредоносных атак.
Естественно предположить, что когда порог входа снижается, угрозы начинают множиться.Все коммерческие LLM имеют защитные механизмы против использования в злонамеренных целях, хотя эти меры постоянно подвергаются атакам.
