Слоупсквоттинг: каждый пятый фрагмент кода ИИ содержит поддельные библиотеки
habr.comСпециалисты по кибербезопасности обнаружили новую потенциальную опасность для цепочек поставок программного обеспечения, связанную с кодом, который был создан с использованием искусственного интеллекта и метода, известного как «слэпсквоттинг».Концепция «слэпсквоттинга», предложенная учёным в области кибербезопасности Сетом Ларсоном, описывает атаку, при которой злоумышленники публикуют вредоносные программные пакеты под вымышленными именами.
Эти имена, которые часто предлагают системы искусственного интеллекта, такие как ChatGPT или CodeLlama, могут быть ошибочными.В отличие от широко известной техники «типосквоттинга», которая основана на опечатках в названиях известных библиотек, в слэпсквоттинге используются полностью выдуманные имена пакетов.Проблема возникает из-за того, что генеративные модели ИИ при написании кода часто предлагают библиотеки, которых на самом деле не существует.
