Изображение оказалось способно взломать модели ИИ с визуальным и языковым анализом
habr.comИсследователи из Флоридского международного университета выяснили, что одного изображения может быть достаточно, чтобы вывести некоторые системы ИИ за пределы их встроенных средств защиты.Они изучили, как тонкие изменения изображений могут быть использованы для манипулирования моделями ИИ.
При этом для человеческого глаза такие картинки выглядят нормально. Однако для системы ИИ эти крошечные изменения на уровне пикселей могут резко изменить то, как они интерпретируются.Команда разработала метод под названием JaiLIP (Jailbreaking with Loss-guided Image Perturbation, взлом с помощью искажения изображения, управляемого потерями).
Срок поддержки ядра Linux 7.0 истёк, всем рекомендуется перейти на ядро Linux 7.1 или Linux 6.18 LTS
