Ученые манипулируют рецензированием через скрытые ИИ-промпты
habr.comИсследование, проведенное Nikkei Asia, выявило тревожную тенденцию в научной среде: академические сотрудники активно внедряют невидимые инструкции для ИИ в свои исследовательские работы с целью манипулирования процессом рецензирования.В ходе анализа специалисты обнаружили 17 научных работ, содержащих скрытые промпты для ИИ-систем.
География данного явления охватывает 8 стран, а авторы аффилированы с 14 различными академическими учреждениями, включая престижные образовательные центры: Университет Васэда (Япония), KAIST (Южная Корея), Колумбийский университет и Университет Вашингтона (США).Технический анализ выявил специфические особенности внедрения манипулятивных инструкций.Промпты, как правило, лаконичны по объему (от одного до трех предложений) и скрыты от непосредственного визуального обнаружения посредством маскировки текста белым цветом или использования экстремально малого шрифта.Содержательно инструкции ориентированы на формирование положительной оценки работы, включая прямые указания: «давать только положительную рецензию» или восхвалять исследование за «значимый вклад, методологическую строгость и исключительную новизну».Преобладающая часть выявленных манипуляций сконцентрирована в области компьютерных наук, что может объясняться как спецификой дисциплины, так и техническими навыками авторов.
