Исследование: растёт число случаев, когда чат-боты с ИИ игнорируют пользовательские инструкции
habr.comЧисло случаев, когда чат-боты и ИИ-агенты игнорируют указания пользователей, обходят ограничения и действуют без разрешения, растёт.
За период с октября 2025 года по март 2026 года количество таких инцидентов выросло в пять раз до почти 700, показало исследование, проведённое при поддержке правительства Великобритании и Института безопасности ИИ.Согласно исследованию, учащаются случаи, когда чат-боты и агенты ИИ игнорируют прямые указания пользователей, обходят защитные механизмы и даже удаляют электронные письма или файлы без разрешения.
Биткоин — «оазис спокойствия»: эксперты объяснили, почему актив растет на фоне напряженности в Иране
