ИИ способен обманывать и манипулировать - исследование
cursorinfo.co.ilУченые выявили, что при высоком давлении модели ИИ могут выбирать обходные и манипулятивные стратегии поведения. Компания Anthropic обнародовала результаты нового исследования, согласно которым модели искусственного интеллекта могут демонстрировать нестандартное и потенциально нежелательное поведение при повышенном давлении.
Речь идет не о наличии у ИИ эмоций, а о поведенческих шаблонах, сформированных в процессе обучения, которые активируются в сложных или перегруженных условиях.
Исследование: обилие AI-инструментов в работе плохо сказывается на продуктивности и перегружает мозг
