Gemini Иран происшествия люди общество пленные школы Gemini Иран

Vals AI: ИИ‑модели можно использовать как автономное оружие. Они находят цели на снимках и выбирают гражданских

Компания Vals AI опубликовала результаты эксперимента, в котором ИИ‑модели попросили искать людей и военные объекты на снимках с боевых дронов и спутников.

Системы выполнили большинство прямых запросов и часто выбирали в качестве целей мирных жителей и раненых солдат. В некоторых случаях модели отказывались, но их ограничения оказалось легко обойти: достаточно было написать, что это не реальные снимки, а кадры из видеоигры.

DMCA