Microsoft провела провальное тестирование ИИ-агентов на фальшивой торговой площадке
habr.comИсследователи Microsoft представили новую среду моделирования, предназначенную для тестирования агентов на основе искусственного интеллекта.
Они показали, что существующие модели агентов могут быть уязвимы для манипуляций. Исследование, проведённое совместно с Университетом штата Аризона, поднимает новые вопросы о том, насколько хорошо агенты на основе ИИ будут работать без контроля человека.Среда моделирования, получившая название «Magentic Marketplace», представляет собой синтетическую платформу для экспериментов с поведением агентов на основе ИИ.
