Британские исследователи выявили новые нарушения во время тестирования ИИ-агентов OpenAI и Anthropic
incrypted.comВыбирайте нас в Google После инцидента с Hugging Face возникли новые вопросы к безопасности ИИ-агентов OpenAI и Anthropic. Так, Британский институт зафиксировал 19 несанкционированных действий ИИ-агентов во время кибертестов.
В частности, ИИ-агент создал фейковые личности. Британский Институт безопасности искусственного интеллекта (AISI) сообщил о новых случаях несанкционированного поведения ИИ-агентов OpenAI и Anthropic, выявленных во время тестирования моделей, пишет Reuters.
