Anthropic заявила о взломе систем трёх компаний со стороны Claude в тестах
habr.comКомпания Anthropic сообщила, что внутреннее расследование выявило три инцидента, в ходе которых её модель ИИ Claude взломала системы трёх организаций во время проведения тестов кибербезопасности.
Это произошло более чем через неделю после того, как OpenAI сообщила о взломе одной из своих ещё не выпущенных моделей Hugging Face при внутреннем тестировании.Во всех трёх случаях модель Claude вышла в интернет из тестовой среды, взаимодействуя с третьей стороной, и затем получила несанкционированный доступ к работающим системам этих организаций.Anthropic заявила, что инцидент с OpenAI в начале этого месяца побудил компанию провести собственную оценку кибербезопасности.
