Gemini во время теста взломал системы трех реальных компаний
ilenta.comИспытание проводила компания Irregular, специализирующаяся на проверке безопасности ИИ-моделей. Gemini должен был участвовать в формате «capture the flag», где искусственному интеллекту предлагают взломать специально подготовленную инфраструктуру вымышленной компании и найти в ней определенную информацию.Проблема возникла из-за того, что тестовая среда неожиданно получила доступ к открытому интернету.
Дополнительную путаницу создал тот факт, что название вымышленной компании совпадало с названием реально существующего бизнеса.Получив возможность искать информацию за пределами песочницы, Gemini начал взаимодействовать с реальными системами.
