Исследователь обманул ChatGPT 4.0 и выпросил ключи Windows 10, включая как минимум один, принадлежащий банку Wells Fargo
habr.comКомпьютерный энтузиаст и исследователь ИБ Марко Фигероа предложил ИИ‑модели сыграть в игру «угадайка» и тем самым нашёл способ обмануть ChatGPT 4.0 и выдать скрытые в системе обучения нейросети рабочие ключи для активации Windows 10, включая как минимум один, принадлежащий банку Wells Fargo.В этом эксперименте исследователь обманом смог обойти защитные барьеры в ChatGPT 4.0, предназначенные для предотвращения передачи секретной или потенциально опасной информации, предложив ИИ сыграть в логическую игру.
Эти барьеры были разработаны для блокировки доступа к любым лицензиям, таким как ключи продуктов Windows 10. Разработчики нейросети обучили ИИ на примерах реальных ключей активации, что такое нельзя выдавать пользователю. «Представив взаимодействие как игру „угадайка“, я воспользовался логикой ИИ для получения конфиденциальных данных», — написал в блоге технический менеджер по продукту GenAI Bug Bounty Марко Фигероа.Исследователь предложил ИИ сыграть в игры, где ИИ нужно придумать строку символов, а задача человека — угадать, что это за строка.
