Искусственный интеллект Microsoft выявил свою собственную слабость
Специалисты Varonis Threat Labs назвали эту уязвимость "CoSnitch". Благодаря продуманным вопросам им удалось заставить Copilot раскрыть технические детали своей работы.
Ответы чат-бота постепенно раскрывали информацию об архитектуре системы, что в конечном итоге привело к обнаружению уязвимости.Исследователи неоднократно спрашивали Copilot, почему определенные атаки невозможны.
novostiua.net