Microsoft технологии жертва Microsoft

Искусственный интеллект Microsoft выявил свою собственную слабость

Специалисты Varonis Threat Labs назвали эту уязвимость "CoSnitch". Благодаря продуманным вопросам им удалось заставить Copilot раскрыть технические детали своей работы.

Ответы чат-бота постепенно раскрывали информацию об архитектуре системы, что в конечном итоге привело к обнаружению уязвимости.Исследователи неоднократно спрашивали Copilot, почему определенные атаки невозможны.

DMCA