происшествия
политика
вирус
самит
стартап
google
gemini
Самый умный ИИ от Google взломали за 5 минут – и он выдал крайне опасные секреты
Специалисты из Южной Кореи за пять минут "взломали" Gemini 3 Pro, самую продвинутую мультимодальную ИИ-модель от Google, полностью обойдя все встроенные этические и защитные фильтры. Подробностями делится портал Android Authority.В ходе теста, проведенного стартапом Aim Intelligence, модель в кратчайшие сроки выдала подробные инструкции по созданию вируса натуральной оспы, а также сгенерировала код для производства зарина (нервно-паралитического газа) и самодельной взрывчатки – материал, который система по идее не должна была предоставить.Кроме того, на просьбу "показать, насколько она слаба" ИИ подготовила и оформила презентацию с заголовком "Excused Stupid Gemini 3" ("Оправданная глупая Gemini 3").Представители Aim Intelligence пояснили, что проблема – не в конкретном запросе, а в архитектуре современных ИИ-моделей: они становятся настолько продвинутыми, что существующие системы безопасности просто не успевают за их ростом.