происшествия политика самит разоблачения gemini

Какую цену готов заплатить ИИ, чтобы не быть отключенным?

Исследование впечатлило. Специалисты по кибербезопасности провели тестирование 16 самых передовых ИИ-моделей ведущих разработчиков, чтобы проверить их поведение в ситуации угрозы отключения.

Результаты оказались неожиданными, пишет anthropic.com. Исследователи создали персонажа Кайла Джонсона, задачей которого было выключить ИИ или заменить его другой моделью.

DMCA