В США проверят ИИ на возможность несанкционированного «слива» ядерных секретов
nbnews.com.uaКак сообщает «НБН» со ссылкой на материал AXIOS, Anthropic, являющаяся компанией-разработчиком Claude 3 Sonnet и Минэнергетики США, привлекли специалистов Национального управления ядерной безопасности (NNSA) к изучению открытости указанной ИИ-модели.
В процессе тестирования используется методика «красных запросов» (Red Teaming), при которой эксперты умышленно попытаются ввести в заблуждение/озадачить ИИ-систему для выявления ее уязвимостей.
