Новейшие модели искусственного интеллекта OpenAI имеют новую защиту от биорисков
habr.comOpenAI сообщает, что развернула новую систему для мониторинга своих последних моделей рассуждений AI, o3 и o4-mini, на предмет подсказок, связанных с биологическими и химическими угрозами.
Система направлена на то, чтобы не допустить, чтобы модели предлагали советы, которые могли бы научить кого-то выполнять потенциально опасные атаки, согласно отчету по безопасности OpenAI.Компания заявляет, что O3 и o4-mini представляют собой значительное увеличение возможностей по сравнению с предыдущими моделями OpenAI, и, таким образом, представляют новые риски в руках злоумышленников.
