происшествия
вооружение
общество
вирус
кибератаки
google
Ученые использовали Claude в опасных биологических исследованиях — Anthropic раскрыла детали
Компания Anthropic заявила, что обнаружила и пресекла несколько случаев использования моделей Claude в научных исследованиях, результаты которых потенциально могли применяться при разработке биологического оружия. Об этом говорится в новом отчете компании о злоупотреблениях искусственным интеллектом. В Anthropic подчеркнули, что не располагают доказательствами намерения ученых создать биологическое оружие. Проблема заключается в двойном назначении подобных исследований. Одни и те же знания могут использоваться как для разработки вакцин и лекарств, так и для создания более опасных патогенов, отметили в компании. По словам руководителя направления анализа угроз Anthropic Джейкоба Кляйна, отличить эти сценарии зачастую крайне сложно. Одним из наиболее тревожных эпизодов компания назвала зап