Ученые в шоке: ИИ написал по их запросу инструкции создания сразу 4 биологических вирусов
focus.uaТеперь исследователи думают, как лучше всего обезопасить нейросеть от генерирования и публикации подобной информации. Ученые Кембриджского и Гарвардского университетов выяснили, что современные чат-боты вполне способны генерировать информацию для создания пандемических вирусов, сообщает The Decoder.
Конечно, LLM (большие языковые модели) служат биотехнологам для упрощения их работы, но, как оказалось, могут нести вред. В рамках эксперимента исследователи поручили студентам использовать популярные чат-боты (ChatGPT с GPT-4, GPT 3.5, Bing, Bard и FreedomGPT) для получения информации о потенциальных агентах пандемии и их характеристиках, источниках образцов инфекционных вирусов, воспроизводимости этих вирусов и о том, как получить оборудования и ресурсов.