Институт Алана Тьюринга: человечество через 5 лет может лишиться контроля над ИИ
habr.comВ опубликованном докладе Института Алана Тьюринга утверждается, что неопределённость относительно будущих экзистенциальных угроз не должна сдерживать принятие неотложных мер по противодействию рискам, связанным с мощными системами искусственного интеллекта.В докладе «Риски передовых систем ИИ: практический путь вперед» (Frontier AI Risks: A practical way forward) обосновывается мысль о том, что дискуссии о наиболее радикальных долгосрочных сценариях не лишают людей возможности действовать, поскольку многие базовые характеристики, модели поведения и потенциальные угрозы, связанные с ИИ, можно наблюдать, изучать и принимать в их отношении соответствующие меры.Для этого необходимы более совершенные методы оценки и управления рисками ИИ на практике; в докладе отмечается, что ключевым инструментом здесь могут стать усиленные процедуры верификации и обеспечения надёжности систем ИИ.
Следующая задача — понять, сохраняют ли комплексные системы на базе ИИ после начала их эксплуатации в реальных условиях эти свойства.Тестирования моделей ИИ в изолированной среде недостаточно, так как их возможности, условия функционирования и характер взаимодействия с людьми со временем меняются.
