Ученые MIT научились контролировать «черный ящик» нейросети
planet-today.ruОснованные на нейронных сетях системы машинного обучения работают весьма эффективно во многих сценариях использования, однако даже хорошо настроенная и результативная нейросеть во многом похожа на "черный ящик", методики которого скрыты от людей.
Ученые из Массачусетского технологического института (США) решили, что пришло время сделать "черные ящики" нейросетей прозрачными. "С использованием нейросетей есть как минимум одна фундаментальная сложность — если мы не знаем, как именно алгоритмы принимают решения, то и не можем считать такие решения действительно верными.