Ученые научили искусственный интеллект «объяснять» свои решения
Medical Image Analysis.Авторы исследования начали создание нейронной сети как обычно, снабдив ИИ большим количеством микроскопических инфракрасных снимков тканей, некоторые из которых содержали опухоли, а другие — только здоровые ткани.
Искусственный интеллект обычно индуктивен, то есть идет от частного к общему: используя обучающие данные, ИИ создает общую модель, на основе которой оценивает все дальнейшие наблюдения, которые ему предоставляют.При этом нейронные сети часто представляют собой черный ящик: неясно, какие именно признаки алгоритм выбирает из обучающих данных, а из-за индуктивной логики он может прийти к неверным выводам.