Ученые научили искусственный интеллект «объяснять» свои решения

Medical Image Analysis.Авторы исследования начали создание нейронной сети как обычно, снабдив ИИ большим количеством микроскопических инфракрасных снимков тканей, некоторые из которых содержали опухоли, а другие — только здоровые ткани.

Искусственный интеллект обычно индуктивен, то есть идет от частного к общему: используя обучающие данные, ИИ создает общую модель, на основе которой оценивает все дальнейшие наблюдения, которые ему предоставляют.При этом нейронные сети часто представляют собой черный ящик: неясно, какие именно признаки алгоритм выбирает из обучающих данных, а из-за индуктивной логики он может прийти к неверным выводам.

Ученые решили использовать иной подход: они научили ИИ дедуктивному методу, который используется в научном познании. Разработанная ими нейронная сеть с помощью индукции классифицирует образец ткани в зависимости от наличия опухоли, а также дедуктивно создает карту микроскопического изображения ткани.