В Ассоциации развития информационных медтехнологий предупредили о неточности поставленных ИИ диагнозов

Фото: РИА Новости

Их могут пересмотреть. Не исключено, что некоторые врачи «слишком понадеялись» на способности компьютеров.

Машины могли пропустить болезнь либо выявить несуществующую. Однако точная причина приостановки использования программы для анализа снимков компьютерной томографии Botkin.AI неизвестны, рассказал в эфире радиостанции «Говорит Москва» президент организации Михаил Эльянов.

«Первое, что я сказал: очень большая ошибка гипердиагностики, выявляли то, чего нет. Врач тогда извинялся и говорил, что машина врёт. В зависимости от тяжести заболеваний, вероятность гипердиагностики считается нормальной по-разному, одно дело, когда у тебя диагностируется простуда, другая, когда какая-то серьёзная онкология. Тут логика идёт: уже лучше перебдеть, и это перебдение многократное. Если эти диагнозы воспринимались врачами некритично, а там было много профилей, много пропусков, было пропущено какое-то количество серьёзных заболеваний, а вот такие вещи в мировой практике и в нашей, они в принципе бывали и бывают.

Тут это может привести к пересмотру какой-то группы имеющихся диагнозов, то есть, в тех случаях, как если бы пришли к выводу, что врачи слишком понадеялись на вот этот компьютерный интеллект».

Есть вероятность, что эксперты будут дорабатывать алгоритмы функционирования программ ИИ, отметил Эльянов.

«Я думаю, наиболее вероятный вариант, который может быть для систем подобного рода, видимо, накопилась какая-то информация, что алгоритмы распознавания данной системы, к ним появились претензии, это может быть два вопроса: слишком большая вероятность пропуска заболеваний, диагнозов, это могут быть по разным классам заболевания. Либо там очень большая ошибка гипердиагностики, то есть, когда слишком часто выдаёт какое-то настораживающее сообщение, а их нет, но точно ответить на этот вопрос, это надо разбираться в подробностях, и чтобы были чётко сформулированы вот эти причины. Это могут быть радикальные какие-то замечания, могут быть чисто технические, что необходимо подправить, например, алгоритмы какой-то определённой группы».

Ранее стало известно, что Росздравнадзор приостановил применение медицинской системы с ИИ.

Речь идёт о программе для анализа снимков КТ Botkin.AI, которая получила регистрационное удостоверение в 2020 году. Причиной решения в ведомстве назвали «угрозу причинения вреда жизни и здоровью граждан», пишет газета «Коммерсантъ» со ссылкой на соответствующее письмо в реестре ведомства. Как уточняется, в отношении производителя системы проводится проверка.