Доверие к ИИ-технологиям в медицине остается на низком уровне

По-прежнему многим непонятно, помогают ли нейросети врачам, заменили ли они их уже сейчас, и можно ли верить диагнозам, которые поставил ИИ.

Об этом пишет «КоммерсантЪ» со ссылкой на результаты сессии Петербургского международного юридического форума, где встретились эксперты из Минздрава, ВОЗ и Всероссийского союза пациентов. В одном вопросе эксперты были солидарны — медицинская ИИ-тема требует законодательного регулирования.

Главный вопрос, обсуждаемый в ходе сессии на тему «рисков и границ ответственности в эпоху искусственного интеллекта в медицине» — кто несет ответственность за принятое с помощью ИИ решение, и может ли технология заменить врача.

По словам представителя ВОЗ в РФ Батыра Бердыклычева, потенциал ИИ в медицине признают все 53 страны европейского региона, однако их уровень готовности к внедрению технологии сильно разнится. Стандарты ответственности за ошибки в здравоохранении, допущенные ИИ-инструментами, есть только в 8% стран. Бердыклычев отметил, Всемирная организация здравоохранения призывает инвестировать в обучение медперсонала и создание механизмов возмещения ущерба пациентам, пострадавшим от ИИ.

По словам эксперта Всероссийского союза пациентов Марины Валюх, сообщество пациентов видит в нейросетях инструмент, повышающий качество медпомощи. При этом она категорически против передачи ИИ прав на окончательное принятие решений. Валюх предлагает включить отдельный пункт об использовании нейросетей при диагностике и лечении в добровольное согласие, которое подписывают пациенты перед врачебным вмешательством.

Гендиректор НМИЦ им. В. А. Алмазова Минздрава Евгений Шляхто рассказал о примере из практики применения нейросетей, когда пациента спасли, благодаря ИИ, зафиксировавшему патологию на рентгеновском снимке. По словам Шляхто, центр подготовил и зарегистрировал пять медицинских изделий на основе ИИ, но с массовым внедрением пока возникают сложности. По его мнению:

Даже при экономии до 30% времени в пилотных проектах врачи не спешат переходить на новые системы. Те же медики, которые, напротив, уже привыкли полагаться на алгоритмы, рискуют «потерять клиническое мышление. Выживут те, кто будет думать, рассуждать и критически относиться.

Об отсутствии единого федерального регулирования ИИ не только в здравоохранении, но и в других областях, в том числе в образовании напомнил академик МГУ Юрий Зинченко.

*соответствующий проект подготовлен Минцифры, его рассмотрение Госдумой запланировано на текущую сессию.

Еще одна проблема, по мнению Зинченко — врачи могут вносить в историю болезни неточности, которые будет воспроизводить нейросеть, обученная на этих данных. Он призвал создать «суверенный и доверенный» искусственный интеллект с российскими источниками данных, чтобы использование западных библиотек не привело к эффекту, «противоположному ожидаемому».

По мнению судьи Конституционного cуда Михаила Лобова, участвовавшего в обсуждении:

Нет у ИИ ни автономии воли, ни автономии мысли, которые присущи человеку. Он лишь имитирует когнитивные функции, но не обладает внутренним убеждением.

Он подчеркнул, ИИ не нейтрален и несете в себе «мировоззрение создателей», а также их опыт, поэтому может манипулировать фактами при «определенной их раскладке». Судья призвал опираться на статью 21 Конституции о защите достоинства личности при оценке любых рисков, связанных с внедрением ИИ в медицину.

изображение magnific