На ПМЮФ предложили узаконить приоритет врачебного решения над выводами ИИ

Законодательно закрепить приоритет врачебного решения над выводами искусственного интеллекта (ИИ) — такое предложение по регулированию использования ИИ в медицине выдала одна из известных систем ИИ по запросу статс-секретаря — заместителя министра здравоохранения РФ Олега Сагалая. Об этом чиновник рассказал во время сессии "Врач vs алгоритм: риски и границы ответственности в эпоху искусственного интеллекта в медицине", прошедшей сегодня на Петербургском международном юридическом форуме.

По словам Олега Сагалая, всего система выдала пять рекомендаций. Ввести рискориентированную классификацию ИИ-систем в медицине с разной степенью контроля для разных уровней риска. Установить требования к качеству и репрезентативности данных для обучения медицинских ИИ-моделей. Регламентировать защиту персональных данных и порядок получения согласия пациента на применение ИИ. Внедрить систему пост-рыночного мониторинга эффективности и ошибок ИИ в клинической практике. И закрепить решающую роль человека.

Следует отметить, что практически все рекомендации ИИ были предметом дискуссии участников сессии.

ИИ применяется в медицине уже около 40 лет, но в последние 2-3 года происходит его стремительная трансформация: меняется сама его суть, отметил гендиректор Национального медицинского исследовательского центр им. В.А. Алмазова Евгений Шляхто.

Из своей практики он привёл пример пациента с разрывом аорты, доставленного в Центр им. Алмазова. В больнице одного из районов Ленобласти не оказалось КТ, но ИИ по рентгеновским снимкам дал заключение: у пациента есть изменения, требуется дополнительное исследование. А врач на это внимания не обратил. Тем не менее для пациента всё закончилось хорошо.

По мнению Шляхто, для удалённых регионов, где нет доступности к широкому кругу медуслуг и высококвалифицированному персоналу, где нет соответствующих служб, ИИ необходим.

Вице-президент по работе с регионами Общероссийской общественной организации инвалидов — больных рассеянным склерозом, эксперт горячей линии Всероссийского союза пациентов Марина Валюх также поддерживает использование ИИ в медицине. Врач не может знать всё, и здесь ему могла бы прийти на помощь, например, система клинических рекомендаций по различным профилям. Но при этом, считает Валюх, у пациента необходимо получать согласие на использование нейросетей.

Сегодня ИИ — это набор сервисов с очень конкретными функциями, подчеркнул заместитель гендиректора ООО "Платформа Третье Мнение" Андрей Поваренкин. По его словам, сейчас в 70 российских регионах применяется пять и более медизделий (на базе ИИ. — Ред.), внедряются они централизованно — на весь субъект. Например, использование в лучевой диагностике, при диспансеризации: анализ электронных карт пациентов и "подсвечивание" пациентов с рисками и т. д.

По словам Поваренкина, сейчас обсуждается, как строить взаимоотношения в медсистеме с учётом использования ИИ и как разграничивать ответственность, в том числе и финансовую, за возможный ущерб. Сегодня врач несёт всю полноту ответственности, в том числе и уголовную, за врачебные ошибки. Юрий Зинченко, декан факультета психологии Московского госуниверситета им. М.В. Ломоносова, член-корреспондент Российской академии наук, обратил внимание участников на необходимость урегулирования вопроса качества первичных библиотек, на которых обучаются медицинские ИИ-системы. От этого будет зависеть их эффективность.