ИИ в здравоохранении: право догоняет технологию — какие вопросы предстоит решить законодателю

Искусственный интеллект уже используется врачами, медицинскими организациями и пациентами, однако развитие технологии ставит перед правом вопросы, которые невозможно решить только регистрацией программного обеспечения или общим законом об ИИ. Ассоциация юристов цифровой экономики изучила материалы, подготовленные к обсуждению правовых аспектов применения искусственного интеллекта в здравоохранении, и выделила ключевые направления будущего регулирования

В марте 2026 года на площадке Комитета Государственной Думы по охране здоровья состоялся круглый стол «Правовые аспекты применения искусственного интеллекта в здравоохранении»

В обсуждении приняли участие представители Минздрава России, Росздравнадзора, медицинского и экспертного сообщества. В центре дискуссии оказались уже не перспективы появления ИИ в медицине, а гораздо более практические вопросы: его допуска к применению, безопасности, ответственности за ошибку, использования медицинских данных и места искусственного интеллекта в процессе принятия врачебных решений

И это важное изменение самой правовой повестки

Еще несколько лет назад основной вопрос звучал так: можно ли и нужно ли применять искусственный интеллект в здравоохранении?

Сегодня вопрос другой: какие правила должны действовать, когда ИИ уже является частью медицинского процесса?

«Мы переходим от этапа, когда право обсуждало саму допустимость использования искусственного интеллекта, к гораздо более сложному этапу — проектированию правил его эксплуатации. Теперь необходимо определить не только, что разрешено технологии, но и кто отвечает за ее результат, кто контролирует изменение модели, какие данные могут использоваться и где заканчивается рекомендация алгоритма и начинается медицинское решение», — отмечает Людмила Харитонова, председатель Ассоциации юристов цифровой экономики.»

Один из принципиальных вопросов — разграничение различных сценариев применения искусственного интеллекта

ИИ может использоваться для автоматизации административных процессов: голосового заполнения документов, организации работы медицинской организации, обработки информации

Но он может и непосредственно участвовать в лечебно-диагностическом процессе, интерпретировать медицинские данные и влиять на принятие клинического решения.
Для программного обеспечения, являющегося медицинским изделием, российское законодательство уже предусматривает регистрационные процедуры, включая оценку качества, эффективности и безопасности

Участники парламентской дискуссии прямо разделяли решения, непосредственно задействованные в медицинском процессе, и иные цифровые сервисы.
Для права это означает необходимость уходить от формулы «ИИ как единый объект регулирования»

Риски системы, которая составляет расписание врачей, и системы, которая выявляет патологию на медицинском изображении, очевидно различаются.
В перспективе регулирование, вероятно, должно учитывать как минимум:

• назначение системы;
• степень ее автономности;
• возможность влияния на здоровье и жизнь человека;
• характер данных, с которыми она работает;
• возможность врача проверить вывод алгоритма;
• последствия ошибочного результата.

Именно риск-ориентированный подход позволяет одновременно не создавать избыточных барьеров для обычной автоматизации и устанавливать повышенные требования там, где ИИ непосредственно влияет на медицинское решение.

Позиция о том, что искусственный интеллект должен использоваться прежде всего как система поддержки принятия врачебных решений, прозвучала и в ходе круглого стола

Заместитель министра здравоохранения Вадим Ваньков подчеркнул: речь не идет о замене врача — ИИ рассматривается именно как инструмент поддержки его решений

С точки зрения регулирования такая модель логична
Но она порождает следующий вопрос:

Что именно означает «решение принимает врач»?
Если алгоритм проанализировал тысячи параметров и выдал врачу вероятность заболевания 97%, способен ли врач самостоятельно проверить такой вывод?
Сколько времени у него на проверку?
Какие исходные данные он видит?
Обязан ли он следовать рекомендации системы?
Что происходит, если врач не согласен с ИИ?
А если рекомендация оказалась ошибочной?

Само наличие человека в цепочке принятия решения еще не решает проблему ответственности.

«Формула human-in-the-loop сама по себе не является юридическим решением. Если мы говорим, что последнее слово остается за врачом, законодательство и внутренние процессы должны обеспечить врачу реальную возможность критически оценить рекомендацию алгоритма. Иначе участие человека становится формальным, а вся ответственность фактически переносится на него», — считает Людмила Харитонова.

Еще одна важная тенденция — переход от контроля ИИ только на этапе вывода продукта на рынок к наблюдению за ним во время эксплуатации.

Представитель Росздравнадзора Игорь Иванов в ходе круглого стола обращал внимание на необходимость технических и клинических испытаний и пострегистрационного мониторинга цифровых медицинских продуктов.

Практика уже показывает, почему такой контроль необходим

По данным, прозвучавшим в ходе обсуждения, эксплуатация одного из зарегистрированных в России AI-продуктов была временно приостановлена после получения из нескольких регионов информации о нежелательных событиях. После доработки система должна была вновь пройти оценку эффективности и безопасности

Для искусственного интеллекта вопрос особенно важен потому, что программный продукт способен существенно изменяться уже после первоначальной регистрации.

• Модель можно дообучить.
• Можно изменить датасет.
• Подключить новую базовую модель.
• Изменить логику работы алгоритма.
• Обновить параметры.

Поэтому классическая модель регулирования медицинского изделия — проверили продукт, допустили на рынок, дальше контролируем отдельные инциденты — применительно к ИИ требует развития

Праву придется определить, какое изменение является обычным обновлением, а какое настолько влияет на свойства продукта, что требует дополнительной оценки его безопасности и эффективности

Отдельное направление — доступ к медицинским данным.
Без больших массивов качественной информации невозможно полноценное обучение медицинских моделей

Но данные о здоровье одновременно находятся под усиленной правовой защитой: это специальная категория персональных данных, а значительная часть информации дополнительно защищена режимом врачебной тайны

Проблема не сводится к одному вопросу: «есть ли согласие пациента».

Для AI-проектов необходимо определять:

• с какой первоначальной целью были собраны данные
• возможно ли их использование для обучения модели
• кто становится оператором при передаче информации
• в какой степени данные должны быть обезличены
• возможно ли восстановить связь с конкретным человеком
• кто имеет доступ к датасету
• где происходит обработка
• может ли разработчик использовать полученную информацию для развития собственного продукта

Особенно сложной является модель, в которой медицинская организация получила сведения в целях оказания медицинской помощи, а затем эти же данные планируется использовать для обучения коммерческого продукта другого лица

Первоначальное основание обработки нельзя автоматически переносить на принципиально новую цель

Именно поэтому регулирование доступа к данным может стать одним из ключевых условий дальнейшего развития российского MedTech

Отдельного внимания заслуживают большие языковые модели

Их отличие от классического медицинского изделия состоит еще и в том, что они могут попасть в медицинскую организацию вообще без официального внедрения

Врач самостоятельно начинает пользоваться публичным AI-сервисом.
Пациент обращается к нейросети за «вторым мнением»

Сотрудник загружает историю болезни в генеративную модель для подготовки резюме.
По данным, приводившимся в ходе парламентской дискуссии, генеративные модели уже активно применяются зарубежными врачами, одновременно вызывая у них опасения относительно ошибок и сохранности конфиденциальных данных пациентов.

Отдельно обсуждался феномен ложной уверенности AI-систем: модель способна сформировать убедительный ответ даже в ситуации, когда исходное предположение пользователя неверно. В нестандартных клинических ситуациях качество подсказок также может снижаться

Это означает, что будущая система регулирования должна учитывать не только зарегистрированные медицинские изделия

Нужны правила использования универсального генеративного ИИ в профессиональной медицинской деятельности

И здесь значительную роль могут играть не только нормативные акты, но и внутренние стандарты медицинских организаций: перечни допустимых сервисов, правила работы с данными, обязательность проверки AI-результата и механизмы фиксации использования таких инструментов

В России уже ведется работа над этическими принципами применения ИИ в медицине. В ходе круглого стола подчеркивалась необходимость безопасного и эффективного использования систем искусственного интеллекта, сохранения конфиденциальности и защиты персональных данных

Этическое регулирование необходимо
Но по мере того, как ИИ начинает влиять на здоровье человека, одних этических деклараций становится недостаточно
Необходим перевод принципов в конкретные обязанности

• «ИИ должен быть безопасным» — каким образом оценивается безопасность?
• «Решение должен контролировать человек» — какой именно контроль обязан осуществлять врач?
• «Необходимо обеспечить прозрачность» — какую информацию разработчик обязан раскрывать клинике и пациенту?
• «Необходимо защищать персональные данные» — кто и на каком основании получает право использовать медицинский датасет?

Следующий этап регулирования — перевод этических принципов в проверяемые юридические и технические требования.

На наш взгляд, дальнейшая работа над регулированием искусственного интеллекта в здравоохранении должна развиваться как минимум по пяти направлениям

Первое — риск-ориентированная классификация AI-систем
Требования должны зависеть от назначения продукта, степени автономности и потенциальных последствий ошибки

Второе — распределение ответственности
Необходимо определить зоны ответственности разработчика, производителя, медицинской организации, врача и иных участников технологической цепочки

Третье — правовой режим медицинских данных для разработки и обучения ИИ
Без понятных механизмов использования качественных датасетов развитие отрасли будет существенно ограничено

Четвертое — регулирование всего жизненного цикла модели
Контроль не должен заканчиваться в момент регистрации продукта. Требуются механизмы работы с обновлениями, дообучением, изменением характеристик и деградацией модели

Пятое — правила профессионального использования генеративного ИИ
Большие языковые модели могут не являться специализированными медицинскими продуктами, но фактически использоваться врачами и пациентами для решения медицинских задач. Игнорировать эту зону регулирование уже не может


«Для цифрового права медицина — один из наиболее показательных кейсов. Здесь особенно хорошо видно, почему регулирование ИИ невозможно построить только вокруг самой технологии. Необходимо одновременно регулировать продукт, данные, процесс принятия решения и распределение ответственности между людьми и технологическими компаниями. Задача права при этом не остановить развитие ИИ, а создать инфраструктуру доверия, без которой масштабное применение таких систем в социально значимых сферах невозможно», — подчеркивает Людмила Харитонова.

Дискуссия об искусственном интеллекте в здравоохранении показывает более общий вызов, с которым скоро столкнутся и другие отрасли цифровой экономики

Чем автономнее становятся технологические системы, тем хуже работает регулирование, построенное исключительно вокруг одного субъекта, одного продукта и одного момента его допуска на рынок

Понадобятся новые модели:

• распределенной ответственности
• непрерывного контроля технологического продукта
• управления изменениями алгоритмов
• регулирования доступа к данным
• человеческого контроля над автоматизированными решениями

Поэтому формирование правил применения искусственного интеллекта в медицине представляет интерес не только для медицинских юристов

Это одна из площадок, на которой прямо сейчас формируются подходы, способные впоследствии стать основой регулирования ИИ и в других отраслях цифровой экономики

Ассоциация юристов цифровой экономики продолжит анализировать развитие регулирования искусственного интеллекта и приглашает представителей технологического бизнеса, медицинских организаций и юридического сообщества к профессиональной дискуссии о практических проблемах применения новых правил.