Закон ЕС об ИИ и ИИ в здравоохранении: объяснение

Краткий ответ: AI Act (Регламент (ЕС) 2024/1689) регулирует системы искусственного интеллекта по уровню риска. Для здравоохранения важны три ситуации. Система ИИ, которая является медицинским изделием или его компонентом безопасности, требующим оценки соответствия третьей стороной в соответствии с MDR или IVDR, считается высокорисковой (Приложение I): она должна соответствовать требованиям Акта по управлению рисками, данным, документации, ведению журналов, прозрачности, человеческому надзору, точности и кибербезопасности, оцениваемым совместно с оценкой соответствия изделия. ИИ, используемый для экстренной сортировки пациентов или принятия решений о доступе к медицинским услугам, является высокорисковым согласно Приложению III, даже вне законодательства об изделиях. Помощники и чат-боты, которые не являются высокорисковыми, по-прежнему несут обязанности по обеспечению прозрачности (люди должны знать, что общаются с ИИ; сгенерированный контент должен быть помечен). Акт вступил в силу 1 августа 2024 года, а обязательства будут вводиться поэтапно до 2027 года; Комиссия предложила в конце 2025 года скорректировать некоторые сроки, поэтому следите за текущим состоянием.

Пирамида рисков

Закон ЕС об искусственном интеллекте (AI Act) разделяет системы ИИ на уровни: запрещенные практики, запрещенные с февраля 2025 года; системы высокого риска согласно Приложению I (ИИ в медицинских изделиях, требующих участия нотифицированного органа) и Приложению III (экстренная сортировка пациентов, доступ к медицинским услугам); системы ограниченного риска с обязанностями по обеспечению прозрачности, такие как чат-боты для здоровья; инструменты минимального риска без конкретных обязательств; и модели общего назначения с обязанностями для поставщиков.

Уровень	Примеры в здравоохранении	Последствия
Запрещенные (ст. 5)	Манипулятивные методы, использующие уязвимости, нецелевой сбор данных для распознавания лиц, распознавание эмоций на работе или в школе (с исключениями для медицинских целей и обеспечения безопасности)	Запрещено с 2 февраля 2025 г.
Высокий риск, Приложение I	ИИ в медицинском изделии или IVD, требующем уведомленного органа (большинство программного обеспечения класса IIa и выше): ИИ для обработки изображений, поддержка принятия решений, калькуляторы доз	Полные требования к высокому риску, оцениваемые в рамках оценки соответствия MDR/IVDR
Высокий риск, Приложение III	Системы экстренных вызовов и сортировки пациентов; ИИ, оценивающий право на получение государственных льгот и услуг в области здравоохранения; биометрическая категоризация; решения о приеме на работу медицинских работников	Полные требования к высокому риску, самооценка или уведомленный орган в соответствии с правилами Приложения III, регистрация в базе данных ЕС
Ограниченный риск (прозрачность, ст. 50)	Чат-боты и помощники в области здравоохранения, текст или изображения, сгенерированные ИИ, контент типа "дипфейк"	Раскрытие взаимодействия с ИИ; маркировка сгенерированного контента; человеческий надзор, где это применимо
Минимальный риск	Спам-фильтры, оптимизация расписания, административные инструменты	Нет конкретных обязательств; добровольные кодексы
Модели общего назначения (Глава V)	Базовые модели, используемые в продуктах для здравоохранения	Обязанности поставщика: техническая документация, политика в отношении авторских прав, резюме обучения; дополнительные обязанности для моделей с системным риском

Приложение для здоровья, не являющееся изделием и не подпадающее под действие Приложения III (например, запись с функцией сводки ИИ, дневник симптомов с разговорным интерфейсом), относится к ограниченному уровню: прозрачность и общая обязанность по обеспечению грамотности персонала в области ИИ (ст. 4), а также все, что уже требуется GDPR. Если такое приложение добавляет функцию, информирующую о диагностике или лечении, оно становится изделием в соответствии с MDR и, если участвует уведомленный орган, высокорисковым в соответствии с AI Act; см. Программное обеспечение как медицинское изделие.

Что требуется для высокого риска (Глава III, Раздел 2)

Система ИИ высокого риска согласно Закону ЕС об ИИ требует наличия системы управления рисками, управления данными для обучающих и тестовых данных, технической документации и журналов регистрации, прозрачности для развертывающих организаций, человеческого контроля по дизайну, точности, надежности и кибербезопасности, системы управления качеством, оценки соответствия с маркировкой CE, постмаркетингового мониторинга и отчетности об инцидентах, а также регистрации в базе данных ЕС для систем Приложения III.

Система управления рисками на протяжении всего жизненного цикла (ст. 9), интегрированная с ISO 14971 для изделий.
Управление данными (ст. 10): данные для обучения, валидации и тестирования должны быть релевантными, репрезентативными, проверенными на предвзятость, с документированным происхождением; обработка специальных категорий данных для коррекции предвзятости разрешена при определенных условиях.
Техническая документация (ст. 11, Приложение IV) и ведение журналов / запись событий (ст. 12) для отслеживаемости.
Прозрачность и инструкции для развертывающих организаций (ст. 13).
Человеческий надзор по дизайну (ст. 14): возможность понимать, отменять и останавливать.
Точность, надежность и кибербезопасность (ст. 15) с заявленными метриками.
Система управления качеством (ст. 17), которая для изделий представляет собой расширенную систему ISO 13485.
Оценка соответствия, маркировка CE и декларация соответствия ЕС, охватывающие оба регламента; регистрация в базе данных ЕС для систем Приложения III.
Постмаркетинговый мониторинг и отчетность о серьезных инцидентах (ст. 72–73), скоординированные с бдительностью MDR.
Развертывающие организации (больницы, клиники) имеют свои собственные обязанности: использование в соответствии с инструкциями, человеческий надзор, ведение журналов, информирование людей, а для государственных органов — оценка воздействия на основные права (ст. 27).

Пересечение с MDR и IVDR

Закон ЕС об ИИ пересекается с MDR и IVDR по дизайну: для ИИ в медицинских изделиях, перечисленных в Приложении I, требования Закона оцениваются как часть оценки соответствия изделия тем же нотифицированным органом, с единым набором документации и одной системой качества. Гармонизированные стандарты от CEN-CENELEC JTC 21 будут давать презумпцию соответствия после публикации.

Акт был разработан таким образом, чтобы избежать второго параллельного процесса: для изделий из Приложения I требования к ИИ оцениваются в рамках оценки соответствия MDR/IVDR тем же уведомленным органом, который должен быть назначен и для AI Act; документация может быть единой; система качества — одна. Гармонизированные стандарты (по риску ИИ, качеству данных, надежности) разрабатываются CEN-CENELEC JTC 21 и будут давать презумпцию соответствия; до их появления производители используют ISO/IEC 42001, ISO/IEC 23894 и стандарты для изделий. Ожидается, что Координационная группа по медицинским изделиям и Совет по ИИ опубликуют совместное руководство; взаимодействие постмаркетингового мониторинга и отчетности об инцидентах — это область, за которой стоит следить.

Временная шкала

Закон ЕС об ИИ вступил в силу 1 августа 2024 года. Запреты и обязанности по повышению грамотности в области ИИ применяются с 2 февраля 2025 года, обязанности для моделей общего назначения — с 2 августа 2025 года, большая часть Закона, включая системы высокого риска из Приложения III, — с 2 августа 2026 года, а системы высокого риска из Приложения I, такие как ИИ в медицинских изделиях, — с 2 августа 2027 года, с учетом предлагаемых корректировок.

1 августа 2024 г.: вступление в силу.
2 февраля 2025 г.: применяются запреты и обязательства по грамотности в области ИИ.
2 августа 2025 г.: обязательства для моделей общего назначения; управление (Управление по ИИ, уведомляющие органы); штрафы.
2 августа 2026 г.: применяется большая часть Акта, включая системы высокого риска из Приложения III и обязательства по прозрачности.
2 августа 2027 г.: системы высокого риска из Приложения I (ИИ в регулируемых продуктах, таких как медицинские изделия) и модели общего назначения, выпущенные на рынок до августа 2025 года.

В ноябре 2025 года Комиссия предложила в рамках "цифрового всеобъемлющего пакета" увязать применение правил высокого риска с доступностью стандартов и инструментов поддержки, что может сдвинуть даты 2026 и 2027 годов; предложение находилось на стадии переговоров на момент написания. Считайте приведенные выше даты законом в принятой форме и следите за Официальным журналом для получения изменений.

Что должна сделать команда разработчиков приложений для здоровья прямо сейчас

Практические шаги для команды разработчиков приложений для здоровья в соответствии с Законом ЕС об ИИ: классифицировать каждую функцию ИИ как устройство, систему из Приложения III или уровень прозрачности; раскрывать информацию о взаимодействии с ИИ и помечать сгенерированный контент; документировать обучающие данные и оценку по подгруппам; сохранять человеческий контроль, представляя выходные данные как черновики; получать документацию от поставщика модели общего назначения; и параллельно выполнять работу по GDPR.

Классифицируйте каждую функцию ИИ: является ли она изделием или нет (Является ли приложение для здоровья медицинским изделием?); подпадает ли под Приложение III или нет; в противном случае — уровень прозрачности.
Раскрывайте взаимодействие с ИИ и маркируйте сгенерированный контент сейчас; это ничего не стоит и будет требоваться.
Документируйте данные и оценку: откуда взялись данные для обучения и тестирования, как измерялась производительность по подгруппам; это основа статей 10 и 15, а также хорошая инженерная практика (ИИ на медицинских данных: карта).
Сохраняйте контроль за человеком: результаты как черновики и предложения, никогда не автоматически подтверждаемые клинические факты; журналы того, что произвел ИИ и кто это принял.
Проверьте поставщика модели: поставщики моделей общего назначения должны предоставить документацию, которая вам понадобится для вашего собственного файла.
Выполните работу по GDPR (статья 22 об автоматизированных решениях, DPIA) параллельно; AI Act не заменяет его (Статья 9 GDPR).

В Anpheros

Функции ИИ Anpheros переформулируют и локализуют содержание записей пользователя и раскрываются как ИИ; они не ставят диагнозы и не рекомендуют лечение, поэтому продукт не является медицинским изделием и относится к уровню прозрачности Акта. Использование моделей документируется, результаты имеют происхождение, и ничто, произведенное помощником, не становится клиническим фактом в записи без подтверждения человеком.

Эта страница объясняет регулирование для команд разработчиков продуктов и инженеров. Это не юридическая консультация; тексты, приведенные в разделе "Источники", являются авторитетными. Последнее обновление: октябрь 2026 г.

Связанные страницы

Источники

Частые вопросы

Является ли каждое медицинское изделие с ИИ высокорисковым согласно AI Act?

Только те, которые проходят оценку соответствия третьей стороной в соответствии с MDR или IVDR, что относится к большинству программных обеспечений класса IIa и выше. Изделие класса I с ИИ, которое сертифицируется самостоятельно, не является высокорисковым согласно Приложению I, но по-прежнему подпадает под общие обязательства и обязательства по прозрачности Акта.

Применяется ли AI Act к американской компании?

Да, когда ее система ИИ размещается на рынке ЕС или ее выходные данные используются в ЕС, так же, как применяются MDR и GDPR. Поставщики за пределами ЕС назначают уполномоченного представителя для высокорисковых систем.

Нужна ли мне вторая маркировка CE для ИИ?

Нет. Для изделий из Приложения I одна оценка соответствия охватывает оба регламента, и одна маркировка CE и декларация соответствия ссылаются на оба. Документация должна охватывать требования AI Act.

Что меняется для чат-бота в области здравоохранения?

Прозрачность: пользователи должны быть уведомлены о том, что они взаимодействуют с ИИ, сгенерированный контент должен быть помечен, а персонал должен обладать грамотностью в области ИИ. Если чат-бот предоставляет индивидуальные диагностические или лечебные рекомендации, он становится медицинским изделием, и картина полностью меняется.

Anpheros Platform

Попробуйте бесплатно в песочнице

Первый запрос FHIR за 5 минут. API HL7 FHIR R4 с встроенным согласием пациента: попробуйте в песочнице, затем подключите свое приложение или систему клиники.

Создать бесплатную песочницу Читать руководства для разработчиков →

Бесплатно · 30 синтетических пациентов · без карты

Это руководство носит информационный характер и не заменяет консультацию врача. Решения о своём здоровье принимайте вместе с врачом. В экстренной ситуации звоните по местному номеру экстренной помощи (112 в Европе).

Автор

Команда Anpheros

Anpheros создает медицинскую карту, которую пациент контролирует и может делиться с любой клиникой, на платформе HL7 FHIR R4, базирующейся в ЕС. Эти руководства помогут вам понять и организовать свое здоровье; они не заменяют вашего врача.

О Anpheros →