Krátká odpověď: AI Act (nařízení (EU) 2024/1689) reguluje systémy umělé inteligence podle rizika. Pro oblast zdraví jsou důležité tři situace. Systém umělé inteligence, který je lékařským prostředkem nebo jeho bezpečnostní součástí, vyžadující posouzení shody třetí stranou podle MDR nebo IVDR, je vysoce rizikový (příloha I): musí splňovat požadavky zákona na řízení rizik, data, dokumentaci, protokolování, transparentnost, lidský dohled, přesnost a kybernetickou bezpečnost, posuzované společně s posouzením shody prostředku. Umělá inteligence používaná pro nouzové třídění nebo rozhodování o přístupu ke zdravotním službám je vysoce riziková podle přílohy III, i mimo zákon o prostředcích. Asistenti a chatboti, kteří nejsou vysoce rizikoví, stále podléhají povinnostem transparentnosti (lidé musí vědět, že mluví s AI; generovaný obsah je označen). Zákon vstoupil v platnost 1. srpna 2024, přičemž povinnosti se budou postupně zavádět do roku 2027; Komise v polovině roku 2025 navrhla upravit některé lhůty, proto sledujte aktuální stav.
Pyramida rizik
EU Akt o umělé inteligenci rozděluje systémy AI do několika úrovní: zakázané praktiky (zákaz od února 2025), vysoce rizikové systémy podle přílohy I (AI v lékařských prostředcích vyžadujících notifikovaný orgán) a přílohy III (třídění v naléhavých případech, přístup ke zdravotnickým službám), systémy s omezeným rizikem s povinnostmi transparentnosti (např. zdravotnické chatboty), nástroje s minimálním rizikem bez specifických povinností a obecné modely AI s povinnostmi pro poskytovatele.
| Úroveň | Příklady ze zdravotnictví | Důsledek |
|---|---|---|
| Zakázané (čl. 5) | Manipulativní techniky zneužívající zranitelnosti, necílené stahování dat pro rozpoznávání obličejů, rozpoznávání emocí v práci nebo ve škole (s výjimkami pro lékařské a bezpečnostní účely) | Zakázáno od 2. února 2025 |
| Vysoce rizikové, příloha I | AI v lékařském prostředku nebo IVD, které vyžadují oznámený subjekt (většina softwaru třídy IIa a vyšší): zobrazovací AI, podpora rozhodování, kalkulátory dávek | Plné požadavky pro vysoce rizikové systémy, posuzované v rámci posouzení shody MDR/IVDR |
| Vysoce rizikové, příloha III | Systémy pro tísňová volání a třídění pacientů; AI vyhodnocující nárok na veřejné zdravotní dávky a služby; biometrické kategorizace; rozhodování o zaměstnání zdravotnických pracovníků | Plné požadavky pro vysoce rizikové systémy, samohodnocení nebo oznámený subjekt podle pravidel přílohy III, registrace v databázi EU |
| Omezené riziko (transparentnost, čl. 50) | Zdravotnické chatboty a asistenti, AI generovaný text nebo obrázky o zdraví, obsah typu deepfake | Odhalení interakce s AI; označení generovaného obsahu; lidský dohled tam, kde je to relevantní |
| Minimální riziko | Spamové filtry, optimalizace plánování, administrativní nástroje | Žádné specifické povinnosti; dobrovolné kodexy |
| Modely obecného použití (kapitola V) | Základní modely používané ve zdravotnických produktech | Povinnosti poskytovatele: technická dokumentace, zásady autorských práv, souhrn tréninku; dodatečné povinnosti pro modely se systémovým rizikem |
Zdravotnická aplikace, která není prostředkem a nespadá pod přílohu III (záznam s funkcí souhrnu AI, deník symptomů s konverzačním rozhraním), spadá do omezené úrovně: transparentnost a obecná povinnost AI gramotnosti pro personál (čl. 4), plus vše, co již vyžaduje GDPR. Pokud stejná aplikace přidá funkci, která informuje o diagnóze nebo léčbě, stává se prostředkem podle MDR a, pokud je zapojen oznámený subjekt, vysoce rizikovou podle AI Act; viz Software jako lékařský prostředek.
Co vyžaduje vysoce rizikový systém (kapitola III, oddíl 2)
Vysoce rizikový systém AI podle EU Aktu o umělé inteligenci vyžaduje systém řízení rizik, správu dat pro tréninková a testovací data, technickou dokumentaci a logování, transparentnost pro nasazovatele, lidský dohled z návrhu, přesnost, robustnost a kybernetickou bezpečnost, systém řízení kvality, posouzení shody s označením CE, monitorování po uvedení na trh a hlášení incidentů a registraci v databázi EU pro systémy podle přílohy III.
- Systém řízení rizik v průběhu životního cyklu (čl. 9), integrovaný s ISO 14971 pro prostředky.
- Správa dat (čl. 10): tréninková, validační a testovací data relevantní, reprezentativní, zkoumaná na zkreslení, s dokumentovaným původem; zpracování zvláštních kategorií dat pro korekci zkreslení povoleno za podmínek.
- Technická dokumentace (čl. 11, příloha IV) a protokolování / záznamy (čl. 12) pro sledovatelnost.
- Transparentnost a pokyny pro provozovatele (čl. 13).
- Lidský dohled z návrhu (čl. 14): schopnost porozumět, přepsat a zastavit.
- Přesnost, robustnost a kybernetická bezpečnost (čl. 15), s deklarovanými metrikami.
- Systém řízení kvality (čl. 17), který je pro prostředky rozšířeným systémem ISO 13485.
- Posouzení shody, označení CE a prohlášení o shodě EU pokrývající obě nařízení; registrace v databázi EU pro systémy podle přílohy III.
- Dohled nad trhem a hlášení vážných incidentů (čl. 72–73), koordinované s bdělostí MDR.
- Provozovatelé (nemocnice, kliniky) mají své vlastní povinnosti: používat podle pokynů, lidský dohled, protokoly, informovat lidi a pro veřejné orgány posouzení dopadu na základní práva (čl. 27).
Překryv s MDR a IVDR
EU Akt o umělé inteligenci se záměrně překrývá s MDR a IVDR: pro AI v lékařských prostředcích uvedených v příloze I jsou požadavky Aktu posuzovány jako součást posouzení shody prostředku stejným notifikovaným orgánem, s jedinou sadou dokumentace a jedním systémem kvality. Harmonizované normy od CEN-CENELEC JTC 21 poskytnou domněnku shody po svém zveřejnění.
Zákon byl napsán tak, aby se zabránilo druhému paralelnímu procesu: pro prostředky podle přílohy I jsou požadavky na AI posuzovány jako součást posouzení shody MDR/IVDR stejným oznámeným subjektem, který musí být určen i pro AI Act; dokumentace může být v jednom souboru; systém kvality je jeden. Harmonizované normy (pro riziko AI, kvalitu dat, robustnost) jsou vyvíjeny CEN-CENELEC JTC 21 a poskytnou domněnku shody; dokud nebudou existovat, výrobci používají ISO/IEC 42001, ISO/IEC 23894 a normy pro prostředky. Očekává se, že Koordinační skupina pro lékařské prostředky a Rada pro AI zveřejní společné pokyny; oblastí, na kterou je třeba dohlížet, je vzájemné působení dohledu nad trhem a hlášení incidentů.
Časová osa
EU Akt o umělé inteligenci vstoupil v platnost 1. srpna 2024. Zákazy a povinnosti týkající se AI gramotnosti platí od 2. února 2025, povinnosti pro obecné modely od 2. srpna 2025, většina Aktu včetně vysoce rizikových systémů podle přílohy III od 2. srpna 2026 a vysoce rizikové systémy podle přílohy I, jako je AI v lékařských prostředcích, od 2. srpna 2027, s výhradou navrhovaných úprav.
- 1. srpna 2024: vstup v platnost.
- 2. února 2025: platí zákazy a povinnosti AI gramotnosti.
- 2. srpna 2025: povinnosti pro modely obecného použití; správa (Úřad pro AI, oznamovací orgány); sankce.
- 2. srpna 2026: platí většina zákona, včetně vysoce rizikových systémů podle přílohy III a povinností transparentnosti.
- 2. srpna 2027: vysoce rizikové systémy podle přílohy I (AI v regulovaných produktech, jako jsou lékařské prostředky) a modely obecného použití uvedené na trh před srpnem 2025.
V listopadu 2025 Komise navrhla v rámci "digitálního omnibusu" vázat uplatňování pravidel pro vysoce rizikové systémy na dostupnost norem a podpůrných nástrojů, což by mohlo posunout data 2026 a 2027; návrh byl v době psaní v jednání. Berte výše uvedená data jako přijatý zákon a pro změny sledujte Úřední věstník.
Co by měl tým zdravotnické aplikace dělat nyní
Praktické kroky pro tým zdravotnické aplikace podle EU Aktu o umělé inteligenci zahrnují klasifikaci každé funkce AI jako zařízení, přílohy III nebo úrovně transparentnosti, zveřejnění interakce s AI a označení generovaného obsahu, dokumentaci tréninkových dat a hodnocení podle podskupin, udržení lidské kontroly s výstupy jako návrhy, získání dokumentace od dodavatele obecného modelu a souběžné provádění práce na GDPR.
- Klasifikujte každou funkci AI: prostředek nebo ne (Je zdravotnická aplikace lékařským prostředkem?); příloha III nebo ne; jinak úroveň transparentnosti.
- Odhalte interakci s AI a označte generovaný obsah již nyní; nic to nestojí a bude to vyžadováno.
- Dokumentujte data a hodnocení: odkud pocházela tréninková a testovací data, jak byl měřen výkon, podle podskupin; to je jádro článků 10 a 15 a také dobré inženýrství (AI na lékařských datech: mapa).
- Udržujte lidi pod kontrolou: výstupy jako návrhy a doporučení, nikdy automaticky potvrzené klinické skutečnosti; protokoly o tom, co AI vyprodukovala a kdo to přijal.
- Zkontrolujte dodavatele modelu: poskytovatelé modelů obecného použití musí dodávat dokumentaci, kterou budete potřebovat pro svůj vlastní soubor.
- Spusťte práci na GDPR (článek 22 o automatizovaném rozhodování, DPIA) souběžně; AI Act jej nenahrazuje (GDPR článek 9).
V Anpheros
Funkce AI Anpherosu opakují a lokalizují obsah záznamu osoby a jsou odhaleny jako AI; nediagnostikují ani nedoporučují léčbu, takže produkt není lékařským prostředkem a spadá do úrovně transparentnosti zákona. Použití modelu je zdokumentováno, výstupy nesou původ a nic, co asistent vyprodukuje, se nestane klinickou skutečností v záznamu bez toho, aby to potvrdil člověk.
Tato stránka vysvětluje regulaci pro produktové a inženýrské týmy. Nejedná se o právní poradenství; autoritou jsou texty uvedené v sekci Zdroje. Poslední revize: říjen 2026.
Související stránky
- AI na lékařských datech: mapa
- Software jako lékařský prostředek: třídy MDR a IEC 62304
- Je zdravotnická aplikace lékařským prostředkem? Pravidlo 11 EU MDR
- GDPR článek 9 pro zdravotní údaje
- Mapa regulace zdravotních údajů
- RAG na lékařských záznamech
Zdroje
- Nařízení (EU) 2024/1689 (AI Act), EUR-Lex
- Evropská komise: AI Act (politická stránka a časová osa)
- Evropská komise: Úřad pro AI
- Nařízení (EU) 2017/745 (MDR), EUR-Lex
- CEN-CENELEC JTC 21: Umělá inteligence
- ISO/IEC 42001:2023, Systém řízení AI
Časté otázky
Je každý lékařský prostředek s AI vysoce rizikový podle AI Act?
Pouze ty, které podléhají posouzení shody třetí stranou podle MDR nebo IVDR, což je většina softwaru třídy IIa a vyšší. Prostředek třídy I s AI, který je samocertifikovaný, není vysoce rizikový podle přílohy I, ale stále podléhá obecným a transparentním povinnostem zákona.
Platí AI Act pro americkou společnost?
Ano, pokud je její systém AI uveden na trh EU nebo je jeho výstup použit v EU, stejně jako platí MDR a GDPR. Poskytovatelé mimo EU jmenují autorizovaného zástupce pro vysoce rizikové systémy.
Potřebuji pro AI druhé označení CE?
Ne. Pro prostředky podle přílohy I jedno posouzení shody pokrývá obě nařízení a jedno označení CE a prohlášení o shodě odkazuje na obě. Dokumentace musí pokrývat požadavky AI Act.
Co se mění pro zdravotnický chatbot?
Transparentnost: uživatelé musí být informováni, že komunikují s AI, generovaný obsah musí být označen a personál potřebuje AI gramotnost. Pokud chatbot poskytuje individuální diagnostické nebo léčebné rady, stává se lékařským prostředkem a situace se zcela mění.
Vyzkoušejte zdarma v sandboxu
První volání FHIR za 5 minut. API standardu HL7 FHIR R4 s integrovaným souhlasem pacienta: vyzkoušejte si ho v sandboxu a poté propojte svou vlastní aplikaci nebo klinický systém.
Zdarma · 30 syntetických pacientů · bez karty
Anpheros vytváří zdravotní záznamy, které pacient ovládá a může sdílet s jakoukoli klinikou, na platformě HL7 FHIR R4 se sídlem v EU. Tyto průvodce vám pomohou porozumět vašemu zdraví a uspořádat si ho; nenahrazují vašeho lékaře.
O Anpheros →