Zákon EÚ o umelej inteligencii a AI v zdravotníctve, vysvetlené

Krátka odpoveď: Zákon o umelej inteligencii (Nariadenie (EÚ) 2024/1689) reguluje systémy umelej inteligencie podľa rizika. V oblasti zdravotníctva sú dôležité tri situácie. Systém umelej inteligencie, ktorý je zdravotníckym pomôckou alebo jej bezpečnostnou súčasťou, vyžadujúcou posúdenie zhody treťou stranou podľa MDR alebo IVDR, je vysoko rizikový (Príloha I): musí spĺňať požiadavky zákona na riadenie rizík, údaje, dokumentáciu, zaznamenávanie, transparentnosť, ľudský dohľad, presnosť a kybernetickú bezpečnosť, posudzované spolu s posúdením zhody pomôcky. Umela inteligencia používaná na núdzové triedenie alebo rozhodovanie o prístupe k zdravotným službám je vysoko riziková podľa Prílohy III, aj mimo zákona o pomôckach. Asistenti a chatboty, ktoré nie sú vysoko rizikové, stále podliehajú povinnostiam transparentnosti (ľudia musia vedieť, že komunikujú s umelou inteligenciou; generovaný obsah je označený). Zákon nadobudol účinnosť 1. augusta 2024, pričom povinnosti sa postupne zavádzajú do roku 2027; Komisia v polovici roka 2025 navrhla úpravu niektorých termínov, preto si overte aktuálny stav.

Pyramída rizika

Zákon EÚ o umelej inteligencii rozdeľuje systémy AI do úrovní: zakázané praktiky (zakázané od februára 2025), vysoko rizikové systémy podľa Prílohy I (AI v zdravotníckych zariadeniach vyžadujúcich notifikovaný orgán) a Prílohy III (núdzové triedenie, prístup k zdravotným službám), systémy s obmedzeným rizikom s povinnosťami transparentnosti, ako sú zdravotnícke chatboty, nástroje s minimálnym rizikom bez špecifických povinností a všeobecné modely AI s povinnosťami poskytovateľa.

Úroveň	Príklady v zdravotníctve	Dôsledok
Zakázané (čl. 5)	Manipulatívne techniky zneužívajúce zraniteľnosti, necielené prehľadávanie na rozpoznávanie tváre, rozpoznávanie emócií v práci alebo škole (s výnimkami pre lekárske a bezpečnostné použitie)	Zakázané od 2. februára 2025
Vysoko rizikové, Príloha I	Umelá inteligencia v zdravotníckej pomôcke alebo IVD, ktorá potrebuje notifikovaný orgán (väčšina softvéru triedy IIa a vyššej): umelá inteligencia na zobrazovanie, podpora rozhodovania, kalkulačky dávok	Plné požiadavky na vysoko rizikové, posudzované v rámci posúdenia zhody MDR/IVDR
Vysoko rizikové, Príloha III	Systémy núdzových volaní a triedenia pacientov; umelá inteligencia vyhodnocujúca oprávnenosť na verejné zdravotné benefity a služby; biometrická kategorizácia; rozhodnutia o zamestnaní zdravotníckych pracovníkov	Plné požiadavky na vysoko rizikové, samo-posúdenie alebo notifikovaný orgán podľa pravidiel Prílohy III, registrácia v databáze EÚ
Obmedzené riziko (transparentnosť, čl. 50)	Zdravotnícke chatboty a asistenti, texty alebo obrázky generované umelou inteligenciou o zdravotných témach, obsah typu deepfake	Zverejnenie interakcie s umelou inteligenciou; označenie generovaného obsahu; ľudský dohľad tam, kde je to relevantné
Minimálne riziko	Spamové filtre, optimalizácia plánovania, administratívne nástroje	Žiadne špecifické povinnosti; dobrovoľné kódexy
Všeobecné modely umelej inteligencie (Kapitola V)	Základné modely používané v zdravotníckych produktoch	Povinnosti poskytovateľa: technická dokumentácia, politika autorských práv, súhrn školenia; dodatočné povinnosti pre modely so systémovým rizikom

Zdravotnícka aplikácia, ktorá nie je pomôckou a nespadá pod Prílohu III (záznam s funkciou súhrnu pomocou AI, denník symptómov s konverzačným rozhraním) patrí do obmedzenej úrovne: transparentnosť a všeobecná povinnosť AI gramotnosti pre personál (čl. 4), plus všetko, čo už vyžaduje GDPR. Ak tá istá aplikácia pridá funkciu, ktorá informuje o diagnóze alebo liečbe, stáva sa pomôckou podľa MDR a, ak je zapojený notifikovaný orgán, vysoko rizikovou podľa Zákona o AI; pozri Softvér ako zdravotnícka pomôcka.

Čo vyžaduje vysoko riziková umelá inteligencia (Kapitola III, Sekcia 2)

Vysoko rizikový systém AI podľa Zákona EÚ o umelej inteligencii vyžaduje systém riadenia rizík, správu údajov pre tréningové a testovacie údaje, technickú dokumentáciu a logovanie, transparentnosť pre nasadzovateľov, ľudský dohľad od návrhu, presnosť, robustnosť a kybernetickú bezpečnosť, systém riadenia kvality, posúdenie zhody s označením CE, monitorovanie po uvedení na trh a hlásenie incidentov a registráciu v databáze EÚ pre systémy podľa Prílohy III.

Systém riadenia rizík počas celého životného cyklu (čl. 9), integrovaný s ISO 14971 pre pomôcky.
Správa údajov (čl. 10): tréningové, validačné a testovacie údaje relevantné, reprezentatívne, preskúmané na zaujatosť, s dokumentovaným pôvodom; spracovanie osobitných kategórií údajov na korekciu zaujatosti povolené za určitých podmienok.
Technická dokumentácia (čl. 11, Príloha IV) a uchovávanie záznamov / zaznamenávanie (čl. 12) pre sledovateľnosť.
Transparentnosť a pokyny pre nasadzovateľov (čl. 13).
Ľudský dohľad podľa návrhu (čl. 14): schopnosť porozumieť, prekonať a zastaviť.
Presnosť, robustnosť a kybernetická bezpečnosť (čl. 15), s deklarovanými metrikami.
Systém riadenia kvality (čl. 17), ktorý pre pomôcky je rozšírený systém ISO 13485.
Posúdenie zhody, označenie CE a vyhlásenie o zhode EÚ pokrývajúce obe nariadenia; registrácia v databáze EÚ pre systémy podľa Prílohy III.
Dohľad nad trhom a nahlasovanie vážnych incidentov (čl. 72–73), koordinované s bdelosťou MDR.
Nasadzovateľia (nemocnice, kliniky) majú svoje vlastné povinnosti: používať podľa pokynov, ľudský dohľad, záznamy, informovanie ľudí a pre verejné orgány posúdenie dopadu na základné práva (čl. 27).

Prekryv s MDR a IVDR

Zákon EÚ o umelej inteligencii sa z povahy veci prekrýva s MDR a IVDR: pre AI v zdravotníckych zariadeniach uvedených v Prílohe I sa požiadavky Zákona posudzujú ako súčasť posúdenia zhody zariadenia tým istým notifikovaným orgánom, s jedinou sadou dokumentácie a jedným systémom kvality. Harmonizované normy od CEN-CENELEC JTC 21 poskytnú domnienku zhody po ich zverejnení.

Zákon bol napísaný tak, aby sa predišlo druhému paralelnému procesu: pre pomôcky podľa Prílohy I sa požiadavky na umelú inteligenciu posudzujú ako súčasť posúdenia zhody MDR/IVDR tým istým notifikovaným orgánom, ktorý musí byť určený aj pre Zákon o AI; dokumentácia môže byť jednotná; systém kvality je jeden. Harmonizované normy (pre riziko AI, kvalitu údajov, robustnosť) vyvíja CEN-CENELEC JTC 21 a poskytnú predpoklad zhody; kým nebudú existovať, výrobcovia používajú ISO/IEC 42001, ISO/IEC 23894 a normy pre pomôcky. Koordinačná skupina pre zdravotnícke pomôcky a Rada pre umelú inteligenciu by mali zverejniť spoločné usmernenia; oblasť, ktorú treba sledovať, je súhra dohľadu nad trhom a nahlasovania incidentov.

Časový harmonogram

Zákon EÚ o umelej inteligencii nadobudol platnosť 1. augusta 2024. Zákazy a povinnosti týkajúce sa AI gramotnosti platia od 2. februára 2025, povinnosti pre všeobecné modely od 2. augusta 2025, väčšina Zákona vrátane vysoko rizikových systémov podľa Prílohy III od 2. augusta 2026 a vysoko rizikové systémy podľa Prílohy I, ako je AI v zdravotníckych zariadeniach, od 2. augusta 2027, s výhradou navrhovaných úprav.

1. august 2024: nadobudnutie účinnosti.
2. február 2025: platia zákazy a povinnosti týkajúce sa AI gramotnosti.
2. august 2025: povinnosti pre všeobecné modely umelej inteligencie; riadenie (Úrad pre AI, notifikujúce orgány); sankcie.
2. august 2026: platí väčšina Zákona, vrátane vysoko rizikových systémov podľa Prílohy III a povinností transparentnosti.
2. august 2027: vysoko rizikové systémy podľa Prílohy I (umelá inteligencia v regulovaných produktoch, ako sú zdravotnícke pomôcky) a všeobecné modely uvedené na trh pred augustom 2025.

V novembri 2025 Komisia navrhla v rámci "digitálneho omnibusu" viazať uplatňovanie pravidiel pre vysoko rizikové systémy na dostupnosť noriem a podporných nástrojov, čo by mohlo posunúť termíny v rokoch 2026 a 2027; návrh bol v čase písania v procese rokovaní. Berte uvedené dátumy ako prijatý zákon a sledujte Úradný vestník pre zmeny.

Čo by mal urobiť tím zdravotníckej aplikácie teraz

Praktické kroky pre tím zdravotníckej aplikácie podľa Zákona EÚ o umelej inteligencii zahŕňajú klasifikáciu každej funkcie AI ako zariadenie, Prílohu III alebo úroveň transparentnosti, zverejnenie interakcie s AI a označenie generovaného obsahu, dokumentáciu tréningových údajov a hodnotenia podľa podskupín, udržanie ľudskej kontroly s výstupmi ako návrhmi, získanie dokumentácie od dodávateľa všeobecného modelu a súbežné vykonávanie práce v oblasti GDPR.

Klasifikujte každú funkciu AI: pomôcka alebo nie (Je zdravotnícka aplikácia zdravotníckou pomôckou?); podľa Prílohy III alebo nie; inak úroveň transparentnosti.
Zverejňujte interakciu s AI a označujte generovaný obsah už teraz; nič to nestojí a bude to vyžadované.
Dokumentujte údaje a hodnotenie: odkiaľ pochádzali tréningové a testovacie údaje, ako bol meraný výkon, podľa podskupín; toto je jadro článkov 10 a 15 a tiež dobré inžinierstvo (AI na lekárskych údajoch: mapa).
Udržujte ľudí pod kontrolou: výstupy ako návrhy a odporúčania, nikdy automaticky potvrdené klinické fakty; záznamy o tom, čo AI vyprodukovala a kto to prijal.
Skontrolujte dodávateľa modelu: poskytovatelia všeobecných modelov musia dodať dokumentáciu, ktorú budete potrebovať pre svoj vlastný spis.
Vykonajte prácu podľa GDPR (článok 22 o automatizovaných rozhodnutiach, DPIA) súbežne; Zákon o AI ho nenahrádza (GDPR článok 9).

V Anpheros

Funkcie AI v Anpheros opakujú a lokalizujú obsah záznamu osoby a sú zverejnené ako AI; nediagnostikujú ani neodporúčajú liečbu, takže produkt nie je zdravotníckou pomôckou a spadá do úrovne transparentnosti Zákona. Použitie modelu je zdokumentované, výstupy nesú pôvod a nič, čo asistent vyprodukuje, sa nestane klinickým faktom v zázname bez toho, aby to potvrdil človek.

Táto stránka vysvetľuje reguláciu pre produktové a inžinierske tímy. Nie je to právne poradenstvo; texty uvedené v zdrojoch sú záväzné. Posledná revízia: október 2026.

Súvisiace stránky

Zdroje

Časté otázky

Je každá zdravotnícka pomôcka s AI vysoko riziková podľa Zákona o AI?

Len tie, ktoré podliehajú posúdeniu zhody treťou stranou podľa MDR alebo IVDR, čo je väčšina softvéru triedy IIa a vyššej. Pomôcka triedy I s AI, ktorá je samocertifikovaná, nie je vysoko riziková podľa Prílohy I, ale stále podlieha všeobecným a transparentným povinnostiam Zákona.

Vzťahuje sa Zákon o AI na americkú spoločnosť?

Áno, keď je jej systém AI uvedený na trh EÚ alebo sa jeho výstup používa v EÚ, rovnako ako sa uplatňuje MDR a GDPR. Poskytovatelia mimo EÚ si musia vymenovať splnomocneného zástupcu pre vysoko rizikové systémy.

Potrebujem druhé označenie CE pre AI?

Nie. Pre pomôcky podľa Prílohy I jedno posúdenie zhody pokrýva obe nariadenia a jedno označenie CE a vyhlásenie o zhode odkazuje na obe. Dokumentácia musí pokrývať požiadavky Zákona o AI.

Čo sa mení pre zdravotnícky chatbot?

Transparentnosť: používatelia musia byť informovaní, že komunikujú s AI, generovaný obsah musí byť označený a personál potrebuje AI gramotnosť. Ak chatbot poskytuje individuálne diagnostické alebo liečebné rady, stáva sa zdravotníckou pomôckou a situácia sa úplne mení.

Anpheros Platform

Vyskúšajte zadarmo v sandboxe

Prvé volanie FHIR za 5 minút. API podľa štandardu HL7 FHIR R4 s integrovaným súhlasom pacienta: vyskúšajte si ho v sandboxe a potom pripojte svoju vlastnú aplikáciu alebo klinický systém.

Vytvoriť sandbox zadarmo Prečítať návody pre vývojárov →

Zadarmo · 30 syntetických pacientov · bez karty

Tento návod slúži na informačné účely a nenahrádza lekársku radu. Pri rozhodovaní o svojom zdraví sa poraďte so svojím lekárom. V núdzi volajte miestne tiesňové číslo (v Európe 112).

Napísal

Tím Anpheros

Anpheros vyvíja zdravotný záznam, ktorý pacient ovláda a môže zdieľať s akoukoľvek klinikou, na platforme HL7 FHIR R4, so sídlom v EÚ. Tieto návody vám pomôžu pochopiť a usporiadať si svoje zdravie; nenahrádzajú vášho lekára.

O Anpherose →