Az EU Mesterséges Intelligencia törvénye és az egészségügyi

Rövid válasz: az AI Act (2024/1689/EU rendelet) a kockázat alapján szabályozza a mesterséges intelligencia (MI) rendszereket. Az egészségügy szempontjából három helyzet számít. Az MI rendszer, amely orvostechnikai eszköz, vagy annak biztonsági komponense, és amely harmadik fél általi megfelelőségértékelést igényel az MDR vagy IVDR alapján, magas kockázatú (I. melléklet): meg kell felelnie az MI Act kockázatkezelésre, adatokra, dokumentációra, naplózásra, átláthatóságra, emberi felügyeletre, pontosságra és kiberbiztonságra vonatkozó követelményeinek, amelyeket együtt értékelnek az eszköz megfelelőségértékelésével. Az vészhelyzeti triázsra vagy az egészségügyi szolgáltatásokhoz való hozzáférés eldöntésére használt MI a III. melléklet alapján magas kockázatú, még az eszközjogszabályokon kívül is. A segédprogramok és chatbotok, amelyek nem magas kockázatúak, továbbra is átláthatósági kötelezettségekkel járnak (az embereknek tudniuk kell, hogy MI-vel beszélnek; a generált tartalmat jelölni kell). Az MI Act 2024. augusztus 1-jén lépett hatályba, a kötelezettségek 2027-ig fokozatosan vezetnek be; a Bizottság 2025 végén javasolta egyes határidők módosítását, ezért ellenőrizze az aktuális állapotot.

A kockázati piramis

Az EU mesterséges intelligenciáról szóló törvénye (AI Act) a mesterséges intelligencia rendszereket különböző kategóriákba sorolja: tiltott gyakorlatok (2025. februártól hatályos tilalom), magas kockázatú rendszerek az I. melléklet szerint (orvostechnikai eszközökben használt MI, amelyekhez bejelentett szervezet szükséges) és a III. melléklet szerint (sürgősségi triage, egészségügyi szolgáltatásokhoz való hozzáférés), korlátozott kockázatú rendszerek átláthatósági kötelezettségekkel, mint például az egészségügyi chatbotok, minimális kockázatú eszközök külön kötelezettségek nélkül, valamint általános célú MI modellek szolgáltatói kötelezettségekkel.

Szint	Egészségügyi példák	Következmény
Tiltott (5. cikk)	Sérülékenységeket kihasználó manipulációs technikák, arcfelismeréshez nem célzott adatgyűjtés, érzelemfelismerés munkahelyen vagy iskolában (kivéve orvosi és biztonsági célokat)	2025. február 2-a óta tilos
Magas kockázatú, I. melléklet	MI orvostechnikai eszközben vagy in vitro diagnosztikai orvostechnikai eszközben, amely bejelentett szervezetet igényel (a legtöbb IIa. osztályú és annál magasabb szoftver): képalkotó MI, döntéstámogató rendszerek, dózisszámítók	Teljes magas kockázatú követelmények, az MDR/IVDR megfelelőségértékelésén belül értékelve
Magas kockázatú, III. melléklet	Vészhelyzeti hívó- és betegtriázs rendszerek; MI, amely értékeli a jogosultságot közegészségügyi juttatásokra és szolgáltatásokra; biometrikus kategorizálás; egészségügyi dolgozók foglalkoztatási döntései	Teljes magas kockázatú követelmények, önértékelés vagy bejelentett szervezet a III. melléklet szabályai szerint, regisztráció az EU adatbázisában
Korlátozott kockázat (átláthatóság, 50. cikk)	Egészségügyi chatbotok és segédprogramok, MI által generált szövegek vagy képek egészségről, deepfake típusú tartalom	MI interakció felfedése; generált tartalom jelölése; emberi felügyelet, ahol releváns
Minimális kockázat	Spam szűrők, ütemezés optimalizálás, adminisztratív eszközök	Nincsenek speciális kötelezettségek; önkéntes kódexek
Általános célú MI modellek (V. fejezet)	Egészségügyi termékekben használt alapmodellek	Szolgáltató kötelezettségei: műszaki dokumentáció, szerzői jogi politika, képzési összefoglaló; extra kötelezettségek rendszerszintű kockázatú modellek esetén

Egy egészségügyi alkalmazás, amely nem eszköz, és nem tartozik a III. melléklet hatálya alá (egy MI összefoglaló funkcióval rendelkező rekord, egy beszélgető felülettel rendelkező tünetnapló) a korlátozott szintbe tartozik: átláthatóság és az általános MI írástudási kötelezettség a személyzet számára (4. cikk), valamint minden, amit a GDPR már előír. Ha ugyanaz az alkalmazás hozzáad egy olyan funkciót, amely tájékoztat a diagnózisról vagy a kezelésről, akkor az MDR alapján eszközzé válik, és ha bejelentett szervezet vesz részt, akkor az MI Act alapján magas kockázatúvá válik; lásd: Szoftver mint orvostechnikai eszköz.

Mit követel meg a magas kockázat (III. fejezet, 2. szakasz)

Az EU AI Act szerinti magas kockázatú MI rendszerhez kockázatkezelési rendszer, képzési és tesztadatok adatkezelése, technikai dokumentáció és naplózás, átláthatóság a bevezető felek számára, beépített emberi felügyelet, pontosság, robusztusság és kiberbiztonság, minőségirányítási rendszer, megfelelőségértékelés CE-jelöléssel, piacfelügyelet és incidensjelentés, valamint a III. melléklet szerinti rendszerek EU adatbázisban történő regisztrációja szükséges.

Kockázatkezelési rendszer az életciklus során (9. cikk), integrálva az ISO 14971 szabvánnyal az eszközök esetében.
Adatkezelés (10. cikk): a képzési, érvényesítési és tesztadatok relevánsak, reprezentatívak, elfogultság szempontjából megvizsgáltak, dokumentált eredetűek; különleges kategóriájú adatok feldolgozása elfogultság korrekciója céljából feltételek mellett megengedett.
Műszaki dokumentáció (11. cikk, IV. melléklet) és rekordvezetés / naplózás (12. cikk) az átláthatóság érdekében.
Átláthatóság és utasítások a telepítők számára (13. cikk).
Emberi felügyelet tervezés szerint (14. cikk): a megértés, felülbírálat és leállítás képessége.
Pontosság, robusztusság és kiberbiztonság (15. cikk), deklarált mutatókkal.
Minőségirányítási rendszer (17. cikk), amely eszközök esetében az ISO 13485 rendszer kiterjesztése.
Megfelelőségértékelés, a CE jelölés és az EU megfelelőségi nyilatkozat, amely mindkét rendeletre kiterjed; regisztráció az EU adatbázisában a III. melléklet szerinti rendszerek esetében.
Piaci utólagos felügyelet és súlyos incidens jelentés (72–73. cikk), az MDR felügyeletével koordinálva.
A telepítőknek (kórházak, klinikák) saját kötelezettségeik vannak: az utasításoknak megfelelő használat, emberi felügyelet, naplók, az emberek tájékoztatása, és közintézmények esetében alapvető jogok hatásvizsgálata (27. cikk).

Az MDR és IVDR-rel való átfedés

Az EU AI Act tervezetten átfedésben van az MDR-rel és az IVDR-rel: az I. mellékletben felsorolt orvostechnikai eszközökben használt MI esetében a törvény követelményeit az eszköz megfelelőségértékelésének részeként ugyanaz a bejelentett szervezet vizsgálja, egyetlen dokumentációval és egy minőségirányítási rendszerrel. A CEN-CENELEC JTC 21 harmonizált szabványai a közzétételük után megadják a megfelelőség vélelmét.

Az MI Actet úgy írták, hogy elkerüljék a második párhuzamos folyamatot: az I. melléklet szerinti eszközök esetében az MI követelményeit az MDR/IVDR megfelelőségértékelésének részeként értékelik ugyanazon a bejelentett szervezet által, amelyet az MI Actre is ki kell jelölni; a dokumentáció lehet egyetlen készlet; a minőségbiztosítási rendszer egy. Harmonizált szabványok (MI kockázat, adatminőség, robusztusság) kerülnek kidolgozásra a CEN-CENELEC JTC 21 által, és ezek megadják a megfelelőség vélelmét; amíg ezek nem léteznek, a gyártók az ISO/IEC 42001, ISO/IEC 23894 és az eszközszabványokat használják. Az Orvostechnikai Eszközök Koordinációs Csoport és az MI Tanács várhatóan közös iránymutatásokat tesz közzé; a piaci utólagos felügyelet és az incidensjelentés közötti kapcsolat az a terület, amelyet figyelni kell.

Idővonal

Az EU AI Act 2024. augusztus 1-jén lépett hatályba. A tilalmak és az MI-ismeretekkel kapcsolatos kötelezettségek 2025. február 2-tól, az általános célú modell kötelezettségek 2025. augusztus 2-tól, a törvény nagy részét, beleértve a III. melléklet szerinti magas kockázatú rendszereket, 2026. augusztus 2-tól, az I. melléklet szerinti magas kockázatú rendszereket, mint például az orvostechnikai eszközökben használt MI, pedig 2027. augusztus 2-tól kell alkalmazni, a javasolt kiigazítások függvényében.

2024. augusztus 1.: hatálybalépés.
2025. február 2.: a tilalmak és az MI írástudási kötelezettségek alkalmazandók.
2025. augusztus 2.: általános célú MI modellek kötelezettségei; irányítás (MI Hivatal, értesítő hatóságok); szankciók.
2026. augusztus 2.: az MI Act nagy része alkalmazandó, beleértve a III. melléklet szerinti magas kockázatú rendszereket és az átláthatósági kötelezettségeket.
2027. augusztus 2.: az I. melléklet szerinti magas kockázatú rendszerek (MI szabályozott termékekben, például orvostechnikai eszközökben) és az általános célú modellek, amelyeket 2025 augusztusa előtt hoztak forgalomba.

2025 novemberében a Bizottság egy "digitális omnibusz" keretében javasolta a magas kockázatú szabályok alkalmazásának összekapcsolását a szabványok és támogatási eszközök elérhetőségével, ami eltolhatja a 2026-os és 2027-es dátumokat; a javaslat az írás időpontjában tárgyalás alatt állt. Tekintse a fenti dátumokat az elfogadott törvényként, és kövesse a Hivatalos Lapot a változásokért.

Mit tegyen most egy egészségügyi alkalmazás csapat

Az egészségügyi alkalmazás csapatának gyakorlati lépései az EU AI Act keretében: minden MI funkciót eszköz, III. melléklet vagy átláthatósági kategóriába sorolni, feltárni az MI-vel való interakciót és megjelölni a generált tartalmat, dokumentálni a képzési adatokat és az alcsoportok szerinti értékelést, emberi kontrollt biztosítani a kimenetek tervezetként való kezelésével, megszerezni a dokumentációt az általános célú modell szolgáltatójától, és párhuzamosan futtatni a GDPR-munkát.

Osztályozza minden MI funkciót: eszköz-e vagy sem (Egészségügyi alkalmazás orvostechnikai eszköz?); III. melléklet szerinti-e vagy sem; egyébként átláthatósági szint.
Fedje fel az MI interakciót és jelölje meg a generált tartalmat most; ez semmibe sem kerül, és kötelező lesz.
Dokumentálja az adatokat és az értékelést: honnan származtak a képzési és tesztadatok, hogyan mérték a teljesítményt, alcsoportonként; ez a 10. és 15. cikk lényege, és jó mérnöki gyakorlat is (MI orvosi adatokon: a térkép).
Tartsa az embereket irányítás alatt: a kimenetek legyenek tervek és javaslatok, soha ne legyenek automatikusan rögzített klinikai tények; naplózza, hogy mit állított elő az MI, és ki fogadta el.
Ellenőrizze a modell szolgáltatóját: az általános célú modell szolgáltatóinak dokumentációt kell biztosítaniuk, amelyre szüksége lesz a saját fájljához.
Futtassa a GDPR munkát (22. cikk az automatizált döntésekről, a DPIA) párhuzamosan; az MI Act nem helyettesíti azt (GDPR 9. cikk).

Az Anpheros-nál

Az Anpheros MI funkciói megerősítik és lokalizálják, hogy mit tartalmaz egy személy rekordja, és MI-ként vannak feltüntetve; nem diagnosztizálnak vagy javasolnak kezelést, így a termék nem orvostechnikai eszköz, és az MI Act átláthatósági szintjébe tartozik. A modellhasználat dokumentált, a kimenetek eredetiséggel bírnak, és semmi, amit egy segédprogram előállít, nem válik klinikai ténnyé a rekordban anélkül, hogy egy ember azt ne állítaná.

Ez az oldal a termék- és mérnöki csapatok számára szóló szabályozást magyarázza el. Nem jogi tanács; a Források alatt linkelt szövegek az irányadóak. Utolsó felülvizsgálat: 2026. október.

Kapcsolódó oldalak

Források

Gyakori kérdések

Minden MI-vel rendelkező orvostechnikai eszköz magas kockázatú az MI Act alapján?

Csak azok, amelyek harmadik fél általi megfelelőségértékelésen esnek át az MDR vagy IVDR alapján, ami a legtöbb IIa. osztályú és annál magasabb szoftverre vonatkozik. Egy önminősített I. osztályú eszköz MI-vel nem tartozik az I. melléklet szerinti magas kockázatú kategóriába, de továbbra is vonatkoznak rá az MI Act általános és átláthatósági kötelezettségei.

Az MI Act vonatkozik egy amerikai cégre?

Igen, amikor az MI rendszerét az EU piacára hozzák, vagy annak kimenetét az EU-ban használják, ugyanúgy, ahogy az MDR és a GDPR vonatkozik. Az EU-n kívüli szolgáltatók meghatalmazott képviselőt jelölnek ki a magas kockázatú rendszerek esetében.

Szükségem van egy második CE jelölésre az MI-hez?

Nem. Az I. melléklet szerinti eszközök esetében egy megfelelőségértékelés mindkét rendeletre kiterjed, és egy CE jelölés és megfelelőségi nyilatkozat mindkettőre hivatkozik. A dokumentációnak fednie kell az MI Act követelményeit.

Mi változik egy egészségügyi chatbot esetében?

Átláthatóság: a felhasználókat tájékoztatni kell arról, hogy MI-vel lépnek kapcsolatba, a generált tartalmat jelölni kell, és a személyzetnek MI írástudással kell rendelkeznie. Ha a chatbot egyéni diagnosztikai vagy kezelési tanácsot ad, orvostechnikai eszközzé válik, és a kép teljesen megváltozik.

Anpheros Platform

Próbálja ki ingyen a sandboxban

Az első FHIR-hívás 5 perc alatt. Egy HL7 FHIR R4 API, amely tartalmazza a beteg beleegyezését: próbáld ki a sandboxban, majd csatlakoztasd saját alkalmazásodat vagy klinikai rendszeredet.

Ingyenes sandbox létrehozása Olvasd el a fejlesztői útmutatókat →

Ingyenes · 30 szintetikus beteg · kártya nélkül

Ez az útmutató tájékoztató jellegű, és nem helyettesíti az orvosi tanácsot. Az egészségeddel kapcsolatos döntésekhez beszélj az orvosoddal. Vészhelyzetben hívja a helyi segélyhívó számot (Európában 112).

Szerző:

Az Anpheros csapata

Az Anpheros egy olyan egészségügyi nyilvántartást épít, amelyet a beteg irányít, és megoszthat bármelyik klinikával, egy EU-ban működő HL7 FHIR R4 platformon. Ezek az útmutatók segítenek megérteni és rendszerezni az egészségügyi adataidat; nem helyettesítik az orvosodat.

Tudj meg többet az Anpherosról →