Rozporządzenie UE w sprawie sztucznej inteligencji (AI Act)

Krótka odpowiedź: Akt o sztucznej inteligencji (Rozporządzenie (UE) 2024/1689) reguluje systemy sztucznej inteligencji w oparciu o poziom ryzyka. W kontekście ochrony zdrowia istotne są trzy sytuacje. System sztucznej inteligencji, który jest wyrobem medycznym lub jego komponentem bezpieczeństwa, wymagającym oceny zgodności stron trzecich zgodnie z MDR lub IVDR, jest wysokiego ryzyka (Załącznik I): musi spełniać wymogi Aktu dotyczące zarządzania ryzykiem, danych, dokumentacji, rejestrowania zdarzeń, przejrzystości, nadzoru ludzkiego, dokładności i cyberbezpieczeństwa, oceniane łącznie z oceną zgodności wyrobu. Sztuczna inteligencja używana do segregacji medycznej w stanach nagłych lub do decydowania o dostępie do usług medycznych jest wysokiego ryzyka zgodnie z Załącznikiem III, nawet poza przepisami dotyczącymi wyrobów. Asystenci i chatboty, które nie są wysokiego ryzyka, nadal podlegają obowiązkom przejrzystości (ludzie muszą wiedzieć, że rozmawiają ze sztuczną inteligencją; wygenerowane treści są oznaczane). Akt wszedł w życie 1 sierpnia 2024 r., a obowiązki będą wprowadzane etapami do 2027 r.; Komisja zaproponowała pod koniec 2025 r. dostosowanie niektórych terminów, dlatego należy sprawdzić aktualny stan.

Piramida ryzyka

Ustawa o sztucznej inteligencji (AI Act) Unii Europejskiej dzieli systemy AI na kategorie: praktyki zakazane (obowiązujące od lutego 2025 r.), systemy wysokiego ryzyka zgodnie z Załącznikiem I (AI w wyrobach medycznych wymagających jednostki notyfikowanej) oraz Załącznikiem III (triage w sytuacjach nagłych, dostęp do usług medycznych), systemy ograniczonego ryzyka z obowiązkami w zakresie przejrzystości, takie jak chatboty medyczne, narzędzia minimalnego ryzyka bez specyficznych obowiązków oraz ogólne modele AI z obowiązkami dla dostawców.

Poziom	Przykłady w ochronie zdrowia	Konsekwencja
Zakazane (art. 5)	Techniki manipulacyjne wykorzystujące luki, nieukierunkowane zbieranie danych do rozpoznawania twarzy, rozpoznawanie emocji w pracy lub szkole (z wyjątkami dla zastosowań medycznych i bezpieczeństwa)	Zakazane od 2 lutego 2025 r.
Wysokiego ryzyka, Załącznik I	Sztuczna inteligencja w wyrobie medycznym lub wyrobie medycznym do diagnostyki in vitro, który wymaga jednostki notyfikowanej (większość oprogramowania klasy IIa i wyższej): sztuczna inteligencja obrazowa, wsparcie decyzji, kalkulatory dawek	Pełne wymogi dotyczące wysokiego ryzyka, oceniane w ramach oceny zgodności MDR/IVDR
Wysokiego ryzyka, Załącznik III	Systemy wezwań alarmowych i segregacji pacjentów; sztuczna inteligencja oceniająca uprawnienia do publicznych świadczeń i usług zdrowotnych; kategoryzacja biometryczna; decyzje dotyczące zatrudnienia pracowników służby zdrowia	Pełne wymogi dotyczące wysokiego ryzyka, samoocena lub jednostka notyfikowana zgodnie z zasadami Załącznika III, rejestracja w bazie danych UE
Ograniczone ryzyko (przejrzystość, art. 50)	Chatboty i asystenci zdrowotni, teksty lub obrazy generowane przez sztuczną inteligencję dotyczące zdrowia, treści typu deepfake	Ujawnienie interakcji ze sztuczną inteligencją; oznaczenie wygenerowanych treści; nadzór ludzki tam, gdzie ma to zastosowanie
Minimalne ryzyko	Filtry spamu, optymalizacja harmonogramów, narzędzia administracyjne	Brak szczególnych obowiązków; dobrowolne kodeksy
Ogólne modele sztucznej inteligencji (Rozdział V)	Modele podstawowe używane w produktach zdrowotnych	Obowiązki dostawcy: dokumentacja techniczna, polityka praw autorskich, podsumowanie szkolenia; dodatkowe obowiązki dla modeli stwarzających ryzyko systemowe

Aplikacja zdrowotna, która nie jest wyrobem medycznym i nie podlega pod Załącznik III (np. dziennik z funkcją podsumowania AI, dziennik objawów z interfejsem konwersacyjnym), należy do kategorii ograniczonego ryzyka: podlega obowiązkom w zakresie przejrzystości i ogólnemu obowiązkowi wiedzy o sztucznej inteligencji dla personelu (art. 4), a także wszystkiemu, czego już wymaga RODO. Jeśli ta sama aplikacja doda funkcję informującą o diagnozie lub leczeniu, staje się wyrobem medycznym zgodnie z MDR, a jeśli zaangażowana jest jednostka notyfikowana, staje się wysokiego ryzyka zgodnie z Aktem o sztucznej inteligencji; patrz Oprogramowanie jako wyrób medyczny.

Czego wymaga wysokie ryzyko (Rozdział III, Sekcja 2)

System AI wysokiego ryzyka w rozumieniu Ustawy o sztucznej inteligencji UE wymaga systemu zarządzania ryzykiem, zarządzania danymi treningowymi i testowymi, dokumentacji technicznej i logowania, przejrzystości dla wdrożeniowców, nadzoru ludzkiego z założenia, dokładności, niezawodności i cyberbezpieczeństwa, systemu zarządzania jakością, oceny zgodności ze znakiem CE, monitorowania porejestracyjnego i zgłaszania incydentów oraz rejestracji w bazie danych UE dla systemów z Załącznika III.

System zarządzania ryzykiem w całym cyklu życia (art. 9), zintegrowany z normą ISO 14971 dla wyrobów medycznych.
Zarządzanie danymi (art. 10): dane szkoleniowe, walidacyjne i testowe są istotne, reprezentatywne, zbadane pod kątem stronniczości, z udokumentowanym pochodzeniem; przetwarzanie danych szczególnych kategorii w celu korekty stronniczości dozwolone pod pewnymi warunkami.
Dokumentacja techniczna (art. 11, Załącznik IV) i rejestrowanie zdarzeń / logowanie (art. 12) w celu zapewnienia identyfikowalności.
Przejrzystość i instrukcje dla podmiotów wdrażających (art. 13).
Nadzór ludzki z założenia (art. 14): możliwość zrozumienia, anulowania i zatrzymania.
Dokładność, niezawodność i cyberbezpieczeństwo (art. 15), z zadeklarowanymi metrykami.
System zarządzania jakością (art. 17), który w przypadku wyrobów medycznych jest rozszerzeniem systemu ISO 13485.
Ocena zgodności, oznakowanie CE i deklaracja zgodności UE obejmujące oba rozporządzenia; rejestracja w bazie danych UE dla systemów z Załącznika III.
Nadzór po wprowadzeniu do obrotu i zgłaszanie poważnych incydentów (art. 72–73), skoordynowane z nadzorem MDR.
Podmioty wdrażające (szpitale, kliniki) mają własne obowiązki: stosowanie zgodnie z instrukcjami, nadzór ludzki, logowanie, informowanie ludzi, a dla organów publicznych ocena wpływu na prawa podstawowe (art. 27).

Nakładanie się z MDR i IVDR

Ustawa o sztucznej inteligencji UE nakłada się z MDR i IVDR z założenia: w przypadku AI w wyrobach medycznych wymienionych w Załączniku I, wymagania Ustawy są oceniane jako część oceny zgodności wyrobu przez tę samą jednostkę notyfikowaną, z jednym zestawem dokumentacji i jednym systemem jakości. Zharmonizowane normy z CEN-CENELEC JTC 21 zapewnią domniemanie zgodności po ich opublikowaniu.

Akt został napisany w celu uniknięcia drugiego równoległego procesu: w przypadku wyrobów z Załącznika I, wymogi dotyczące sztucznej inteligencji są oceniane w ramach oceny zgodności MDR/IVDR przez tę samą jednostkę notyfikowaną, która musi być również wyznaczona do celów Aktu o sztucznej inteligencji; dokumentacja może stanowić jeden zbiór; system jakości jest jeden. Zharmonizowane normy (dotyczące ryzyka AI, jakości danych, niezawodności) są opracowywane przez CEN-CENELEC JTC 21 i będą dawać domniemanie zgodności; do czasu ich istnienia producenci korzystają z norm ISO/IEC 42001, ISO/IEC 23894 i norm dotyczących wyrobów medycznych. Grupa Koordynacyjna ds. Wyrobów Medycznych i Rada ds. Sztucznej Inteligencji mają opublikować wspólne wytyczne; obszarem wartym uwagi jest wzajemne oddziaływanie nadzoru po wprowadzeniu do obrotu i zgłaszania incydentów.

Harmonogram

Ustawa o sztucznej inteligencji UE weszła w życie 1 sierpnia 2024 r. Zakazy i obowiązki w zakresie alfabetyzacji AI zaczęły obowiązywać od 2 lutego 2025 r., obowiązki dotyczące ogólnych modeli od 2 sierpnia 2025 r., większość Ustawy, w tym systemy wysokiego ryzyka z Załącznika III, od 2 sierpnia 2026 r., a systemy wysokiego ryzyka z Załącznika I, takie jak AI w wyrobach medycznych, od 2 sierpnia 2027 r., z zastrzeżeniem proponowanych dostosowań.

1 sierpnia 2024 r.: wejście w życie.
2 lutego 2025 r.: obowiązują zakazy i obowiązki w zakresie wiedzy o sztucznej inteligencji.
2 sierpnia 2025 r.: obowiązki dotyczące ogólnych modeli sztucznej inteligencji; zarządzanie (Urząd ds. AI, organy powiadamiające); kary.
2 sierpnia 2026 r.: obowiązuje większość Aktu, w tym systemy wysokiego ryzyka z Załącznika III i obowiązki w zakresie przejrzystości.
2 sierpnia 2027 r.: systemy wysokiego ryzyka z Załącznika I (sztuczna inteligencja w produktach regulowanych, takich jak wyroby medyczne) i ogólne modele wprowadzane do obrotu przed sierpniem 2025 r.

W listopadzie 2025 r. Komisja zaproponowała, w ramach "omnibusu cyfrowego", powiązanie stosowania przepisów dotyczących wysokiego ryzyka z dostępnością norm i narzędzi wsparcia, co mogłoby przesunąć terminy na lata 2026 i 2027; propozycja była w trakcie negocjacji w momencie pisania. Traktuj powyższe daty jako obowiązujące prawo i śledź Dziennik Urzędowy w celu uzyskania informacji o zmianach.

Co powinien zrobić zespół tworzący aplikacje zdrowotne

Praktyczne kroki dla zespołu tworzącego aplikacje medyczne w ramach Ustawy o sztucznej inteligencji UE to: klasyfikacja każdej funkcji AI jako wyrobu, kategorii z Załącznika III lub kategorii przejrzystości, ujawnianie interakcji AI i oznaczanie wygenerowanych treści, dokumentowanie danych treningowych i oceny według podgrup, zapewnienie kontroli przez człowieka z wynikami jako wersjami roboczymi, uzyskanie dokumentacji od dostawcy ogólnego modelu AI oraz równoległe prowadzenie prac związanych z RODO.

Sklasyfikuj każdą funkcję AI: czy jest wyrobem medycznym, czy nie (Czy aplikacja zdrowotna jest wyrobem medycznym?); czy podlega pod Załącznik III, czy nie; w przeciwnym razie, czy należy do kategorii przejrzystości.
Ujawnij interakcję ze sztuczną inteligencją i oznacz wygenerowane treści już teraz; nic to nie kosztuje, a będzie wymagane.
Dokumentuj dane i ocenę: skąd pochodziły dane szkoleniowe i testowe, jak mierzono wydajność, według podgrup; to jest sedno artykułów 10 i 15, a także dobra praktyka inżynierska (AI na danych medycznych: mapa).
Zachowaj kontrolę ludzką: wyniki jako wersje robocze i sugestie, nigdy automatycznie zatwierdzone fakty kliniczne; logi tego, co wygenerowała sztuczna inteligencja i kto je zaakceptował.
Sprawdź dostawcę modelu: dostawcy ogólnych modeli muszą dostarczyć dokumentację, której będziesz potrzebować do własnych plików.
Przeprowadź prace związane z RODO (art. 22 dotyczący zautomatyzowanych decyzji, ocena skutków dla ochrony danych) równolegle; Akt o sztucznej inteligencji go nie zastępuje (RODO artykuł 9).

W Anpheros

Funkcje AI w Anpheros odtwarzają i lokalizują zawartość rekordu osoby i są ujawniane jako AI; nie diagnozują ani nie zalecają leczenia, dlatego produkt nie jest wyrobem medycznym i podlega pod kategorię przejrzystości Aktu. Użycie modelu jest udokumentowane, wyniki mają określone pochodzenie, a nic, co wygeneruje asystent, nie staje się faktem klinicznym w rekordzie bez potwierdzenia przez człowieka.

Ta strona wyjaśnia przepisy dla zespołów produktowych i inżynieryjnych. Nie stanowi porady prawnej; teksty podane w sekcji Źródła są wiążące. Ostatnia weryfikacja: październik 2026.

Powiązane strony

Źródła

Najczęstsze pytania

Czy każdy wyrób medyczny z AI jest wysokiego ryzyka zgodnie z Aktem o sztucznej inteligencji?

Tylko te, które podlegają ocenie zgodności stron trzecich zgodnie z MDR lub IVDR, co dotyczy większości oprogramowania klasy IIa i wyższej. Wyrób klasy I z AI, który jest samocertyfikowany, nie jest wysokiego ryzyka zgodnie z Załącznikiem I, ale nadal podlega ogólnym obowiązkom i obowiązkom w zakresie przejrzystości Aktu.

Czy Akt o sztucznej inteligencji dotyczy firmy z USA?

Tak, gdy jego system sztucznej inteligencji jest wprowadzany na rynek UE lub jego wyniki są wykorzystywane w UE, tak samo jak MDR i RODO. Dostawcy spoza UE wyznaczają przedstawiciela upoważnionego dla systemów wysokiego ryzyka.

Czy potrzebuję drugiego oznaczenia CE dla AI?

Nie. W przypadku wyrobów z Załącznika I jedna ocena zgodności obejmuje oba rozporządzenia, a jedno oznaczenie CE i deklaracja zgodności odnoszą się do obu. Dokumentacja musi obejmować wymogi Aktu o sztucznej inteligencji.

Co się zmienia dla chatbota zdrowotnego?

Przejrzystość: użytkownicy muszą być informowani, że wchodzą w interakcję ze sztuczną inteligencją, wygenerowane treści muszą być oznaczone, a personel musi posiadać wiedzę o sztucznej inteligencji. Jeśli chatbot udziela indywidualnych porad diagnostycznych lub terapeutycznych, staje się wyrobem medycznym, a sytuacja całkowicie się zmienia.

Anpheros Platform

Wypróbuj za darmo w sandboksie

Pierwsze wywołanie FHIR w 5 minut. API HL7 FHIR R4 z wbudowaną zgodą pacjenta: wypróbuj w piaskownicy, a następnie połącz własną aplikację lub system kliniczny.

Utwórz darmowy sandbox Przeczytaj przewodniki dla programistów →

Za darmo · 30 syntetycznych pacjentów · bez karty

Ten poradnik ma charakter informacyjny i nie zastępuje konsultacji lekarskiej. Decyzje dotyczące zdrowia podejmuj z lekarzem. W nagłym wypadku zadzwoń pod lokalny numer alarmowy (112 w Europie).

Napisane przez

Zespół Anpheros

Anpheros tworzy dokumentację medyczną, nad którą pacjent ma kontrolę i którą może udostępniać dowolnej klinice, na platformie HL7 FHIR R4, z siedzibą w UE. Te przewodniki pomogą Ci zrozumieć i uporządkować informacje o Twoim zdrowiu; nie zastępują one wizyty u lekarza.

O Anpheros →