Σύντομη απάντηση: ο Νόμος για την Τεχνητή Νοημοσύνη (Κανονισμός (ΕΕ) 2024/1689) ρυθμίζει τα συστήματα ΤΝ με βάση τον κίνδυνο. Για την υγεία, τρεις καταστάσεις είναι σημαντικές. Ένα σύστημα ΤΝ που είναι, ή αποτελεί συστατικό ασφαλείας, ιατροτεχνολογικού προϊόντος που απαιτεί αξιολόγηση συμμόρφωσης από τρίτο μέρος σύμφωνα με τον MDR ή τον IVDR, θεωρείται υψηλού κινδύνου (Παράρτημα Ι): πρέπει να πληροί τις απαιτήσεις του Νόμου σχετικά με τη διαχείριση κινδύνων, τα δεδομένα, την τεκμηρίωση, την καταγραφή, τη διαφάνεια, την ανθρώπινη εποπτεία, την ακρίβεια και την κυβερνοασφάλεια, αξιολογούμενα μαζί με την αξιολόγηση συμμόρφωσης του προϊόντος. Η ΤΝ που χρησιμοποιείται για επείγουσα διαλογή ή για τη λήψη αποφάσεων σχετικά με την πρόσβαση σε υπηρεσίες υγείας θεωρείται υψηλού κινδύνου σύμφωνα με το Παράρτημα ΙΙΙ, ακόμη και εκτός του νόμου για τα ιατροτεχνολογικά προϊόντα. Οι βοηθοί και τα chatbots που δεν είναι υψηλού κινδύνου εξακολουθούν να υπόκεινται σε καθήκοντα διαφάνειας (οι άνθρωποι πρέπει να γνωρίζουν ότι συνομιλούν με ΤΝ· το παραγόμενο περιεχόμενο επισημαίνεται). Ο Νόμος τέθηκε σε ισχύ την 1η Αυγούστου 2024, με τις υποχρεώσεις να εφαρμόζονται σταδιακά έως το 2027· η Επιτροπή πρότεινε στα τέλη του 2025 την προσαρμογή ορισμένων προθεσμιών, οπότε ελέγξτε την τρέχουσα κατάσταση.
Η πυραμίδα κινδύνου
Ο Νόμος της ΕΕ για την Τεχνητή Νοημοσύνη κατατάσσει τα συστήματα ΤΝ σε κατηγορίες: απαγορευμένες πρακτικές που έχουν τεθεί εκτός νόμου από τον Φεβρουάριο του 2025, συστήματα υψηλού κινδύνου σύμφωνα με το Παράρτημα Ι (ΤΝ σε ιατροτεχνολογικά προϊόντα που απαιτούν κοινοποιημένο φορέα) και το Παράρτημα ΙΙΙ (διαλογή έκτακτης ανάγκης, πρόσβαση σε υπηρεσίες υγείας), συστήματα περιορισμένου κινδύνου με καθήκοντα διαφάνειας, όπως τα chatbots υγείας, εργαλεία ελάχιστου κινδύνου χωρίς ειδικές υποχρεώσεις και μοντέλα γενικής χρήσης ΤΝ με υποχρεώσεις για τους παρόχους.
| Επίπεδο | Παραδείγματα υγείας | Συνέπεια |
|---|---|---|
| Απαγορευμένο (Άρθρο 5) | Χειραγωγικές τεχνικές που εκμεταλλεύονται ευπάθειες, μη στοχευμένη σάρωση για αναγνώριση προσώπου, αναγνώριση συναισθημάτων στην εργασία ή στο σχολείο (με εξαιρέσεις για ιατρικές χρήσεις και χρήσεις για την ασφάλεια) | Απαγορεύεται από τις 2 Φεβρουαρίου 2025 |
| Υψηλού κινδύνου, Παράρτημα Ι | ΤΝ σε ιατροτεχνολογικό προϊόν ή IVD που απαιτεί κοινοποιημένο οργανισμό (το περισσότερο λογισμικό κατηγορίας IIa και άνω): ΤΝ απεικόνισης, υποστήριξη αποφάσεων, υπολογιστές δόσεων | Πλήρεις απαιτήσεις υψηλού κινδύνου, αξιολογούμενες στο πλαίσιο της αξιολόγησης συμμόρφωσης MDR/IVDR |
| Υψηλού κινδύνου, Παράρτημα ΙΙΙ | Συστήματα επείγουσας κλήσης και διαλογής ασθενών· ΤΝ που αξιολογεί την επιλεξιμότητα για δημόσια οφέλη και υπηρεσίες υγείας· βιομετρική κατηγοριοποίηση· αποφάσεις απασχόλησης για εργαζομένους στον τομέα της υγείας | Πλήρεις απαιτήσεις υψηλού κινδύνου, αυτοαξιολόγηση ή κοινοποιημένος οργανισμός σύμφωνα με τους κανόνες του Παραρτήματος ΙΙΙ, εγγραφή στη βάση δεδομένων της ΕΕ |
| Περιορισμένος κίνδυνος (διαφάνεια, Άρθρο 50) | Chatbots και βοηθοί υγείας, κείμενο ή εικόνες υγείας που παράγονται από ΤΝ, περιεχόμενο τύπου deepfake | Αποκάλυψη αλληλεπίδρασης με ΤΝ· επισήμανση παραγόμενου περιεχομένου· ανθρώπινη εποπτεία όπου είναι σχετικό |
| Ελάχιστος κίνδυνος | Φίλτρα ανεπιθύμητης αλληλογραφίας, βελτιστοποίηση προγραμματισμού, διοικητικά εργαλεία | Καμία ειδική υποχρέωση· εθελοντικοί κώδικες |
| Μοντέλα ΤΝ γενικής χρήσης (Κεφάλαιο V) | Μοντέλα θεμελίωσης που χρησιμοποιούνται σε προϊόντα υγείας | Υποχρεώσεις παρόχου: τεχνική τεκμηρίωση, πολιτική πνευματικών δικαιωμάτων, περίληψη εκπαίδευσης· επιπλέον καθήκοντα για μοντέλα συστημικού κινδύνου |
Μια εφαρμογή υγείας που δεν είναι ιατροτεχνολογικό προϊόν και δεν εμπίπτει στο Παράρτημα ΙΙΙ (μια εγγραφή με λειτουργία περίληψης ΤΝ, ένα ημερολόγιο συμπτωμάτων με διεπαφή συνομιλίας) ανήκει στο επίπεδο περιορισμένου κινδύνου: διαφάνεια και γενικό καθήκον παιδείας στην ΤΝ για το προσωπικό (Άρθρο 4), συν ό,τι ήδη απαιτεί ο GDPR. Εάν η ίδια εφαρμογή προσθέσει μια λειτουργία που ενημερώνει για τη διάγνωση ή τη θεραπεία, γίνεται ιατροτεχνολογικό προϊόν σύμφωνα με τον MDR και, εάν εμπλέκεται κοινοποιημένος οργανισμός, υψηλού κινδύνου σύμφωνα με τον Νόμο για την ΤΝ· δείτε Λογισμικό ως ιατροτεχνολογικό προϊόν.
Τι απαιτείται για τον υψηλό κίνδυνο (Κεφάλαιο ΙΙΙ, Ενότητα 2)
Ένα σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον Νόμο της ΕΕ για την Τεχνητή Νοημοσύνη απαιτεί σύστημα διαχείρισης κινδύνου, διακυβέρνηση δεδομένων για δεδομένα εκπαίδευσης και δοκιμών, τεχνική τεκμηρίωση και καταγραφή, διαφάνεια προς τους αναπτύκτες, ανθρώπινη εποπτεία εξ ορισμού, ακρίβεια, ανθεκτικότητα και κυβερνοασφάλεια, σύστημα διαχείρισης ποιότητας, αξιολόγηση συμμόρφωσης με σήμανση CE, παρακολούθηση μετά την κυκλοφορία και αναφορά περιστατικών, και εγγραφή στην ευρωπαϊκή βάση δεδομένων για τα συστήματα του Παραρτήματος ΙΙΙ.
- Σύστημα διαχείρισης κινδύνων σε ολόκληρο τον κύκλο ζωής (Άρθρο 9), ενσωματωμένο με το ISO 14971 για ιατροτεχνολογικά προϊόντα.
- Διακυβέρνηση δεδομένων (Άρθρο 10): δεδομένα εκπαίδευσης, επικύρωσης και δοκιμών σχετικά, αντιπροσωπευτικά, εξετασμένα για μεροληψία, με τεκμηριωμένη προέλευση· επεξεργασία ειδικών κατηγοριών δεδομένων για διόρθωση μεροληψίας επιτρέπεται υπό προϋποθέσεις.
- Τεχνική τεκμηρίωση (Άρθρο 11, Παράρτημα IV) και τήρηση αρχείων / καταγραφή (Άρθρο 12) για ιχνηλασιμότητα.
- Διαφάνεια και οδηγίες προς τους αναθέτοντες (Άρθρο 13).
- Ανθρώπινη εποπτεία εξ ορισμού (Άρθρο 14): η δυνατότητα κατανόησης, παράκαμψης και διακοπής.
- Ακρίβεια, ανθεκτικότητα και κυβερνοασφάλεια (Άρθρο 15), με δηλωμένες μετρήσεις.
- Σύστημα διαχείρισης ποιότητας (Άρθρο 17), το οποίο για τα ιατροτεχνολογικά προϊόντα είναι το σύστημα ISO 13485 που έχει επεκταθεί.
- Αξιολόγηση συμμόρφωσης, η σήμανση CE και η δήλωση συμμόρφωσης της ΕΕ που καλύπτουν και τους δύο κανονισμούς· εγγραφή στη βάση δεδομένων της ΕΕ για συστήματα του Παραρτήματος ΙΙΙ.
- Εποπτεία μετά την κυκλοφορία στην αγορά και αναφορά σοβαρών περιστατικών (Άρθρα 72–73), σε συντονισμό με την επαγρύπνηση του MDR.
- Οι αναθέτοντες (νοσοκομεία, κλινικές) έχουν δικές τους υποχρεώσεις: χρήση σύμφωνα με τις οδηγίες, ανθρώπινη εποπτεία, αρχεία, ενημέρωση των ανθρώπων και, για δημόσιους φορείς, αξιολόγηση αντικτύπου στα θεμελιώδη δικαιώματα (Άρθρο 27).
Η επικάλυψη με τον MDR και τον IVDR
Ο Νόμος της ΕΕ για την Τεχνητή Νοημοσύνη επικαλύπτεται με τον MDR και τον IVDR εξ ορισμού: για την ΤΝ σε ιατροτεχνολογικά προϊόντα που αναφέρονται στο Παράρτημα Ι, οι απαιτήσεις του Νόμου αξιολογούνται ως μέρος της αξιολόγησης συμμόρφωσης του προϊόντος από τον ίδιο κοινοποιημένο φορέα, με ένα ενιαίο σύνολο τεκμηρίωσης και ένα σύστημα ποιότητας. Εναρμονισμένα πρότυπα από την CEN-CENELEC JTC 21 θα παρέχουν τεκμήριο συμμόρφωσης μόλις δημοσιευτούν.
Ο Νόμος συντάχθηκε για να αποφευχθεί μια δεύτερη παράλληλη διαδικασία: για τα ιατροτεχνολογικά προϊόντα του Παραρτήματος Ι, οι απαιτήσεις ΤΝ αξιολογούνται ως μέρος της διαδικασίας αξιολόγησης συμμόρφωσης MDR/IVDR από τον ίδιο κοινοποιημένο οργανισμό, ο οποίος πρέπει να έχει οριστεί και για τον Νόμο για την ΤΝ· η τεκμηρίωση μπορεί να είναι ένα ενιαίο σύνολο· το σύστημα ποιότητας είναι ένα. Εναρμονισμένα πρότυπα (για κίνδυνο ΤΝ, ποιότητα δεδομένων, ανθεκτικότητα) αναπτύσσονται από την JTC 21 της CEN-CENELEC και θα παρέχουν τεκμήριο συμμόρφωσης· έως ότου υπάρξουν, οι κατασκευαστές χρησιμοποιούν τα ISO/IEC 42001, ISO/IEC 23894 και τα πρότυπα για ιατροτεχνολογικά προϊόντα. Η Ομάδα Συντονισμού Ιατροτεχνολογικών Προϊόντων και το Συμβούλιο ΤΝ αναμένεται να δημοσιεύσουν κοινές οδηγίες· η αλληλεπίδραση της εποπτείας μετά την κυκλοφορία και της αναφοράς περιστατικών είναι ο τομέας που πρέπει να παρακολουθείται.
Χρονοδιάγραμμα
Ο Νόμος της ΕΕ για την Τεχνητή Νοημοσύνη τέθηκε σε ισχύ την 1η Αυγούστου 2024. Οι απαγορεύσεις και τα καθήκοντα κατανόησης της ΤΝ εφαρμόστηκαν από τις 2 Φεβρουαρίου 2025, οι υποχρεώσεις για μοντέλα γενικής χρήσης από τις 2 Αυγούστου 2025, το μεγαλύτερο μέρος του Νόμου, συμπεριλαμβανομένων των συστημάτων υψηλού κινδύνου του Παραρτήματος ΙΙΙ, από τις 2 Αυγούστου 2026, και τα συστήματα υψηλού κινδύνου του Παραρτήματος Ι, όπως η ΤΝ σε ιατροτεχνολογικά προϊόντα, από τις 2 Αυγούστου 2027, υπό την προϋπόθεση προτεινόμενων προσαρμογών.
- 1 Αυγούστου 2024: έναρξη ισχύος.
- 2 Φεβρουαρίου 2025: ισχύουν οι απαγορεύσεις και οι υποχρεώσεις παιδείας στην ΤΝ.
- 2 Αυγούστου 2025: υποχρεώσεις για μοντέλα ΤΝ γενικής χρήσης· διακυβέρνηση (Γραφείο ΤΝ, κοινοποιούσες αρχές)· κυρώσεις.
- 2 Αυγούστου 2026: ισχύει το μεγαλύτερο μέρος του Νόμου, συμπεριλαμβανομένων των συστημάτων υψηλού κινδύνου του Παραρτήματος ΙΙΙ και των υποχρεώσεων διαφάνειας.
- 2 Αυγούστου 2027: συστήματα υψηλού κινδύνου του Παραρτήματος Ι (ΤΝ σε ρυθμιζόμενα προϊόντα, όπως ιατροτεχνολογικά προϊόντα) και μοντέλα γενικής χρήσης που διατίθενται στην αγορά πριν τον Αύγουστο του 2025.
Τον Νοέμβριο του 2025 η Επιτροπή πρότεινε, στο πλαίσιο ενός "ψηφιακού omnibus", να συνδεθεί η εφαρμογή των κανόνων υψηλού κινδύνου με τη διαθεσιμότητα προτύπων και εργαλείων υποστήριξης, κάτι που θα μπορούσε να μετατοπίσει τις ημερομηνίες του 2026 και του 2027· η πρόταση βρισκόταν υπό διαπραγμάτευση κατά τη στιγμή της σύνταξης. Θεωρήστε τις παραπάνω ημερομηνίες ως τον υιοθετημένο νόμο και ακολουθήστε την Επίσημη Εφημερίδα για αλλαγές.
Τι πρέπει να κάνει τώρα μια ομάδα εφαρμογών υγείας
Τα πρακτικά βήματα για μια ομάδα εφαρμογών υγείας σύμφωνα με τον Νόμο της ΕΕ για την Τεχνητή Νοημοσύνη είναι η ταξινόμηση κάθε λειτουργίας ΤΝ ως συσκευή, κατηγορίας Παραρτήματος ΙΙΙ ή κατηγορίας διαφάνειας, η αποκάλυψη της αλληλεπίδρασης με την ΤΝ και η επισήμανση του παραγόμενου περιεχομένου, η τεκμηρίωση των δεδομένων εκπαίδευσης και η αξιολόγηση ανά υποομάδα, η διατήρηση του ανθρώπινου ελέγχου με τα αποτελέσματα ως προσχέδια, η λήψη τεκμηρίωσης από τον πάροχο του μοντέλου γενικής χρήσης και η παράλληλη εκτέλεση της εργασίας GDPR.
- Κατηγοριοποιήστε κάθε λειτουργία ΤΝ: ιατροτεχνολογικό προϊόν ή όχι (Είναι μια εφαρμογή υγείας ιατροτεχνολογικό προϊόν;); Παράρτημα ΙΙΙ ή όχι· διαφορετικά, επίπεδο διαφάνειας.
- Αποκαλύψτε την αλληλεπίδραση με ΤΝ και επισημάνετε το παραγόμενο περιεχόμενο τώρα· δεν κοστίζει τίποτα και θα απαιτηθεί.
- Τεκμηριώστε τα δεδομένα και την αξιολόγηση: από πού προήλθαν τα δεδομένα εκπαίδευσης και δοκιμών, πώς μετρήθηκε η απόδοση, ανά υποομάδα· αυτό είναι ο πυρήνας των Άρθρων 10 και 15 και επίσης καλή μηχανική (ΤΝ σε ιατρικά δεδομένα: ο χάρτης).
- Διατηρήστε τον άνθρωπο στον έλεγχο: τα αποτελέσματα ως προσχέδια και προτάσεις, ποτέ αυτόματα δεσμευμένα κλινικά γεγονότα· αρχεία για το τι παρήγαγε η ΤΝ και ποιος το αποδέχθηκε.
- Ελέγξτε τον προμηθευτή του μοντέλου: οι πάροχοι μοντέλων γενικής χρήσης πρέπει να παρέχουν τεκμηρίωση που θα χρειαστείτε για το δικό σας αρχείο.
- Εκτελέστε την εργασία του GDPR (Άρθρο 22 σχετικά με αυτοματοποιημένες αποφάσεις, την DPIA) παράλληλα· ο Νόμος για την ΤΝ δεν το αντικαθιστά (Άρθρο 9 του GDPR).
Στην Anpheros
Οι λειτουργίες ΤΝ της Anpheros επαναδιατυπώνουν και εντοπίζουν τι περιέχει η εγγραφή ενός ατόμου και αποκαλύπτονται ως ΤΝ· δεν διαγιγνώσκουν ούτε συστήνουν θεραπεία, επομένως το προϊόν δεν είναι ιατροτεχνολογικό προϊόν και εμπίπτει στο επίπεδο διαφάνειας του Νόμου. Η χρήση μοντέλων τεκμηριώνεται, τα αποτελέσματα φέρουν προέλευση και τίποτα που παράγει ένας βοηθός δεν γίνεται κλινικό γεγονός στην εγγραφή χωρίς να το δηλώσει ένας άνθρωπος.
Αυτή η σελίδα εξηγεί τη ρύθμιση για ομάδες προϊόντων και μηχανικής. Δεν αποτελεί νομική συμβουλή· τα κείμενα που συνδέονται στις Πηγές είναι η αυθεντία. Τελευταία αναθεώρηση: Οκτώβριος 2026.
Σχετικές σελίδες
- ΤΝ σε ιατρικά δεδομένα: ο χάρτης
- Λογισμικό ως ιατροτεχνολογικό προϊόν: κλάσεις MDR και IEC 62304
- Είναι μια εφαρμογή υγείας ιατροτεχνολογικό προϊόν; EU MDR Κανόνας 11
- Άρθρο 9 του GDPR για δεδομένα υγείας
- Χάρτης κανονισμών για δεδομένα υγείας
- RAG σε ιατρικές εγγραφές
Πηγές
- Κανονισμός (ΕΕ) 2024/1689 (Νόμος για την ΤΝ), EUR-Lex
- Ευρωπαϊκή Επιτροπή: Νόμος για την ΤΝ (σελίδα πολιτικής και χρονοδιάγραμμα)
- Ευρωπαϊκή Επιτροπή: Γραφείο ΤΝ
- Κανονισμός (ΕΕ) 2017/745 (MDR), EUR-Lex
- CEN-CENELEC JTC 21: Τεχνητή Νοημοσύνη
- ISO/IEC 42001:2023, Σύστημα διαχείρισης ΤΝ
Συχνές ερωτήσεις
Είναι κάθε ιατροτεχνολογικό προϊόν με ΤΝ υψηλού κινδύνου σύμφωνα με τον Νόμο για την ΤΝ;
Μόνο αυτά που υποβάλλονται σε αξιολόγηση συμμόρφωσης από τρίτο μέρος σύμφωνα με τον MDR ή τον IVDR, που είναι το περισσότερο λογισμικό κατηγορίας IIa και άνω. Ένα προϊόν κατηγορίας Ι με ΤΝ που αυτοπιστοποιείται δεν είναι υψηλού κινδύνου σύμφωνα με το Παράρτημα Ι, αλλά εξακολουθεί να έχει τις γενικές υποχρεώσεις και τις υποχρεώσεις διαφάνειας του Νόμου.
Ισχύει ο Νόμος για την ΤΝ για μια αμερικανική εταιρεία;
Ναι, όταν το σύστημα ΤΝ της διατίθεται στην αγορά της ΕΕ ή τα αποτελέσματά του χρησιμοποιούνται στην ΕΕ, με τον ίδιο τρόπο που ισχύουν ο MDR και ο GDPR. Οι πάροχοι εκτός ΕΕ ορίζουν εξουσιοδοτημένο αντιπρόσωπο για συστήματα υψηλού κινδύνου.
Χρειάζομαι δεύτερη σήμανση CE για την ΤΝ;
Όχι. Για τα ιατροτεχνολογικά προϊόντα του Παραρτήματος Ι, μία αξιολόγηση συμμόρφωσης καλύπτει και τους δύο κανονισμούς και μία σήμανση CE και δήλωση συμμόρφωσης αναφέρονται και στους δύο. Η τεκμηρίωση πρέπει να καλύπτει τις απαιτήσεις του Νόμου για την ΤΝ.
Τι αλλάζει για ένα chatbot υγείας;
Διαφάνεια: οι χρήστες πρέπει να ενημερώνονται ότι αλληλεπιδρούν με ΤΝ, το παραγόμενο περιεχόμενο πρέπει να επισημαίνεται και το προσωπικό χρειάζεται παιδεία στην ΤΝ. Εάν το chatbot παρέχει ατομικές συμβουλές διάγνωσης ή θεραπείας, γίνεται ιατροτεχνολογικό προϊόν και η εικόνα αλλάζει εντελώς.
Δοκιμάστε δωρεάν στο sandbox
Η πρώτη σας κλήση FHIR σε 5 λεπτά. Ένα API HL7 FHIR R4 με τη συγκατάθεση του ασθενούς ενσωματωμένη: δοκιμάστε το στο sandbox, στη συνέχεια συνδέστε τη δική σας εφαρμογή ή σύστημα κλινικής.
Δωρεάν · 30 συνθετικοί ασθενείς · χωρίς κάρτα
Το Anpheros δημιουργεί ένα ιατρικό αρχείο που ελέγχει ο ασθενής και μπορεί να μοιραστεί με οποιαδήποτε κλινική, σε πλατφόρμα HL7 FHIR R4, με έδρα την ΕΕ. Αυτοί οι οδηγοί σάς βοηθούν να κατανοήσετε και να οργανώσετε την υγεία σας· δεν αντικαθιστούν τον γιατρό σας.
Σχετικά με το Anpheros →