Πράξη για την ΤΝ

Η πράξη για την ΤΝ [κανονισμός (ΕΕ) 2024/1689 για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη] αποτελεί το πρώτο ολοκληρωμένο νομικό πλαίσιο για την ΤΝ παγκοσμίως. Στόχος των κανόνων είναι η προώθηση αξιόπιστης ΤΝ στην Ευρώπη.

Η πράξη για την ΤΝ καθορίζει ένα σαφές σύνολο κανόνων βάσει κινδύνου για τους προγραμματιστές και τους φορείς εφαρμογής ΤΝ όσον αφορά συγκεκριμένες χρήσεις της ΤΝ. Η πράξη για την ΤΝ αποτελεί μέρος μιας ευρύτερης δέσμης μέτρων πολιτικής για τη στήριξη της ανάπτυξης αξιόπιστης ΤΝ, η οποία περιλαμβάνει επίσης τη δέσμη μέτρων για την καινοτομία στον τομέα της ΤΝ, τη δρομολόγηση εργοστασίων ΤΝ και το συντονισμένο σχέδιο για την ΤΝ. Από κοινού, τα μέτρα αυτά εγγυώνται την ασφάλεια, τα θεμελιώδη δικαιώματα και την ανθρωποκεντρική ΤΝ και ενισχύουν την υιοθέτηση, τις επενδύσεις και την καινοτομία στην ΤΝ σε ολόκληρη την ΕΕ.

Για να διευκολυνθεί η μετάβαση στο νέο κανονιστικό πλαίσιο, η Επιτροπή δρομολόγησε το σύμφωνο για την ΤΝ, μια εθελοντική πρωτοβουλία που επιδιώκει να στηρίξει τη μελλοντική εφαρμογή, να συνεργαστεί με τα ενδιαφερόμενα μέρη και να καλέσει τους παρόχους και τους φορείς εφαρμογής ΤΝ από την Ευρώπη και πέραν αυτής να συμμορφωθούν εγκαίρως με τις βασικές υποχρεώσεις της πράξης για την ΤΝ. 

Γιατί χρειαζόμαστε κανόνες για την ΤΝ;

Η πράξη για την ΤΝ διασφαλίζει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται ό,τι έχει να προσφέρει η ΤΝ. Ενώ τα περισσότερα συστήματα ΤΝ ενέχουν περιορισμένους έως μηδενικούς κινδύνους και μπορούν να συμβάλουν στην επίλυση πολλών κοινωνικών προκλήσεων, ορισμένα συστήματα ΤΝ δημιουργούν κινδύνους τους οποίους πρέπει να αντιμετωπίσουμε για να αποφύγουμε ανεπιθύμητα αποτελέσματα.

Για παράδειγμα, συχνά δεν είναι δυνατόν να διαπιστωθεί γιατί ένα σύστημα ΤΝ έχει λάβει απόφαση ή πρόβλεψη και έχει προβεί σε συγκεκριμένη ενέργεια. Ως εκ τούτου, μπορεί να είναι δύσκολο να εκτιμηθεί αν κάποιος έχει βρεθεί σε αθέμιτη μειονεκτική θέση, όπως σε μια απόφαση πρόσληψης ή σε μια αίτηση για ένα δημόσιο σύστημα παροχών.

Μολονότι η ισχύουσα νομοθεσία παρέχει κάποια προστασία, δεν επαρκεί για την αντιμετώπιση των ειδικών προκλήσεων που ενδέχεται να επιφέρουν τα συστήματα ΤΝ.

Προσέγγιση βάσει κινδύνου

Η πράξη για την ΤΝ ορίζει 4 επίπεδα κινδύνου για τα συστήματα ΤΝ:

Μη αποδεκτός κίνδυνος

Όλα τα συστήματα ΤΝ που θεωρούνται σαφής απειλή για την ασφάλεια, τα μέσα διαβίωσης και τα δικαιώματα των ανθρώπων απαγορεύονται. Η πράξη για την ΤΝ απαγορεύει οκτώ πρακτικές, και συγκεκριμένα:

1. επιβλαβής χειραγώγηση και εξαπάτηση που βασίζεται στην ΤΝ
2. επιζήμια εκμετάλλευση τρωτών σημείων βάσει ΤΝ
3. κοινωνική βαθμολόγηση
4. Εκτίμηση ή πρόβλεψη κινδύνου για επιμέρους ποινικά αδικήματα
5. μη στοχευμένη απόξεση του διαδικτύου ή υλικού CCTV για τη δημιουργία ή την επέκταση βάσεων δεδομένων αναγνώρισης προσώπου
6. αναγνώριση συναισθημάτων σε χώρους εργασίας και εκπαιδευτικά ιδρύματα
7. βιομετρική κατηγοριοποίηση για να συναχθούν ορισμένα προστατευόμενα χαρακτηριστικά
8. εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο για σκοπούς επιβολής του νόμου σε δημόσια προσβάσιμους χώρους

Υψηλός κίνδυνος

Οι περιπτώσεις χρήσης ΤΝ που μπορεί να ενέχουν σοβαρούς κινδύνους για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα ταξινομούνται ως υψηλού κινδύνου. Αυτές οι περιπτώσεις χρήσης υψηλού κινδύνου περιλαμβάνουν:

• κατασκευαστικά στοιχεία ασφάλειας ΤΝ σε υποδομές ζωτικής σημασίας (π.χ. μεταφορές), η αστοχία των οποίων θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών
• Λύσεις ΤΝ που χρησιμοποιούνται σε εκπαιδευτικά ιδρύματα, οι οποίες μπορούν να καθορίσουν την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής κάποιου (π.χ. βαθμολόγηση εξετάσεων)
• Εξαρτήματα ασφάλειας προϊόντων που βασίζονται στην τεχνητή νοημοσύνη (π.χ. εφαρμογή τεχνητής νοημοσύνης σε χειρουργική επέμβαση υποβοηθούμενη από ρομπότ)
• Εργαλεία ΤΝ για την απασχόληση, τη διαχείριση των εργαζομένων και την πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σημειωμάτων για προσλήψεις)
• Ορισμένες περιπτώσεις χρήσης ΤΝ που χρησιμοποιούνται για την παροχή πρόσβασης σε βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. βαθμολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λάβουν δάνειο)
• Συστήματα ΤΝ που χρησιμοποιούνται για εξ αποστάσεως βιομετρική ταυτοποίηση, αναγνώριση συναισθημάτων και βιομετρική κατηγοριοποίηση (π.χ. σύστημα ΤΝ για την αναδρομική ταυτοποίηση κλέφτη)
• Περιπτώσεις χρήσης ΤΝ στην επιβολή του νόμου που ενδέχεται να επηρεάσουν τα θεμελιώδη δικαιώματα των ανθρώπων (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)
• Περιπτώσεις χρήσης ΤΝ στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. αυτοματοποιημένη εξέταση αιτήσεων θεώρησης)
• Λύσεις ΤΝ που χρησιμοποιούνται στην απονομή της δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για την προετοιμασία δικαστικών αποφάσεων)

Τα συστήματα ΤΝ υψηλού κινδύνου υπόκεινται σε αυστηρές υποχρεώσεις πριν από τη διάθεσή τους στην αγορά:

• επαρκή συστήματα εκτίμησης και μετριασμού των κινδύνων
• υψηλής ποιότητας των συνόλων δεδομένων που τροφοδοτούν το σύστημα για την ελαχιστοποίηση των κινδύνων διακρίσεων
• καταγραφή της δραστηριότητας για τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων
• λεπτομερή τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του, ώστε οι αρχές να αξιολογούν τη συμμόρφωσή του
• σαφείς και επαρκείς πληροφορίες στον φορέα εφαρμογής
• κατάλληλα μέτρα ανθρώπινης εποπτείας
• υψηλό επίπεδο ευρωστίας, κυβερνοασφάλειας και ακρίβειας

Περιορισμένος κίνδυνος

Πρόκειται για τους κινδύνους που συνδέονται με την ανάγκη διαφάνειας όσον αφορά τη χρήση της ΤΝ. Η πράξη για την ΤΝ θεσπίζει ειδικές υποχρεώσεις γνωστοποίησης, ώστε να διασφαλίζεται ότι οι άνθρωποι ενημερώνονται όταν είναι αναγκαίο για τη διατήρηση της εμπιστοσύνης. Για παράδειγμα, κατά τη χρήση συστημάτων ΤΝ, όπως τα διαλογικά ρομπότ, οι άνθρωποι θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μια μηχανή, ώστε να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις.

Επιπλέον, οι πάροχοι παραγωγικής ΤΝ πρέπει να διασφαλίζουν ότι το περιεχόμενο που παράγεται από ΤΝ είναι αναγνωρίσιμο. Επιπλέον, ορισμένα περιεχόμενα που παράγονται από ΤΝ θα πρέπει να φέρουν σαφή και ευδιάκριτη επισήμανση, και συγκεκριμένα τα deep fakes και τα κείμενα που δημοσιεύονται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου συμφέροντος.

Ελάχιστος ή μηδενικός κίνδυνος

Η πράξη για την ΤΝ δεν θεσπίζει κανόνες για την ΤΝ που θεωρείται ελάχιστος ή μηδενικός κίνδυνος. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτουν σε αυτή την κατηγορία. Αυτό περιλαμβάνει εφαρμογές όπως βιντεοπαιχνίδια με δυνατότητα τεχνητής νοημοσύνης ή φίλτρα ανεπιθύμητης αλληλογραφίας.

Πώς λειτουργούν όλα αυτά στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

Πώς λειτουργούν όλα αυτά στην πράξη για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου;

Μόλις ένα σύστημα ΤΝ διατεθεί στην αγορά, οι αρχές είναι αρμόδιες για την εποπτεία της αγοράς, οι φορείς εφαρμογής διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση και οι πάροχοι διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι φορείς εφαρμογής θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Μια λύση για την αξιόπιστη χρήση μεγάλων μοντέλων ΤΝ

Τα μοντέλα ΤΝ γενικού σκοπού μπορούν να εκτελούν ευρύ φάσμα καθηκόντων και αποτελούν τη βάση για πολλά συστήματα ΤΝ στην ΕΕ. Ορισμένα από αυτά τα μοντέλα θα μπορούσαν να ενέχουν συστημικούς κινδύνους εάν είναι πολύ ικανά ή χρησιμοποιούνται ευρέως. Για να διασφαλιστεί η ασφαλής και αξιόπιστη ΤΝ, η πράξη για την ΤΝ θεσπίζει κανόνες για τους παρόχους τέτοιων μοντέλων. Αυτό περιλαμβάνει κανόνες σχετικά με τη διαφάνεια και τα δικαιώματα πνευματικής ιδιοκτησίας. Για τα μοντέλα που ενδέχεται να ενέχουν συστημικούς κινδύνους, οι πάροχοι θα πρέπει να αξιολογούν και να μετριάζουν τους εν λόγω κινδύνους.

Οι κανόνες της πράξης για την ΤΝ σχετικά με την ΤΝ γενικού σκοπού θα τεθούν σε ισχύ τον Αύγουστο του 2025. Η Υπηρεσία ΤΝ διευκολύνει την κατάρτιση κώδικα ορθής πρακτικής για τη λεπτομερή περιγραφή των εν λόγω κανόνων. Ο κώδικας θα πρέπει να αποτελεί κεντρικό εργαλείο για τους παρόχους ώστε να αποδεικνύουν τη συμμόρφωση με την πράξη για την ΤΝ, ενσωματώνοντας πρακτικές αιχμής. 

Διακυβέρνηση και εφαρμογή

Η Ευρωπαϊκή Υπηρεσία ΤΝ και οι αρχές των κρατών μελών είναι αρμόδιες για την εφαρμογή, την εποπτεία και την επιβολή της πράξης για την ΤΝ. Το συμβούλιο για την ΤΝ, η επιστημονική ομάδα και το συμβουλευτικό φόρουμ καθοδηγούν και συμβουλεύουν τη διακυβέρνηση της πράξης για την ΤΝ. Μάθετε περισσότερες λεπτομέρειες σχετικά με τη διακυβέρνηση και την επιβολή της πράξης για την ΤΝ.  

Επόμενα βήματα

Η πράξη για την ΤΝ τέθηκε σε ισχύ την 1η Αυγούστου 2024 και θα εφαρμοστεί πλήρως 2 έτη αργότερα, στις 2 Αυγούστου 2026, με ορισμένες εξαιρέσεις:

• απαγορεύσεις και υποχρεώσεις γραμματισμού στον τομέα της ΤΝ που τέθηκαν σε εφαρμογή από τις 2 Φεβρουαρίου 2025
• οι κανόνες διακυβέρνησης και οι υποχρεώσεις για τα μοντέλα ΤΝ γενικού σκοπού τίθενται σε εφαρμογή στις 2 Αυγούστου 2025
• οι κανόνες για τα συστήματα ΤΝ υψηλού κινδύνου —που είναι ενσωματωμένα σε ρυθμιζόμενα προϊόντα— έχουν παρατεταμένη μεταβατική περίοδο έως τις 2 Αυγούστου 2027