Μετά από τριήμερες «μαραθώνιες» συνομιλίες, η Προεδρία του Συμβουλίου και οι διαπραγματευτές του Ευρωπαϊκού Κοινοβουλίου κατέληξαν σε προσωρινή συμφωνία σχετικά με την πρόταση για εναρμονισμένους κανόνες για την τεχνητή νοημοσύνη (AI), τη λεγόμενη πράξη τεχνητής νοημοσύνης . Το σχέδιο κανονισμού στοχεύει να διασφαλίσει ότι τα συστήματα τεχνητής νοημοσύνης που διατίθενται στην ευρωπαϊκή αγορά και χρησιμοποιούνται στην ΕΕ είναι ασφαλή και σέβονται τα θεμελιώδη δικαιώματα και τις αξίες της ΕΕ. Αυτή η πρόταση ορόσημο στοχεύει επίσης να τονώσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη στην Ευρώπη.
Σύμφωνα με τη σχετική ανακοίνωση του Συμβουλίου, που εκδόθηκε τα ξημερώματα, η Carme Artigas, Υπουργός Εξωτερικών της Ισπανίας για την ψηφιοποίηση και την τεχνητή νοημοσύνη, προεδρεύουσα του Συμβουλίου, δήλωσε: «Αυτό είναι ένα ιστορικό επίτευγμα και ένα τεράστιο ορόσημο για το μέλλον! Η σημερινή συμφωνία αντιμετωπίζει αποτελεσματικά μια παγκόσμια πρόκληση σε ένα ταχέως εξελισσόμενο τεχνολογικό περιβάλλον σε έναν βασικό τομέα για το μέλλον των κοινωνιών και των οικονομιών μας. Και σε αυτή την προσπάθεια, καταφέραμε να διατηρήσουμε μια εξαιρετικά λεπτή ισορροπία: ενισχύοντας την καινοτομία και την υιοθέτηση της τεχνητής νοημοσύνης σε όλη την Ευρώπη, σεβόμενοι παράλληλα πλήρως τα θεμελιώδη δικαιώματα των πολιτών μας.»
Ο νόμος για την τεχνητή νοημοσύνη είναι μια εμβληματική νομοθετική πρωτοβουλία με τη δυνατότητα να προωθήσει την ανάπτυξη και την υιοθέτηση ασφαλούς και αξιόπιστης τεχνητής νοημοσύνης στην ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς. Η κύρια ιδέα είναι να ρυθμιστεί η τεχνητή νοημοσύνη με βάση την ικανότητα της τελευταίας να προκαλεί βλάβη στην κοινωνία ακολουθώντας μια προσέγγιση «βασισμένη στον κίνδυνο» : όσο υψηλότερος είναι ο κίνδυνος, τόσο αυστηρότεροι οι κανόνες . Ως η πρώτη νομοθετική πρόταση του είδους της στον κόσμο, μπορεί να θέσει ένα παγκόσμιο πρότυπο για τη ρύθμιση της τεχνητής νοημοσύνης σε άλλες δικαιοδοσίες, όπως ακριβώς έχει κάνει ο GDPR, προωθώντας έτσι την ευρωπαϊκή προσέγγιση για τη ρύθμιση της τεχνολογίας στην παγκόσμια σκηνή.
Τα κύρια στοιχεία της προσωρινής συμφωνίας
Σε σύγκριση με την αρχική πρόταση της Επιτροπής, τα κύρια νέα στοιχεία της προσωρινής συμφωνίας μπορούν να συνοψιστούν ως εξής:
- κανόνες για μοντέλα τεχνητής νοημοσύνης γενικής χρήσης υψηλού αντίκτυπου που μπορούν να προκαλέσουν συστημικό κίνδυνο στο μέλλον, καθώς και για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου
- ένα αναθεωρημένο σύστημα διακυβέρνησης με ορισμένες εξουσίες επιβολής σε επίπεδο ΕΕ
- επέκταση του καταλόγου των απαγορεύσεων αλλά με δυνατότητα χρήσης εξ αποστάσεως βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου σε δημόσιους χώρους, με την επιφύλαξη διασφαλίσεων
- καλύτερη προστασία των δικαιωμάτων μέσω της υποχρέωσης για τους προγραμματιστές συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν θέσουν σε χρήση ένα σύστημα τεχνητής νοημοσύνης.
Πιο συγκεκριμένα, η προσωρινή συμφωνία καλύπτει τις ακόλουθες πτυχές:
Ορισμοί και πεδίο εφαρμογής
Για να διασφαλιστεί ότι ο ορισμός ενός συστήματος τεχνητής νοημοσύνης παρέχει επαρκώς σαφή κριτήρια για τη διάκριση της τεχνητής νοημοσύνης από τα απλούστερα συστήματα λογισμικού, η συμβιβαστική συμφωνία ευθυγραμμίζει τον ορισμό με την προσέγγιση που προτείνει ο ΟΟΣΑ.
Η προσωρινή συμφωνία διευκρινίζει επίσης ότι ο κανονισμός δεν εφαρμόζεται σε τομείς εκτός του πεδίου εφαρμογής της νομοθεσίας της ΕΕ και δεν θα πρέπει, σε καμία περίπτωση, να επηρεάζει τις αρμοδιότητες των κρατών μελών στην εθνική ασφάλεια ή οποιαδήποτε οντότητα στην οποία έχουν ανατεθεί καθήκοντα σε αυτόν τον τομέα. Επιπλέον, ο νόμος AI δεν θα ισχύει για συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς ή αμυντικούς σκοπούς. Ομοίως, η συμφωνία προβλέπει ότι ο κανονισμός δεν θα ισχύει για συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται με αποκλειστικό σκοπό την έρευνα και την καινοτομία ή για άτομα που χρησιμοποιούν τεχνητή νοημοσύνη για μη επαγγελματικούς λόγους.
Ταξινόμηση συστημάτων τεχνητής νοημοσύνης ως υψηλού κινδύνου και απαγορευμένων πρακτικών τεχνητής νοημοσύνης
Η συμβιβαστική συμφωνία προβλέπει ένα οριζόντιο επίπεδο προστασίας, συμπεριλαμβανομένης της ταξινόμησης υψηλού κινδύνου, για να διασφαλιστεί ότι δεν καταγράφονται συστήματα τεχνητής νοημοσύνης που δεν είναι πιθανό να προκαλέσουν σοβαρές παραβιάσεις θεμελιωδών δικαιωμάτων ή άλλους σημαντικούς κινδύνους. Τα συστήματα τεχνητής νοημοσύνης που παρουσιάζουν περιορισμένο μόνο κίνδυνο θα υπόκεινται σε πολύ ελαφριές υποχρεώσεις διαφάνειας , για παράδειγμα αποκαλύπτοντας ότι το περιεχόμενο δημιουργήθηκε από τεχνητή νοημοσύνη, ώστε οι χρήστες να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις για περαιτέρω χρήση.
Ένα ευρύ φάσμα συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου θα εγκριθεί, αλλά υπόκειται σε ένα σύνολο απαιτήσεων και υποχρεώσεων για την απόκτηση πρόσβασης στην αγορά της ΕΕ. Αυτές οι απαιτήσεις έχουν διευκρινιστεί και προσαρμοστεί από τους συννομοθέτες με τέτοιο τρόπο ώστε να είναι πιο τεχνικά εφικτές και λιγότερο επιβαρυντικές για τη συμμόρφωσή τους με τα ενδιαφερόμενα μέρη, για παράδειγμα όσον αφορά την ποιότητα των δεδομένων ή σε σχέση με την τεχνική τεκμηρίωση που θα έπρεπε να εκπονήθηκε από ΜΜΕ για να αποδείξει ότι τα υψηλού κινδύνου συστήματα τεχνητής νοημοσύνης τους συμμορφώνονται με τις απαιτήσεις.
Δεδομένου ότι τα συστήματα τεχνητής νοημοσύνης αναπτύσσονται και διανέμονται μέσω πολύπλοκων αλυσίδων αξίας, η συμβιβαστική συμφωνία περιλαμβάνει αλλαγές που διευκρινίζουν την κατανομή των ευθυνών και των ρόλων των διαφόρων παραγόντων σε αυτές τις αλυσίδες, ιδίως των παρόχων και των χρηστών συστημάτων τεχνητής νοημοσύνης. Διευκρινίζει επίσης τη σχέση μεταξύ των ευθυνών βάσει του νόμου περί τεχνητής νοημοσύνης και των ευθυνών που υπάρχουν ήδη βάσει άλλης νομοθεσίας, όπως η σχετική νομοθεσία της ΕΕ για την προστασία δεδομένων ή η τομεακή νομοθεσία.
Για ορισμένες χρήσεις της τεχνητής νοημοσύνης, ο κίνδυνος θεωρείται απαράδεκτος και, ως εκ τούτου, αυτά τα συστήματα θα απαγορευθούν από την ΕΕ. Η προσωρινή συμφωνία απαγορεύει, για παράδειγμα, τη γνωστική συμπεριφορική χειραγώγηση , την άστοχη απόσυρση εικόνων προσώπου από το διαδίκτυο ή βίντεο κλειστού κυκλώματος τηλεόρασης, την αναγνώριση συναισθημάτων στο χώρο εργασίας και τα εκπαιδευτικά ιδρύματα, την κοινωνική βαθμολογία , τη βιομετρική κατηγοριοποίηση για να συναχθούν ευαίσθητα δεδομένα, όπως σεξουαλικός προσανατολισμός ή θρησκευτικός πεποιθήσεις και ορισμένες περιπτώσεις προγνωστικής αστυνόμευσης για άτομα.
Εξαιρέσεις επιβολής του νόμου
Λαμβάνοντας υπόψη τις ιδιαιτερότητες των αρχών επιβολής του νόμου και την ανάγκη να διατηρηθεί η ικανότητά τους να χρησιμοποιούν τεχνητή νοημοσύνη στο ζωτικό τους έργο, συμφωνήθηκαν αρκετές αλλαγές στην πρόταση της Επιτροπής σχετικά με τη χρήση συστημάτων τεχνητής νοημοσύνης για σκοπούς επιβολής του νόμου. Με την επιφύλαξη των κατάλληλων διασφαλίσεων , αυτές οι αλλαγές προορίζονται να αντανακλούν την ανάγκη σεβασμού της εμπιστευτικότητας των ευαίσθητων επιχειρησιακών δεδομένων σε σχέση με τις δραστηριότητές τους. Για παράδειγμα, εισήχθη μια διαδικασία έκτακτης ανάγκης που επιτρέπει στις υπηρεσίες επιβολής του νόμου να αναπτύξουν ένα εργαλείο τεχνητής νοημοσύνης υψηλού κινδύνου που δεν έχει περάσει τη διαδικασία αξιολόγησης της συμμόρφωσης σε περίπτωση επείγουσας ανάγκης. Ωστόσο, έχει επίσης εισαχθεί ένας ειδικός μηχανισμός για να διασφαλιστεί ότι τα θεμελιώδη δικαιώματα θα προστατεύονται επαρκώς από τυχόν πιθανές καταχρήσεις συστημάτων τεχνητής νοημοσύνης.
Επιπλέον, όσον αφορά τη χρήση απομακρυσμένων βιομετρικών συστημάτων ταυτοποίησης σε πραγματικό χρόνο σε χώρους προσβάσιμους από το κοινό, η προσωρινή συμφωνία διευκρινίζει τους στόχους όπου αυτή η χρήση είναι απολύτως απαραίτητη για σκοπούς επιβολής του νόμου και για τους οποίους θα πρέπει επομένως να επιτρέπεται κατ’ εξαίρεση στις αρχές επιβολής του νόμου να χρησιμοποιούν τέτοια συστήματα . Η συμβιβαστική συμφωνία προβλέπει πρόσθετες διασφαλίσεις και περιορίζει αυτές τις εξαιρέσεις σε περιπτώσεις θυμάτων ορισμένων εγκλημάτων, πρόληψη πραγματικών, παρόντων ή προβλέψιμων απειλών, όπως τρομοκρατικές επιθέσεις, και έρευνες για άτομα που είναι ύποπτα για τα πιο σοβαρά εγκλήματα.
Συστήματα τεχνητής νοημοσύνης γενικής χρήσης και μοντέλα θεμελίωσης
Προστέθηκαν νέες διατάξεις για να ληφθούν υπόψη καταστάσεις όπου τα συστήματα τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν για πολλούς διαφορετικούς σκοπούς ( τεχνητή νοημοσύνη γενικής χρήσης ) και όπου η τεχνολογία τεχνητής νοημοσύνης γενικής χρήσης ενσωματώνεται στη συνέχεια σε άλλο σύστημα υψηλού κινδύνου. Η προσωρινή συμφωνία εξετάζει επίσης τις ειδικές περιπτώσεις συστημάτων τεχνητής νοημοσύνης γενικής χρήσης (GPAI).
Συγκεκριμένοι κανόνες έχουν επίσης συμφωνηθεί για μοντέλα θεμελίωσης , μεγάλα συστήματα ικανά να εκτελούν ικανοποιητικά ένα ευρύ φάσμα διακριτών εργασιών, όπως δημιουργία βίντεο, κειμένου, εικόνων, συνομιλία σε πλευρική γλώσσα, υπολογισμούς ή δημιουργία κώδικα υπολογιστή. Η προσωρινή συμφωνία προβλέπει ότι τα θεμελιώδη μοντέλα πρέπει να συμμορφώνονται με συγκεκριμένες υποχρεώσεις διαφάνειας προτού διατεθούν στην αγορά. Εισήχθη ένα αυστηρότερο καθεστώς για τα μοντέλα θεμελίωσης «μεγάλου αντίκτυπου» . Αυτά είναι μοντέλα θεμελίωσης εκπαιδευμένα με μεγάλο όγκο δεδομένων και με προηγμένη πολυπλοκότητα, δυνατότητες και απόδοση πολύ πάνω από τον μέσο όρο, τα οποία μπορούν να διαδώσουν συστημικούς κινδύνους κατά μήκος της αλυσίδας αξίας.
Μια νέα αρχιτεκτονική διακυβέρνησης
Ακολουθώντας τους νέους κανόνες για τα μοντέλα GPAI και την προφανή ανάγκη επιβολής τους σε επίπεδο ΕΕ, έχει δημιουργηθεί ένα γραφείο τεχνητής νοημοσύνης στην Επιτροπή με αποστολή να επιβλέπει αυτά τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, να συμβάλλει στην προώθηση προτύπων και πρακτικών δοκιμών και να επιβάλλει τους κοινούς κανόνες στο όλα τα κράτη μέλη. Μια επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων θα συμβουλεύει το Γραφείο AI σχετικά με τα μοντέλα GPAI, συμβάλλοντας στην ανάπτυξη μεθοδολογιών για την αξιολόγηση των δυνατοτήτων των μοντέλων θεμελίωσης, συμβουλεύοντας για τον προσδιορισμό και την εμφάνιση μοντέλων θεμελίωσης υψηλής πρόσκρουσης και παρακολουθώντας πιθανούς κινδύνους για την ασφάλεια των υλικών στα μοντέλα θεμελίωσης.
Το συμβούλιο AI, το οποίο θα αποτελείται από εκπροσώπους των κρατών μελών, θα παραμείνει ως πλατφόρμα συντονισμού και συμβουλευτικό όργανο για την Επιτροπή και θα δώσει σημαντικό ρόλο στα κράτη μέλη για την εφαρμογή του κανονισμού, συμπεριλαμβανομένου του σχεδιασμού κωδίκων πρακτικής για την ίδρυση μοντέλα. Τέλος, θα δημιουργηθεί ένα συμβουλευτικό φόρουμ για ενδιαφερόμενα μέρη, όπως εκπροσώπους του κλάδου, ΜΜΕ, νεοφυείς επιχειρήσεις, κοινωνία των πολιτών και ακαδημαϊκό κόσμο, για την παροχή τεχνικής εμπειρογνωμοσύνης στο συμβούλιο τεχνητής νοημοσύνης.
Ποινικές ρήτρες
Τα πρόστιμα για παραβάσεις του νόμου περί τεχνητής νοημοσύνης ορίστηκαν ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της παραβατικής εταιρείας κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, όποιο είναι μεγαλύτερο. Αυτό θα ήταν 35 εκατ. ευρώ ή 7% για παραβιάσεις των απαγορευμένων εφαρμογών τεχνητής νοημοσύνης, 15 εκατ. ευρώ ή 3% για παραβάσεις των υποχρεώσεων του νόμου περί τεχνητής νοημοσύνης και 7,5 εκατ. ευρώ ή 1,5% για παροχή εσφαλμένων πληροφοριών. Ωστόσο, η προσωρινή συμφωνία προβλέπει πιο αναλογικά ανώτατα όρια στα διοικητικά πρόστιμα για τις ΜΜΕ και τις νεοσύστατες επιχειρήσεις σε περίπτωση παραβίασης των διατάξεων του νόμου περί τεχνητής νοημοσύνης.
Η συμβιβαστική συμφωνία καθιστά επίσης σαφές ότι ένα φυσικό ή νομικό πρόσωπο μπορεί να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς σχετικά με μη συμμόρφωση με την πράξη τεχνητής νοημοσύνης και μπορεί να αναμένει ότι μια τέτοια καταγγελία θα διεκπεραιωθεί σύμφωνα με τις ειδικές διαδικασίες της εν λόγω αρχής.
Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων
Η προσωρινή συμφωνία προβλέπει αξιολόγηση του αντίκτυπου των θεμελιωδών δικαιωμάτων προτού διατεθεί στην αγορά ένα σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου από τους δημιουργούς του. Η προσωρινή συμφωνία προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά τη χρήση συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Συγκεκριμένα, ορισμένες διατάξεις της πρότασης της Επιτροπής έχουν τροποποιηθεί για να υποδειχθεί ότι ορισμένοι χρήστες ενός συστήματος τεχνητής νοημοσύνης υψηλού κινδύνου που είναι δημόσιοι φορείς θα υποχρεωθούν επίσης να εγγραφούν στη βάση δεδομένων της ΕΕ για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου. Επιπλέον, οι νέες διατάξεις που προστέθηκαν δίνουν έμφαση στην υποχρέωση των χρηστών ενός συστήματος αναγνώρισης συναισθημάτων να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε ένα τέτοιο σύστημα.
Μέτρα στήριξης της καινοτομίας
Με σκοπό τη δημιουργία ενός νομικού πλαισίου που θα είναι πιο φιλικό προς την καινοτομία και για την προώθηση της ρυθμιστικής μάθησης βάσει στοιχείων, οι διατάξεις σχετικά με τα μέτρα υποστήριξης της καινοτομίας έχουν τροποποιηθεί σημαντικά σε σύγκριση με την πρόταση της Επιτροπής.
Συγκεκριμένα, διευκρινίστηκε ότι τα ρυθμιστικά sandboxes AI , τα οποία υποτίθεται ότι δημιουργούν ένα ελεγχόμενο περιβάλλον για την ανάπτυξη, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων AI, θα πρέπει επίσης να επιτρέπουν τη δοκιμή καινοτόμων συστημάτων AI σε πραγματικές συνθήκες. Επιπλέον, έχουν προστεθεί νέες διατάξεις που επιτρέπουν τη δοκιμή συστημάτων τεχνητής νοημοσύνης σε πραγματικές συνθήκες , υπό συγκεκριμένες συνθήκες και διασφαλίσεις. Για την ελάφρυνση του διοικητικού φόρτου για τις μικρότερες εταιρείες, η προσωρινή συμφωνία περιλαμβάνει κατάλογο ενεργειών που πρέπει να αναληφθούν για την υποστήριξη αυτών των φορέων και προβλέπει ορισμένες περιορισμένες και σαφώς καθορισμένες παρεκκλίσεις.
Εναρξη ισχύος
Η προσωρινή συμφωνία προβλέπει ότι ο νόμος AI θα πρέπει να εφαρμόζεται δύο χρόνια μετά την έναρξη ισχύος του, με ορισμένες εξαιρέσεις για συγκεκριμένες διατάξεις.
Επόμενα βήματα
Μετά τη σημερινή προσωρινή συμφωνία, οι εργασίες θα συνεχιστούν σε τεχνικό επίπεδο τις επόμενες εβδομάδες για να οριστικοποιηθούν οι λεπτομέρειες του νέου κανονισμού. Η Προεδρία θα υποβάλει το συμβιβαστικό κείμενο στους εκπροσώπους των κρατών μελών (Coreper) για έγκριση μόλις ολοκληρωθεί αυτή η εργασία.
Ολόκληρο το κείμενο θα πρέπει να επιβεβαιωθεί και από τα δύο θεσμικά όργανα και να υποβληθεί σε νομική-γλωσσική αναθεώρηση πριν από την επίσημη έγκριση από τους συννομοθέτες.
Γενικές πληροφορίες
Η πρόταση της Επιτροπής, που παρουσιάστηκε τον Απρίλιο του 2021, αποτελεί βασικό στοιχείο της πολιτικής της ΕΕ για την προώθηση της ανάπτυξης και της υιοθέτησης ασφαλούς και νόμιμης τεχνητής νοημοσύνης στην ενιαία αγορά που σέβεται τα θεμελιώδη δικαιώματα.
Η πρόταση ακολουθεί μια προσέγγιση που βασίζεται στον κίνδυνο και καθορίζει ένα ενιαίο, οριζόντιο νομικό πλαίσιο για την τεχνητή νοημοσύνη που αποσκοπεί στη διασφάλιση της ασφάλειας δικαίου. Το σχέδιο κανονισμού στοχεύει να προωθήσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη, να ενισχύσει τη διακυβέρνηση και την αποτελεσματική επιβολή της υφιστάμενης νομοθεσίας για τα θεμελιώδη δικαιώματα και την ασφάλεια και να διευκολύνει την ανάπτυξη μιας ενιαίας αγοράς για εφαρμογές τεχνητής νοημοσύνης. Συμβαδίζει με άλλες πρωτοβουλίες, συμπεριλαμβανομένου του συντονισμένου σχεδίου για την τεχνητή νοημοσύνη που στοχεύει στην επιτάχυνση των επενδύσεων στην τεχνητή νοημοσύνη στην Ευρώπη. Στις 6 Δεκεμβρίου 2022, το Συμβούλιο κατέληξε σε συμφωνία για μια γενική προσέγγιση (εντολή διαπραγμάτευσης) σχετικά με αυτόν τον φάκελο και ξεκίνησε διοργανικές συνομιλίες με το Ευρωπαϊκό Κοινοβούλιο («τριλόγοι») στα μέσα Ιουνίου 2023.
