Η Ευρώπη κάνει ένα ακόμη μεγάλο βήμα προς τη συμφωνία ενός εγχειριδίου κανόνων τεχνητής νοημοσύνης

Το Ευρωπαϊκό Κοινοβούλιο ψήφισε για να επιβεβαιώσει τη διαπραγματευτική του εντολή για τον νόμο AI — σημειώνοντας ένα σημαντικό ορόσημο που ξεκλειδώνει το επόμενο στάδιο των διαπραγματεύσεων προς ένα πανευρωπαϊκό βιβλίο κανόνων για την τεχνητή νοημοσύνη.

Οι βουλευτές υποστήριξαν μια τροποποιημένη έκδοση της πρότασης της Επιτροπής που επεκτείνει το εγχειρίδιο κανόνων με τρόπο που, όπως λένε, στοχεύει στο να διασφαλίσει ότι η τεχνητή νοημοσύνη που αναπτύσσεται και χρησιμοποιείται στην Ευρώπη είναι «πλήρης σύμφωνη με τα δικαιώματα και τις αξίες της ΕΕ, συμπεριλαμβανομένης της ανθρώπινης εποπτείας, της ασφάλειας, της ιδιωτικής ζωής, της διαφάνειας , τη μη διάκριση και την κοινωνική και περιβαλλοντική ευημερία».

Μεταξύ των αλλαγών που υποστήριξαν οι ευρωβουλευτές είναι η πλήρης απαγόρευση της εξ αποστάσεως βιομετρικής επιτήρησης και της προγνωστικής αστυνόμευσης. Πρόσθεσαν επίσης μια απαγόρευση «μη στοχευμένης απόξεσης εικόνων προσώπων από το Διαδίκτυο ή βίντεο κλειστού κυκλώματος τηλεόρασης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου» — επομένως βασικά μια αυστηρή απαγόρευση για το Clearview AI και τα παρόμοια του.

Η προτεινόμενη απαγόρευση της απομακρυσμένης βιομετρικής επιτήρησης θα ισχύει τόσο για εφαρμογές σε πραγματικό χρόνο όσο και για μεταγενέστερες (μετά το γεγονός) εφαρμογές τεχνολογιών όπως η αναγνώριση προσώπου, εκτός, στην τελευταία περίπτωση, για την επιβολή του νόμου για τη δίωξη σοβαρών εγκλημάτων με δικαστικό αναστεναγμό.

Οι ευρωβουλευτές πρόσθεσαν επίσης μια απαγόρευση χρήσης της τεχνολογίας αναγνώρισης συναισθημάτων που χρησιμοποιείται από τις αρχές επιβολής του νόμου, τις συνοριακές υπηρεσίες, τους χώρους εργασίας και τα εκπαιδευτικά ιδρύματα.

Οι βουλευτές επέκτειναν επίσης την ταξινόμηση των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου για να συμπεριλάβουν εκείνα που βλάπτουν σημαντικά την υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα ή το περιβάλλον των ανθρώπων, καθώς και συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για να επηρεάσουν τους ψηφοφόρους και το αποτέλεσμα των εκλογών.

Μεγαλύτερες πλατφόρμες μέσων κοινωνικής δικτύωσης που χρησιμοποιούν αλγόριθμους για να προτείνουν περιεχόμενο προστέθηκαν επίσης στη λίστα υψηλού κινδύνου από τους ευρωβουλευτές.

Η ψηφοφορία στην Ολομέλεια ακολουθεί την υποστήριξη της επιτροπής για την τροποποιημένη πρόταση τον περασμένο μήνα, αφού ευρωβουλευτές από διαφορετικές πολιτικές ομάδες απάντησαν πώς ήθελαν να τροποποιήσουν το κείμενο της Επιτροπής, μεταξύ άλλων προσθέτοντας υποχρεώσεις στους κατασκευαστές της λεγόμενης τεχνητής νοημοσύνης γενικού σκοπού.

Ανταποκρινόμενοι στις ταχύρυθμες εξελίξεις στη γενετική τεχνητή νοημοσύνη, οι ευρωβουλευτές υποστήριξαν την επιβολή μιας σειράς υποχρεώσεων σε μοντέλα τεχνητής νοημοσύνης θεμελιώδους/γενικής χρήσης, όπως η τεχνολογία που στηρίζει το

ChatGPT

του

OpenAI

για τεχνητή νοημοσύνη, απαιτώντας τέτοια συστήματα να εντοπίζουν και να μετριάζουν τους κινδύνους πριν από την τοποθέτηση σε την αγορά, καθώς και την εφαρμογή γνωστοποιήσεων διαφάνειας σε περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη και την εφαρμογή διασφαλίσεων έναντι της δημιουργίας παράνομου περιεχομένου.

Οι κατασκευαστές τεχνητής νοημοσύνης γενικού σκοπού πρέπει επίσης να δημοσιεύουν «λεπτομερείς περιλήψεις» πληροφοριών που προστατεύονται από πνευματικά δικαιώματα που χρησιμοποιούνται για την εκπαίδευση των μοντέλων τους σύμφωνα με την πρόταση των βουλευτών του ΕΚ.

Κατά τη διάρκεια μιας περιοδείας στις ευρωπαϊκές πρωτεύουσες για να συναντηθεί με νομοθέτες τον περασμένο μήνα, ο Διευθύνων Σύμβουλος του OpenAI Sam Altman άσκησε κριτική σε αυτήν την πτυχή της πρότασης της ΕΕ. Πρότεινε ότι η εταιρεία μπορεί να χρειαστεί να αποσύρει την υπηρεσία στην περιοχή εάν δεν ήταν σε θέση να συμμορφωθεί, λέγοντας στους δημοσιογράφους ότι ήταν αισιόδοξος ότι οι υποχρεώσεις θα ανακληθούν.

Στην περίπτωση αυτή, η σημερινή ψηφοφορία στην Ολομέλεια δείχνει τη συντριπτική υποστήριξη των βουλευτών για την τροποποιημένη έκδοση του νομοσχεδίου – συμπεριλαμβανομένων των προτεινόμενων υποχρεώσεων για AI γενικής χρήσης – με 499 ψήφους υπέρ και μόλις 28 κατά (συν 93 αποχές).

Η ψηφοφορία για την έγκριση της εντολής σημαίνει ότι οι συζητήσεις μεταξύ του κοινοβουλίου και των κυβερνήσεων των κρατών μελών της ΕΕ μπορούν τώρα να ξεκινήσουν — με τον πρώτο τριμερή διάλογο να έχει προγραμματιστεί να πραγματοποιηθεί σήμερα το απόγευμα.

Σχολιάζοντας σε δήλωση μετά την ψηφοφορία, ο συνεισηγητής Brando Benifei είπε:

Όλα τα βλέμματα είναι στραμμένα πάνω μας σήμερα. Ενώ οι μεγάλες εταιρείες τεχνολογίας κρούουν τον κώδωνα του κινδύνου για τις δικές τους δημιουργίες, η Ευρώπη προχώρησε και πρότεινε μια συγκεκριμένη απάντηση στους κινδύνους που έχει αρχίσει να εγκυμονεί η τεχνητή νοημοσύνη. Θέλουμε να αξιοποιηθεί το θετικό δυναμικό της AI για δημιουργικότητα και παραγωγικότητα, αλλά θα αγωνιστούμε επίσης για να προστατεύσουμε τη θέση μας και να αντιμετωπίσουμε τους κινδύνους για τις δημοκρατίες και τις ελευθερίες μας κατά τις διαπραγματεύσεις με το Συμβούλιο.

Σε άλλη υποστηρικτική δήλωση, ο συνεισηγητής Dragos Tudorache πρόσθεσε:

Ο νόμος AI θα δώσει τον τόνο παγκοσμίως στην ανάπτυξη και τη διακυβέρνηση της τεχνητής νοημοσύνης, διασφαλίζοντας ότι αυτή η τεχνολογία, που θα μεταμορφώσει ριζικά τις κοινωνίες μας μέσα από τα τεράστια οφέλη που μπορεί να προσφέρει, εξελίσσεται και χρησιμοποιείται σύμφωνα με τις ευρωπαϊκές αξίες της δημοκρατίας, θεμελιώδεις δικαιώματα και το κράτος δικαίου.

Η έκδοση του νόμου περί τεχνητής νοημοσύνης που υποστήριξαν σήμερα οι ευρωβουλευτές προσθέτει εξαιρέσεις για ερευνητικές δραστηριότητες και στοιχεία τεχνητής νοημοσύνης που παρέχονται με άδειες ανοιχτού κώδικα, τα οποία οι ευρωβουλευτές προτείνουν ότι θα εξασφαλίσουν υποστήριξη για την καινοτομία — μαζί με ρυθμιστικά sandboxes για συστήματα δοκιμών που θα δημιουργηθούν βάσει του πλαισίου.

Η πρόταση των ευρωβουλευτών προσθέτει επίσης μια σειρά από δικαιώματα των καταναλωτών σχετικά με τη λήψη αποφάσεων για την τεχνητή νοημοσύνη — συμπεριλαμβανομένης της δυνατότητας των καταναλωτών να ζητούν συλλογική επανόρθωση εάν ένα σύστημα τεχνητής νοημοσύνης τους έχει προκαλέσει βλάβη.

Η ευρωπαϊκή οργάνωση καταναλωτών, BEUC, χαιρέτισε αυτές τις αλλαγές, αλλά επέκρινε το κοινοβούλιο επειδή δεν υποστήριξε την πλήρη απαγόρευση της χρήσης τεχνητών νοημοσύνης αναγνώρισης συναισθημάτων (καθώς η πρόταση δεν περιορίζει την εμπορική χρήση τέτοιων λαδιών φιδιού).

Πιστεύει επίσης ότι οι ευρωβουλευτές έχουν δώσει στους προγραμματιστές υπερβολική διακριτική ευχέρεια να αποφασίσουν εάν τα συστήματά τους εμπίπτουν στην κατηγορία υψηλού κινδύνου ή όχι, κάτι που λέει ότι θα μπορούσε να υπονομεύσει την αποτελεσματικότητα του πλαισίου που βασίζεται στον κίνδυνο.

Αυτό μπορεί να αποδειχθεί ένα μήλο της έριδος κατά τη διάρκεια των τριμερών συζητήσεων που πρέπει να βρεθεί ένας συμβιβασμός μεταξύ της θέσης του Συμβουλίου της ΕΕ, το οποίο είναι το όργανο που αποτελείται από τις κυβερνήσεις των κρατών μελών, και των νομοθετών στο κοινοβούλιο για να επιτευχθεί η απαραίτητη πολιτική συμφωνία για ένα τελικό κείμενο και σφραγίστε το αρχείο.

Συνήθως, το Συμβούλιο της ΕΕ ακολουθεί μια πιο φιλοβιομηχανική γραμμή, ενώ το κοινοβούλιο τείνει να ενδιαφέρεται περισσότερο για τα θεμελιώδη δικαιώματα. Επομένως, το πού θα συναντηθούν οι δύο πλευρές στη μέση για τη ρύθμιση της τεχνητής νοημοσύνης μένει να φανεί. Εάν δεν μπορούν να συμφωνήσουν, η νομοθετική διαδικασία μπορεί να σταματήσει ή και να αποτύχει. Αλλά υπάρχει μια ώθηση στις Βρυξέλλες για να ξεπεραστεί αυτό το αρχείο, δεδομένου του πόσο μεγάλη παγκόσμια προσοχή στρέφεται τώρα στη ρύθμιση της τεχνητής νοημοσύνης.

Το Συμβούλιο ενέκρινε τη θέση του σχετικά με τον φάκελο

τον Δεκεμβριο

. Εκείνη την εποχή, τα κράτη μέλη ευνόησαν σε μεγάλο βαθμό την αναβολή του τι πρέπει να κάνουν σχετικά με την τεχνητή νοημοσύνη γενικού σκοπού — σε πρόσθετη, εκτελεστική νομοθεσία — αλλά δεδομένου του τι συνέβη στο μεσοδιάστημα, με τα εργαλεία παραγωγής τεχνητής νοημοσύνης όπως η λήψη ChatGPT στο επίκεντρο της συζήτησης για την τεχνολογία και τη δημιουργία πολλαπλών κλήσεων για ρύθμιση (συμπεριλαμβανομένων πολλών τύπων τεχνολογικών βιομηχανιών) — θα είναι ενδιαφέρον να δούμε εάν τα κράτη μέλη θα συμφωνήσουν στην ανάγκη προσθήκης υποχρεώσεων για αυτήν την κατηγορία συστημάτων τεχνητής νοημοσύνης στο κείμενο του νόμου περί τεχνητής νοημοσύνης.

Το στέλεχος της ΕΕ παρουσίασε την αρχική πρόταση για το πλαίσιο βάσει κινδύνου για την τεχνητή νοημοσύνη τον Απρίλιο του 2021. Αν και αυτό το πρώτο προσχέδιο κειμένου της Επιτροπής δεν ασχολήθηκε τόσο εκτενώς με το θέμα της τεχνητής νοημοσύνης γενικού σκοπού, πρότεινε διατάξεις διαφάνειας για τα

chatbot

και την τεχνολογία

deepfake

. Έτσι, ακόμη και τότε, οι νομοθέτες της ΕΕ είχαν την άποψη ότι οι καταναλωτές πρέπει να ενημερώνονται ότι αλληλεπιδρούν με περιεχόμενο που παράγεται από μηχανήματα.

Ενώ η Επιτροπή εξακολουθεί να ελπίζει ότι οι τριμερείς συνομιλίες σχετικά με το φάκελο του νόμου περί AI θα καταλήξουν σε πολιτική συμφωνία μέχρι το τέλος του τρέχοντος έτους, θα υπάρχει ακόμη μια περίοδος εφαρμογής πριν από την εφαρμογή της νομοθεσίας — πιθανότατα όχι πριν από το 2026. Αυτός είναι ο λόγος για τον οποίο η ΕΕ εργάζεται επίσης σε εθελοντική πρωτοβουλίες που στοχεύουν να πιέσουν τις εταιρείες τεχνητής νοημοσύνης να αυτορυθμίσουν την ασφάλεια στο μεταξύ.