Οι νομοθέτες της ΕΕ συνάπτουν συμφωνία αργά το βράδυ για τους κανόνες τεχνητής νοημοσύνης για την «πρώτη παγκόσμια».

Μετά τις μαραθώνιες «τελικές» συνομιλίες που διήρκεσαν σχεδόν τρεις ημέρες, οι νομοθέτες της Ευρωπαϊκής Ένωσης κατέληξαν απόψε σε μια πολιτική συμφωνία για ένα πλαίσιο που βασίζεται στον κίνδυνο για τη ρύθμιση της τεχνητής νοημοσύνης.

Το

αρχείο προτάθηκε αρχικά τον Απρίλιο του 2021, αλλά χρειάστηκαν μήνες δύσκολων τριμερών διαπραγματεύσεων για να επιτευχθεί μια συμφωνία. Η ανάπτυξη σημαίνει ότι ένας πανευρωπαϊκός νόμος για την τεχνητή νοημοσύνη βρίσκεται οριστικά στο δρόμο.

Δίνοντας μια θριαμβευτική αλλά εξαντλητική συνέντευξη Τύπου τις μικρές ώρες της Παρασκευής το βράδυ/το πρωί του Σαββάτου, τοπική ώρα, βασικοί εκπρόσωποι για το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο και την Επιτροπή —οι συννομοθέτες του μπλοκ— χαιρέτησαν τη συμφωνία ως σκληρή μάχη, επίτευγμα ορόσημο και ιστορική, αντίστοιχα.

Πηγαίνοντας στο Χ σε

tweet την είδηση

η πρόεδρος της ΕΕ, Ούρσουλα φον ντερ Λάιεν – η οποία έκανε την εφαρμογή ενός νόμου για την τεχνητή νοημοσύνη βασική προτεραιότητα της θητείας της όταν ανέλαβε τη θέση στα τέλη του 2019 – επαίνεσε επίσης την πολιτική συμφωνία ως «παγκόσμια πρωτιά».

Οι πλήρεις λεπτομέρειες των συμφωνηθέντων δεν θα επιβεβαιωθούν πλήρως έως ότου συνταχθεί και δημοσιοποιηθεί ένα τελικό κείμενο, κάτι που μπορεί να διαρκέσει μερικές εβδομάδες. Αλλά α

δελτίο τύπου

που δημοσιεύθηκε από το Ευρωπαϊκό Κοινοβούλιο επιβεβαιώνει ότι η συμφωνία που επιτεύχθηκε με το Συμβούλιο περιλαμβάνει πλήρη απαγόρευση της χρήσης τεχνητής νοημοσύνης για:

• βιομετρικά συστήματα κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. πολιτικές, θρησκευτικές, φιλοσοφικές πεποιθήσεις, σεξουαλικός προσανατολισμός, φυλή).
• μη στοχευμένη απόξεση εικόνων προσώπων από το διαδίκτυο ή πλάνα CCTV για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.
• αναγνώριση συναισθημάτων στο χώρο εργασίας και στα εκπαιδευτικά ιδρύματα.
• κοινωνική βαθμολογία με βάση την κοινωνική συμπεριφορά ή τα προσωπικά χαρακτηριστικά.
• Συστήματα τεχνητής νοημοσύνης που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούλησή τους.
• Η τεχνητή νοημοσύνη χρησιμοποιούσε για να εκμεταλλευτεί τα τρωτά σημεία των ανθρώπων (λόγω της ηλικίας, της
  
  αναπηρία
  
  ς, της κοινωνικής ή οικονομικής κατάστασής τους).

Η χρήση απομακρυσμένης βιομετρικής τεχνολογίας αναγνώρισης σε δημόσιους χώρους από τις αρχές επιβολής του νόμου δεν έχει απαγορευτεί εντελώς — αλλά το κοινοβούλιο είπε ότι οι διαπραγματευτές είχαν συμφωνήσει σε μια σειρά από διασφαλίσεις και περιορισμένες εξαιρέσεις για τον περιορισμό της χρήσης τεχνολογιών όπως η αναγνώριση προσώπου. Αυτό περιλαμβάνει απαίτηση για προηγούμενη δικαστική άδεια — και με χρήσεις περιορισμένες σε «αυστηρά καθορισμένους» καταλόγους εγκλημάτων.

Η αναδρομική (μη σε πραγματικό χρόνο) χρήση των απομακρυσμένων βιομετρικών AI θα περιοριστεί στη «στοχευμένη έρευνα ατόμου που έχει καταδικαστεί ή είναι ύποπτο για διάπραξη σοβαρού εγκλήματος». Ενώ η χρήση σε πραγματικό χρόνο αυτής της παρεμβατικής τεχνολογίας AI θα είναι περιορισμένη σε χρόνο και τοποθεσία και μπορεί να χρησιμοποιηθεί μόνο για τους ακόλουθους σκοπούς:

• στοχευμένες έρευνες θυμάτων (απαγωγή, εμπορία ανθρώπων, σεξουαλική εκμετάλλευση),
• πρόληψη συγκεκριμένης και παρούσας τρομοκρατικής απειλής, ή
• εντοπισμός ή ταυτοποίηση ατόμου που είναι ύποπτο ότι έχει διαπράξει ένα από τα συγκεκριμένα εγκλήματα που αναφέρονται στον κανονισμό (π.χ. τρομοκρατία, σωματεμπορία, σεξουαλική εκμετάλλευση, δολοφονία, απαγωγή, βιασμός, ένοπλη ληστεία, συμμετοχή σε εγκληματική οργάνωση, περιβαλλοντικό έγκλημα).

Το πακέτο που συμφωνήθηκε περιλαμβάνει επίσης υποχρεώσεις για συστήματα τεχνητής νοημοσύνης που ταξινομούνται ως «υψηλού κινδύνου» λόγω του ότι έχουν «σημαντική πιθανή βλάβη στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου».

«Οι ευρωβουλευτές κατάφεραν με επιτυχία να συμπεριλάβουν μια υποχρεωτική εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα, μεταξύ άλλων απαιτήσεων, που ισχύουν επίσης για τον ασφαλιστικό και τον τραπεζικό τομέα. Τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για να επηρεάσουν το αποτέλεσμα των εκλογών και τη συμπεριφορά των ψηφοφόρων, ταξινομούνται επίσης ως υψηλού κινδύνου», έγραψε το κοινοβούλιο. «Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες για συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις σχετικά με αποφάσεις που βασίζονται σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που επηρεάζουν τα δικαιώματά τους».

Υπήρξε επίσης συμφωνία για ένα σύστημα προστατευτικών κιγκλιδωμάτων «δύο επιπέδων» που θα εφαρμοστεί σε «γενικά» συστήματα τεχνητής νοημοσύνης, όπως τα λεγόμενα θεμελιώδη μοντέλα που στηρίζουν την ιογενή

έκρηξη

σε εφαρμογές παραγωγής τεχνητής νοημοσύνης όπως το ChatGPT.

Όπως αναφέραμε νωρίτερα, η συμφωνία που επιτεύχθηκε για τα θεμελιώδη μοντέλα/ΤΝ γενικού σκοπού (GPAI) περιλαμβάνει ορισμένες απαιτήσεις διαφάνειας για αυτά που οι συννομοθέτες αναφέρουν ως AI «χαμηλού επιπέδου» — που σημαίνει ότι οι κατασκευαστές μοντέλων πρέπει να συντάξουν τεχνική τεκμηρίωση και να παράγουν (και να δημοσιεύσουν) λεπτομερή περιλήψεις σχετικά με το περιεχόμενο που χρησιμοποιείται για την εκπαίδευση προκειμένου να υποστηριχθεί η συμμόρφωση με τη νομοθεσία της ΕΕ για τα πνευματικά δικαιώματα.

Για GPAI «υψηλού αντίκτυπου» (που ορίζεται ως το αθροιστικό ποσό υπολογισμού που χρησιμοποιείται για την εκπαίδευσή τους, μετρούμενο σε πράξεις κινητής υποδιαστολής είναι μεγαλύτερο από 10^25) με τον λεγόμενο «συστημικό κίνδυνο» υπάρχουν πιο αυστηρές υποχρεώσεις.

«Εάν αυτά τα μοντέλα πληρούν ορισμένα κριτήρια, θα πρέπει να πραγματοποιήσουν αξιολογήσεις μοντέλων, να αξιολογήσουν και να μετριάσουν τους συστημικούς κινδύνους, να πραγματοποιήσουν αντίθετες δοκιμές, να αναφέρουν στην Επιτροπή για σοβαρά συμβάντα, να διασφαλίσουν την ασφάλεια στον κυβερνοχώρο και να αναφέρουν την ενεργειακή τους απόδοση», έγραψε το κοινοβούλιο. «Οι ευρωβουλευτές επέμειναν επίσης ότι, μέχρι να δημοσιευτούν εναρμονισμένα πρότυπα της ΕΕ, οι GPAI με συστημικό κίνδυνο μπορούν να βασίζονται σε κώδικες πρακτικής για να συμμορφωθούν με τον κανονισμό».

Η Επιτροπή εργάζεται με τη βιομηχανία για ένα Σύμφωνο Τεχνητής Νοημοσύνης στοπ για την τεχνητή νοημοσύνη για μερικούς μήνες — και επιβεβαίωσε σήμερα ότι αυτό προορίζεται να καλύψει το χάσμα πρακτικής έως ότου τεθεί σε ισχύ ο νόμος για την τεχνητή νοημοσύνη.

Το πακέτο που συμφωνήθηκε προωθεί επίσης ρυθμιστικά sandboxes και πραγματικές δοκιμές που δημιουργούνται από τις εθνικές αρχές για την υποστήριξη νεοφυών επιχειρήσεων και ΜΜΕ να αναπτύξουν και να εκπαιδεύσουν AI πριν από τη διάθεση στην αγορά.

Οι κυρώσεις για μη συμμόρφωση μπορεί να οδηγήσουν σε πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατομμύρια ευρώ ή 1,5 % του κύκλου εργασιών, ανάλογα με την παράβαση και το μέγεθος της εταιρείας.

Η συμφωνία που συμφωνήθηκε σήμερα επιτρέπει επίσης τη σταδιακή έναρξη ισχύος μετά την υιοθέτηση του νόμου — με έξι μήνες έως ότου τεθούν σε εφαρμογή οι κανόνες για τις περιπτώσεις απαγορευμένης χρήσης. 12 μήνες για τις απαιτήσεις διαφάνειας και διακυβέρνησης· και 24 μήνες για όλες τις άλλες απαιτήσεις. Έτσι, η πλήρης ισχύς του νόμου της ΕΕ για την τεχνητή νοημοσύνη μπορεί να μην γίνει αισθητή μέχρι το 2026.

Η Carme Artigas, υπουργός Εξωτερικών της Ισπανίας για θέματα ψηφιακής και τεχνητής νοημοσύνης, η οποία ηγήθηκε των διαπραγματεύσεων του Συμβουλίου για τον φάκελο καθώς η χώρα ασκεί την εκ περιτροπής Προεδρία του Συμβουλίου από το καλοκαίρι, χαιρέτισε τη συμφωνία για τον έντονα αμφισβητούμενο φάκελο ως «το μεγαλύτερο ορόσημο στην ιστορία της ψηφιακής πληροφόρησης στην Ευρώπη». τόσο για την ενιαία ψηφιακή αγορά του μπλοκ — αλλά επίσης, πρότεινε, «για τον κόσμο».

«Πετύχαμε τον πρώτο διεθνή κανονισμό για την τεχνητή νοημοσύνη στον κόσμο», ανακοίνωσε κατά τη διάρκεια μιας μεταμεσονύχτιας συνέντευξης Τύπου για να επιβεβαιώσει την πολιτική συμφωνία, προσθέτοντας: «Αισθανόμαστε πολύ περήφανοι».

Ο νόμος θα υποστηρίξει ευρωπαίους προγραμματιστές, νεοφυείς επιχειρήσεις και μελλοντικές επιχειρήσεις κλίμακας παρέχοντάς τους «νομική ασφάλεια με τεχνική βεβαιότητα», προέβλεψε.

Μιλώντας εξ ονόματος του Ευρωπαϊκού Κοινοβουλίου, οι συνεισηγητές Dragoș Tudorache και Brando Benifei είπαν ότι στόχος τους ήταν να παραδώσουν νομοθεσία για την τεχνητή νοημοσύνη που θα διασφάλιζε ότι το οικοσύστημα θα αναπτυχθεί με μια «ανθρωποκεντρική προσέγγιση» που σέβεται τα θεμελιώδη δικαιώματα και τις ευρωπαϊκές αξίες. Η εκτίμησή τους για το αποτέλεσμα ήταν εξίσου αισιόδοξη — αναφέροντας τη συμπερίληψη στο συμφωνηθέν κείμενο μιας πλήρους απαγόρευσης της χρήσης τεχνητής νοημοσύνης για προγνωστική αστυνόμευση και για βιομετρική κατηγοριοποίηση ως σημαντικές νίκες.

«Επιτέλους βρεθήκαμε στο σωστό δρόμο, υπερασπιζόμενοι τα θεμελιώδη δικαιώματα στην αναγκαιότητα που υπάρχει για τις δημοκρατίες μας να αντέξουν τέτοιες απίστευτες αλλαγές», είπε ο Μπενιφέι. «Είμαστε οι πρώτοι στον κόσμο που έχουμε μια οριζόντια νομοθεσία που έχει αυτή την κατεύθυνση για τα θεμελιώδη δικαιώματα, που υποστηρίζει την ανάπτυξη της τεχνητής νοημοσύνης στην ήπειρό μας και που είναι ενημερωμένη στα όρια της τεχνητής νοημοσύνης με τα πιο ισχυρά μοντέλα υπό σαφή υποχρέωση. Οπότε νομίζω ότι παραδώσαμε».

«Πάντα μας ρωτούσαν αν υπάρχει αρκετή προστασία, αν υπάρχει αρκετό διεγερτικό για καινοτομία σε αυτό το κείμενο, και μπορώ να πω ότι αυτή η ισορροπία υπάρχει», πρόσθεσε ο Tudorache. «Έχουμε διασφαλίσεις, έχουμε όλες τις προβλέψεις που χρειαζόμαστε, την επανόρθωση που χρειαζόμαστε για να δώσουμε εμπιστοσύνη στους πολίτες μας στην αλληλεπίδραση με την τεχνητή νοημοσύνη, στα προϊόντα στις υπηρεσίες με τις οποίες θα αλληλεπιδρούν από εδώ και στο εξής.

«Πρέπει να χρησιμοποιήσουμε αυτό το σχέδιο για να επιδιώξουμε τώρα παγκόσμια σύγκλιση γιατί αυτή είναι μια παγκόσμια πρόκληση για όλους. Και νομίζω ότι με τη δουλειά που κάναμε, όσο δύσκολη κι αν ήταν — και ήταν δύσκολη, αυτή ήταν μια μαραθώνια διαπραγμάτευση με όλα τα πρότυπα, εξετάζοντας όλα τα προηγούμενα μέχρι τώρα — αλλά νομίζω ότι τα καταφέραμε».

Ο Επίτροπος Εσωτερικής

Αγορά

ς της ΕΕ, Τιερί Μπρετόν, συμμετείχε επίσης με τα δύο λεπτά του ευρώ — περιγράφοντας τη συμφωνία που επιτεύχθηκε λίγο πριν τα μεσάνυχτα της ώρας των Βρυξελλών ως «ιστορική». «Είναι ένα πλήρες πακέτο. Είναι μια πλήρης συμφωνία. Και αυτός είναι ο λόγος που ξοδέψαμε τόσο πολύ χρόνο», είπε. «Αυτό εξισορροπεί την ασφάλεια των χρηστών, την καινοτομία για τις νεοφυείς επιχειρήσεις, ενώ παράλληλα σέβεται… τα θεμελιώδη δικαιώματά μας και τις ευρωπαϊκές μας αξίες».

Παρά το γεγονός ότι η ΕΕ χαϊδεύει πολύ εμφανώς στην πλάτη απόψε για να εξασφαλίσει μια συμφωνία σχετικά με τους κανόνες τεχνητής νοημοσύνης «πρώτων στον κόσμο», δεν είναι ακόμη το τέλος του δρόμου για τη νομοθετική διαδικασία του μπλοκ, καθώς υπάρχουν ακόμη ορισμένα επίσημα βήματα που πρέπει να γίνουν — τουλάχιστον Το τελικό κείμενο θα ψηφίσει το κοινοβούλιο και το Συμβούλιο για την έγκρισή του. Όμως, δεδομένου του πόση διαίρεση και διαφωνία υπήρξε για το πώς (ή ακόμα και αν) θα ρυθμιστεί η τεχνητή νοημοσύνη, τα μεγαλύτερα εμπόδια έχουν καταργηθεί με αυτήν την πολιτική συμφωνία και ο δρόμος για την ψήφιση του νόμου για την τεχνητή νοημοσύνη της ΕΕ τους επόμενους μήνες φαίνεται ξεκάθαρος.

Η Επιτροπή σίγουρα εκφράζει εμπιστοσύνη. Σύμφωνα με τον Breton, οι εργασίες για την εφαρμογή της συμφωνίας ξεκινούν αμέσως με τη δημιουργία ενός Γραφείου ΤΝ εντός της εκτελεστικής εξουσίας της ΕΕ — το οποίο θα έχει καθήκον να συντονίζει με τα εποπτικά όργανα των κρατών μελών που θα πρέπει να επιβάλλουν τους κανόνες για τις εταιρείες τεχνητής νοημοσύνης. «Θα καλωσορίσουμε νέους συναδέλφους… πολλούς από αυτούς», είπε. «Θα εργαστούμε – από αύριο – για να ετοιμαστούμε».