Η διχαστική «εξατομίκευση» της μεγάλης τεχνολογίας προσελκύει νέα έκκληση για τις ροές περιεχομένου που βασίζονται σε προφίλ να είναι απενεργοποιημένες από προεπιλογή στην ΕΕ

Μια άλλη διελκυστίνδα πολιτικής θα μπορούσε να αναδυθεί γύρω από τα συστήματα συστάσεων περιεχομένου της Big Tech στην Ευρωπαϊκή Ένωση, όπου η Επιτροπή αντιμετωπίζει μια έκκληση από αρκετούς βουλευτές να χαλιναγωγήσουν τις ροές περιεχομένου που βασίζονται σε προφίλ — γνωστός και ως μηχανές «εξατομίκευσης» που επεξεργάζονται δεδομένα χρηστών προκειμένου να προσδιορίσετε ποιο περιεχόμενο θα τους εμφανίσετε.

Η παρακολούθηση και η δημιουργία προφίλ χρηστών από τις βασικές πλατφόρμες για την ενίσχυση των ροών «εξατομικευμένου» περιεχομένου έχουν από καιρό εγείρει ανησυχίες για πιθανές βλάβες για άτομα και δημοκρατικές κοινωνίες, με τους επικριτές να προτείνουν ότι η

τεχνολογία

οδηγεί τον εθισμό στα μέσα κοινωνικής δικτύωσης και θέτει κινδύνους για την ψυχική υγεία για ευάλωτα άτομα. Υπάρχουν επίσης ανησυχίες ότι η τεχνολογία υπονομεύει την κοινωνική συνοχή μέσω μιας τάσης να ενισχύει το διχαστικό και πολωτικό περιεχόμενο που μπορεί να ωθήσει τα άτομα σε πολιτικά άκρα διοχετεύοντας την οργή και τον θυμό τους.

ο

γράμμα

, που υπογράφηκε από 17 ευρωβουλευτές από πολιτικές ομάδες συμπεριλαμβανομένων των S&D, της αριστεράς, των Πρασίνων, του ΕΛΚ και της Renew Europe, υποστηρίζει την εξ ορισμού απενεργοποίηση των συστημάτων συστάσεων των τεχνολογικών πλατφορμών — μια ιδέα που προέκυψε κατά τη διάρκεια των διαπραγματεύσεων για τον νόμο για τις ψηφιακές υπηρεσίες του μπλοκ (DSA ) αλλά δεν μπήκε στον τελικό κανονισμό καθώς δεν είχε δημοκρατική πλειοψηφία. Αντίθετα, οι νομοθέτες της ΕΕ συμφώνησαν σε μέτρα διαφάνειας για συστήματα συστάσεων, μαζί με την απαίτηση ότι οι μεγαλύτερες πλατφόρμες (τα λεγόμενα VLOP) πρέπει να παρέχουν τουλάχιστον μία ροή περιεχομένου που δεν βασίζεται σε προφίλ.

Αλλά στην επιστολή τους οι ευρωβουλευτές πιέζουν για μια γενική προεπιλογή για την τεχνολογία. «Τα συστήματα συστάσεων που βασίζονται στην αλληλεπίδραση, ιδιαίτερα τα υπερπροσωποποιημένα συστήματα, αποτελούν σοβαρή απειλή για τους πολίτες μας και την κοινωνία μας γενικότερα, καθώς δίνουν προτεραιότητα στο συναισθηματικό και ακραίο περιεχόμενο, στοχεύοντας συγκεκριμένα άτομα που ενδέχεται να προκληθούν», γράφουν.

«Ο ύπουλος κύκλος εκθέτει τους χρήστες σε εντυπωσιακό και επικίνδυνο περιεχόμενο, παρατείνοντας τη δέσμευσή τους στην πλατφόρμα για να μεγιστοποιήσουν τα έσοδα από διαφημίσεις.

Το

πείραμα της Amnesty στο TikTok αποκάλυψε ότι ο αλγόριθμος εξέθεσε έναν προσομοιωμένο 13χρονο σε βίντεο που εξυμνούσαν την αυτοκτονία μέσα σε μόλις μία ώρα». Επιπλέον, η εσωτερική έρευνα του

Meta

αποκάλυψε ότι ένα σημαντικό 64% των εξτρεμιστικών ομάδων προέρχονται από τα εργαλεία συστάσεών τους, επιδεινώνοντας τη διάδοση των εξτρεμιστικών ιδεολογιών».

Ακολουθεί η κλήση

σχέδιο οδηγιών για την ασφάλεια στο διαδίκτυο για πλατφόρμες κοινής χρήσης βίντεο

, που δημοσιεύθηκε νωρίτερα αυτό το μήνα από την επιτροπή μέσων ενημέρωσης της Ιρλανδίας (Coimisiún na Meán) — η οποία θα είναι υπεύθυνη για την επίβλεψη της DSA σε τοπικό επίπεδο μόλις ο κανονισμός καταστεί εκτελεστός στις υπηρεσίες εντός πεδίου τον ερχόμενο Φεβρουάριο. Η Coimisiún na Meán συμβουλεύεται επί του παρόντος τις οδηγίες που προτείνουν οι πλατφόρμες κοινής χρήσης βίντεο να λαμβάνουν «μέτρα για να διασφαλίσουν ότι οι αλγόριθμοι συστάσεων που βασίζονται στο προφίλ είναι απενεργοποιημένοι από προεπιλογή».

Η δημοσίευση της καθοδήγησης ακολούθησε ένα επεισόδιο του

Βίαιες αστικές αναταραχές στο Δουβλίνο

το οποίο η αστυνομική αρχή της χώρας πρότεινε ότι είχε μαστιγωθεί από παραπληροφόρηση που διαδόθηκε στα μέσα κοινωνικής δικτύωσης και στις εφαρμογές ανταλλαγής

μηνυμάτων

από ακροδεξιούς «χούλιγκαν». Και, νωρίτερα αυτή την εβδομάδα, το

Ιρλανδικό Συμβούλιο για τις Πολιτικές Ελευθερίες

(ICCL) — η οποία έχει εκστρατεύσει επί μακρόν για ζητήματα ψηφιακών δικαιωμάτων — κάλεσε επίσης την Επιτροπή να υποστηρίξει την πρόταση του Coimisiún na Meán, καθώς και να δημοσιεύσει

δική της έκθεση

υποστηρίζει ότι οι εξατομικευμένες ροές είναι απενεργοποιημένες από προεπιλογή, καθώς υποστηρίζει ότι οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης διαλύουν τις κοινωνίες.

Στην επιστολή τους, οι ευρωβουλευτές εκμεταλλεύονται επίσης την πρόταση της ιρλανδικής ρυθμιστικής αρχής μέσων ενημέρωσης — προτείνοντας ότι θα αντιμετωπίσει «αποτελεσματικά» ζητήματα που σχετίζονται με συστήματα συστάσεων που έχουν την τάση να προωθούν «συναισθηματικό και ακραίο περιεχόμενο» που ομοίως υποστηρίζουν ότι μπορεί να βλάψει την πολιτική συνοχή.

Η επιστολή αναφέρεται επίσης σε ένα πρόσφατα εγκριθέν

έκθεση του Ευρωπαϊκού Κοινοβουλίου

σχετικά με τον εθιστικό σχεδιασμό διαδικτυακών υπηρεσιών και την προστασία των καταναλωτών, οι οποίες λένε ότι «υπογράμμισαν τον καταστροφικό αντίκτυπο των συστημάτων συστάσεων στις διαδικτυακές υπηρεσίες που εμπλέκονται στη δημιουργία προφίλ ατόμων, ειδικά ανηλίκων, με σκοπό να κρατήσουν τους χρήστες στην πλατφόρμα όσο το δυνατόν περισσότερο, χειραγωγώντας τους έτσι μέσω την τεχνητή ενίσχυση του μίσους, της αυτοκτονίας, του αυτοτραυματισμού και της παραπληροφόρησης».

«Καλούμε την Ευρωπαϊκή Επιτροπή να ακολουθήσει το παράδειγμα της Ιρλανδίας και να αναλάβει αποφασιστική δράση όχι μόνο εγκρίνοντας αυτό το μέτρο στο πλαίσιο του TRIS [Technical Regulations Information System] διαδικασία αλλά και προτείνοντας αυτό το μέτρο ως μέτρο μετριασμού που πρέπει να λάβουν οι πολύ μεγάλες διαδικτυακές πλατφόρμες [VLOPs] σύμφωνα με το άρθρο 35 παράγραφος 1 στοιχείο γ) του νόμου για τις ψηφιακές υπηρεσίες για να διασφαλιστεί ότι οι πολίτες έχουν ουσιαστικό έλεγχο των δεδομένων και του διαδικτυακού τους περιβάλλοντος», γράφουν οι ευρωβουλευτές, προσθέτοντας: «Η προστασία των πολιτών μας, ιδιαίτερα της νεότερης γενιάς, είναι ύψιστη σημασία, και πιστεύουμε ότι η Ευρωπαϊκή Επιτροπή έχει να διαδραματίσει κρίσιμο ρόλο στη διασφάλιση ενός ασφαλούς ψηφιακού περιβάλλοντος για όλους. Ανυπομονούμε για την ταχεία και αποφασιστική σας δράση σε αυτό το θέμα».

Σύμφωνα με το TRIS, τα κράτη μέλη της ΕΕ υποχρεούνται να κοινοποιούν στην Επιτροπή σχέδια τεχνικών κανονισμών προτού εγκριθούν ως εθνικό δίκαιο, προκειμένου η ΕΕ να μπορέσει να προβεί σε νομική επανεξέταση για να διασφαλίσει ότι οι προτάσεις είναι συνεπείς με τους κανόνες του μπλοκ — στην περίπτωση αυτή το DSA .

Το σύστημα σημαίνει ότι οι εθνικοί νόμοι που επιδιώκουν να «χρυσοποιήσουν» τους κανονισμούς της ΕΕ είναι πιθανό να αποτύχουν στην αναθεώρηση. Επομένως, η πρόταση της ιρλανδικής επιτροπής μέσων ενημέρωσης για τα συστήματα συστάσεων των πλατφορμών βίντεο να είναι απενεργοποιημένα από προεπιλογή ενδέχεται να μην επιβιώσει της διαδικασίας TRIS, δεδομένου ότι φαίνεται να υπερβαίνει το γράμμα του σχετικού νόμου.

Τούτου λεχθέντος, ακόμη και αν η πρόταση της Coimisiún na Meán δεν περάσει από την αναθεώρηση νομικής συνέπειας της ΕΕ, η DSA θέτει μια απαίτηση σε μεγαλύτερες πλατφόρμες (γνωστή και ως VLOPS) να αξιολογούν και να μετριάζουν τους κινδύνους που προκύπτουν από συστήματα συστάσεων. Έτσι είναι τουλάχιστον

δυνατόν

Οι πλατφόρμες θα μπορούσαν να αποφασίσουν να απενεργοποιήσουν αυτά τα συστήματα από προεπιλογή ως μέτρο συμμόρφωσης για την εκπλήρωση των υποχρεώσεών τους για τον μετριασμό του συστημικού κινδύνου DSA.

Παρόλο που καμία δεν έχει προχωρήσει ακόμη τόσο μακριά – και, σαφώς, δεν είναι ένα βήμα που θα επέλεγε καμία από αυτές τις πλατφόρμες που χρηματοδοτούνται από διαφημίσεις και βασίζονται σε αφοσίωση ως εμπορική προεπιλογή.

Η Επιτροπή αρνήθηκε να σχολιάσει δημόσια την επιστολή των βουλευτών (ή την έκθεση του ICCL) όταν ρωτήσαμε. Αντίθετα, ένας εκπρόσωπος επεσήμανε αυτό που περιέγραψε ως «σαφείς» υποχρεώσεις για τα συστήματα συστάσεων των VLOP που ορίζονται στο άρθρο 38 του DSA — το οποίο απαιτεί οι πλατφόρμες να παρέχουν τουλάχιστον μία επιλογή για καθένα από αυτά τα συστήματα που δεν βασίζεται σε προφίλ. Μπορέσαμε όμως να συζητήσουμε τη συζήτηση για τη δημιουργία προφίλ με έναν αξιωματούχο της ΕΕ που μιλούσε στο παρελθόν, προκειμένου να μιλήσουμε πιο ελεύθερα.

Συμφώνησαν ότι οι πλατφόρμες θα μπορούσαν να επιλέξουν να απενεργοποιήσουν από προεπιλογή τα συστήματα συστάσεων που βασίζονται σε προφίλ ως μέρος της συμμόρφωσής τους με το DSA για τον μετριασμό του συστημικού κινδύνου, αλλά επιβεβαίωσαν ότι καμία δεν έχει προχωρήσει ακόμη τόσο μακριά από το δικό της ρόπαλο.

Μέχρι στιγμής έχουμε δει μόνο περιπτώσεις όπου ροές χωρίς προφίλ έχουν γίνει διαθέσιμες στους χρήστες ως επιλογή — όπως από το TikTok και το Instagram — προκειμένου να εκπληρωθεί η προαναφερθείσα απαίτηση DSA (άρθρο 38) για παροχή στους χρήστες τη δυνατότητα να αποφύγουν αυτού του είδους η εξατομίκευση περιεχομένου. Ωστόσο, αυτό απαιτεί ενεργή εξαίρεση από τους χρήστες — ενώ η προεπιλογή ροών για μη δημιουργία προφίλ θα ήταν, σαφώς, ένας ισχυρότερος τύπος ρύθμισης περιεχομένου, καθώς δεν θα απαιτούσε δράση από τον χρήστη για να τεθεί σε ισχύ.

Ο αξιωματούχος της ΕΕ με τον οποίο μιλήσαμε επιβεβαίωσε ότι η Επιτροπή εξετάζει συστήματα συστάσεων με την ιδιότητά της ως επιβολής του DSA για τα VLOP — μεταξύ άλλων μέσω της επίσημης διαδικασίας που ξεκίνησε στις X νωρίτερα αυτή την εβδομάδα. Τα συστήματα συστάσεων έχουν επίσης επικεντρωθεί σε ορισμένα από τα επίσημα αιτήματα για πληροφορίες που έχει στείλει η Επιτροπή VLOP, συμπεριλαμβανομένου ενός στο Instagram που επικεντρώνεται στους κινδύνους για την ασφάλεια των παιδιών, μας είπαν. Και συμφώνησαν ότι η ΕΕ θα μπορούσε να αναγκάσει τις μεγαλύτερες πλατφόρμες να απενεργοποιήσουν τις εξατομικευμένες ροές από προεπιλογή στο ρόλο της ως επιβολής, δηλαδή χρησιμοποιώντας τις εξουσίες που έχει για την τήρηση του νόμου.

Ωστόσο, πρότειναν ότι η Επιτροπή θα έκανε ένα τέτοιο βήμα μόνο εάν κρίνει ότι θα ήταν αποτελεσματικό για τον μετριασμό συγκεκριμένων κινδύνων. Ο αξιωματούχος επεσήμανε ότι υπάρχουν πολλοί τύποι ροών περιεχομένου που βασίζονται σε προφίλ στο παιχνίδι, ακόμη και ανά πλατφόρμα, και τόνισε την ανάγκη να ληφθεί υπόψη ο καθένας στο πλαίσιο. Γενικότερα έκαναν έκκληση για «απόχρωση» στη συζήτηση γύρω από τους κινδύνους των συστημάτων συστάσεων.

Η προσέγγιση της Επιτροπής εδώ θα είναι να αναλαμβάνει κατά περίπτωση αξιολογήσεις ανησυχιών, πρότειναν — μιλώντας για παρεμβάσεις πολιτικής βάσει δεδομένων για τα VLOP, αντί για γενικά μέτρα. Σε τελική ανάλυση, πρόκειται για ένα συμπλέκτη πλατφορμών που είναι αρκετά διαφορετικές ώστε να καλύπτουν την κοινή χρήση βίντεο και τους γίγαντες των μέσων κοινωνικής δικτύωσης, αλλά και τις υπηρεσίες λιανικής και πληροφόρησης — και (πιο πρόσφατα) ιστότοπους πορνό. Ο κίνδυνος να μην επιλεχθούν οι εκτελεστικές αποφάσεις λόγω νομικών προκλήσεων, εάν δεν υπάρχουν αξιόπιστα αποδεικτικά στοιχεία για την υποστήριξή τους, αποτελεί ξεκάθαρα ανησυχία της Επιτροπής.

Ο αξιωματούχος υποστήριξε επίσης ότι υπάρχει ανάγκη συγκέντρωσης περισσότερων δεδομένων για την κατανόηση ακόμη και βασικών πτυχών που σχετίζονται με τη συζήτηση για τα συστήματα συστάσεων – όπως εάν η απενεργοποίηση της εξατομίκευσης θα ήταν αποτελεσματική ως μέτρο μετριασμού του κινδύνου. Οι πτυχές της συμπεριφοράς χρειάζονται επίσης περισσότερη μελέτη, πρότειναν.

Ιδιαίτερα τα παιδιά μπορεί να έχουν μεγάλο κίνητρο να παρακάμψουν έναν τέτοιο περιορισμό απλώς αντιστρέφοντας τη ρύθμιση, υποστήριξαν, όπως τα παιδιά έχουν αποδείξει ότι μπορούν να το κάνουν όταν πρόκειται να ξεφύγουν από τον γονικό έλεγχο — ισχυριζόμενοι ότι δεν είναι σαφές ότι η απενεργοποίηση των προεπιλεγμένων συστημάτων συστάσεων που βασίζονται σε προφίλ είναι πραγματικά αποτελεσματικό ως μέτρο προστασίας των παιδιών.

Συνολικά, το μήνυμα από την πηγή μας στην ΕΕ ήταν μια έκκληση να δοθεί χρόνος στον κανονισμό —και στην Επιτροπή— να δουλέψουν. Το DSA τέθηκε σε ισχύ μόλις στο πρώτο σετ VLOP προς τα τέλη Αυγούστου. Ενώ, μόλις αυτήν την εβδομάδα, είδαμε την πρώτη επίσημη έρευνα να άνοιξε (στο X), η οποία περιλαμβάνει ένα στοιχείο συστήματος συστάσεων (που σχετίζεται με ανησυχίες σχετικά με το σύστημα εποπτείας περιεχομένου Crowdsourced του X, γνωστό ως

Σημειώσεις Κοινότητας

).

Είδαμε επίσης αναταραχή επίσημων αιτημάτων για πληροφορίες σε πλατφόρμες τις τελευταίες εβδομάδες, αφού υπέβαλαν την πρώτη τους σειρά εκθέσεων αξιολόγησης κινδύνου — γεγονός που δείχνει ότι η Επιτροπή δεν είναι ικανοποιημένη με το επίπεδο λεπτομέρειας που παρέχεται μέχρι στιγμής. Αυτό συνεπάγεται ότι θα μπορούσε να ακολουθήσει σύντομα πιο αποφασιστική δράση καθώς η ΕΕ εγκαθίσταται στο νέο της ρόλο του περιφερειακού σερίφη του Διαδικτύου. Έτσι — κατώτατο όριο — το 2024 διαμορφώνεται ως ένα σημαντικό έτος για την πολιτική απάντηση του μπλοκ να υποτιμήσει τη μεγάλη τεχνολογία. Και για να αξιολογηθεί εάν η επιβολή της ΕΕ θα προσφέρει τα αποτελέσματα ή όχι για τα οποία διψούν οι αγωνιστές για τα ψηφιακά δικαιώματα.

“Αυτά είναι ζητήματα για τα οποία αμφισβητούμε τις πλατφόρμες βάσει των νομικών μας εξουσιών – αλλά ο αλγόριθμος του Instagram είναι διαφορετικός από τον X, είναι διαφορετικός από του TikTok – θα πρέπει να είμαστε αποχρώσεις σε αυτό”, μας είπε ο αξιωματούχος, προτείνοντας ότι η προσέγγιση της Επιτροπής θα αλλάξει. δημιουργήστε ένα συνονθύλευμα παρεμβάσεων, το οποίο μπορεί να περιλαμβάνει την επιβολή διαφορετικών προεπιλογών για VLOP, ανάλογα με τα πλαίσια και τους κινδύνους σε διαφορετικές ροές. «Θα προτιμούσαμε να ακολουθήσουμε μια προσέγγιση που λαμβάνει πραγματικά υπόψη τις ιδιαιτερότητες των πλατφορμών κάθε φορά».

«Ξεκινάμε τώρα αυτή τη δράση επιβολής. Και αυτός είναι στην πραγματικότητα ένας ακόμη λόγος για να μην αραιώσουμε την ενέργειά μας σε ανταγωνιστικά νομικά πλαίσια ή κάτι τέτοιο», πρόσθεσαν, κάνοντας έκκληση στους υποστηρικτές των ψηφιακών δικαιωμάτων να συμμετάσχουν στο πρόγραμμα της Επιτροπής. «Θα προτιμούσα να εργαστούμε στο πλαίσιο του DSA — το οποίο μπορεί να αντιμετωπίσει τα ζητήματα που [the MEPs’ letter and ICCL report] αυξάνει τα συστήματα συστάσεων και ενισχύει το παράνομο περιεχόμενο».