Ξέρετε ποιος δημοσιεύει φωτογραφίες του παιδιού σας στα social media;

Πρόσφατα, μια ομάδα έφηβων κοριτσιών έκανε τη συγκλονιστική ανακάλυψη ότι αγόρια στο γυμνάσιο του Νιου Τζέρσεϋ είχαν συγκεντρώσει εικόνες που είχαν δημοσιεύσει στα μέσα κοινωνικής δικτύωσης και στη συνέχεια χρησιμοποίησαν αυτές τις φωτογραφίες για να δημιουργήσουν ψεύτικα γυμνά.

Τα αγόρια, που μοιράστηκαν τα γυμνά σε μια ομαδική συνομιλία, φέρεται να το έκαναν με τη βοήθεια ενός ψηφιακού εργαλείου που τροφοδοτείται από τεχνητή νοημοσύνη.

σύμφωνα με την

Wall Street Journal


.

Το

περιστατικό αποτελεί τρομακτική παραβίαση της ιδιωτικής ζωής. Αλλά δείχνει επίσης πόσο γρήγορα η τεχνητή νοημοσύνη αναδιαμορφώνει θεμελιωδώς τις προσδοκίες σχετικά με το τι μπορεί να συμβεί στις διαδικτυακές εικόνες κάποιου. Αυτό που σημαίνει αυτό για τα παιδιά και τους εφήβους είναι ιδιαίτερα απογοητευτικό.

ΕΝΑ

πρόσφατη έκθεση που δημοσιεύτηκε από το Internet Watch Foundation

διαπίστωσε ότι η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο για τη δημιουργία ρεαλιστικού υλικού σεξουαλικής κακοποίησης παιδιών. Μερικές από αυτές τις εικόνες δημιουργούνται από την αρχή, με τη βοήθεια λογισμικού που υποστηρίζεται από AI. Όμως, ένα μέρος αυτού του υλικού δημιουργείται με εικόνες παιδιών που είναι διαθέσιμες στο κοινό, οι οποίες έχουν αφαιρεθεί από το Διαδίκτυο και χειραγωγούνται με χρήση τεχνητής νοημοσύνης.

Οι γονείς που έχουν δει πρωτοσέλιδα σχετικά με αυτές τις εξελίξεις μπορεί να έχουν αρχίσει να σκέφτονται δύο φορές να μοιράζονται ελεύθερα την εικόνα του παιδιού τους στα μέσα κοινωνικής δικτύωσης και ίσως να έχουν αποθαρρύνει τα παιδιά και τους εφήβους να δημοσιεύουν πλήρως δημόσιες φωτογραφίες τους.

Αλλά υπάρχει μικρή συζήτηση για το πώς τρίτα μέρη που ασχολούνται τακτικά με και εξυπηρετούν παιδιά και εφήβους, όπως καλοκαιρινές κατασκηνώσεις, ενώσεις γονέων και δασκάλων και αθλητικές ομάδες, χρησιμοποιούν τακτικά τις εικόνες αυτών των παιδιών για το διαδικτυακό μάρκετινγκ και τα μέσα κοινωνικής δικτύωσης. Μπορούν να ζητήσουν, ή ακόμη και να υποδείξουν ότι απαιτούν, την άδεια των γονέων για αυτόν τον σκοπό σε νομικές παραιτήσεις. Ωστόσο, ορισμένα τρίτα μέρη ενδέχεται να μην ζητήσουν καθόλου άδεια, ιδιαίτερα εάν τα παιδιά βρίσκονται σε δημόσιο χώρο, όπως ένα σχολείο ή ένα αθλητικό γεγονός.

Ο κίνδυνος να αφαιρεθεί η εικόνα ενός παιδιού από τον λογαριασμό Instagram PTA ενός σχολείου, για παράδειγμα, και να χρησιμοποιηθεί για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών είναι πιθανότατα πολύ χαμηλός, αλλά επίσης

δεν είναι

πλέον μηδενικός.

Πώς να προστατεύσετε την εικόνα του παιδιού σας στο διαδίκτυο

Ο John Pizzuro, πρώην διοικητής της Task Force του New Jersey Internet Crimes Against Children, είπε στο Mashable ότι οι φωτογραφίες παιδιών που ήταν διαθέσιμες στο διαδίκτυο μόλις πριν από λίγα χρόνια ήταν δύσκολο να χειριστούν με το

λογισμικό

που υπήρχε εκείνη την εποχή.

Τώρα, ένας κακός ηθοποιός μπορεί να κόψει απρόσκοπτα ψηφιακά το φόντο μιας εικόνας με ένα παιδί και στη συνέχεια να τοποθετήσει τους νέους σε άλλο φόντο με ευκολία, σύμφωνα με τον Pizzuro, Διευθύνοντα Σύμβουλο της Raven, μιας ομάδας υπεράσπισης και πίεσης που επικεντρώνεται στην καταπολέμηση της παιδικής εκμετάλλευσης.

Ο Pizzuro είπε ότι κάθε οργανισμός που τραβάει φωτογραφίες παιδιών και τις δημοσιεύει στο Διαδίκτυο «φέρει κάποιου είδους ευθύνη» και θα πρέπει να εφαρμόζει πολιτικές για την αντιμετώπιση της απειλής υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργείται από AI.

“Όσες περισσότερες εικόνες υπάρχουν έξω, τόσο περισσότερο μπορείτε να χρησιμοποιήσετε προγράμματα για να αλλάξετε τα πράγματα· αυτός είναι ο κίνδυνος”, είπε ο Pizzuro, αναφέροντας πώς ένα εργαλείο δημιουργίας εικόνας AI μπορεί να βελτιώνεται με κάθε μοναδική εικόνα που προσλαμβάνει.

Ένας απλός τρόπος για τους γονείς να εξαλείψουν την πιθανότητα η εικόνα του παιδιού τους να καταλήξει σε λάθος χέρια είναι να αρνηθούν όταν τρίτα μέρη ζητούν άδεια να φωτογραφίσουν και να δημοσιεύσουν φωτογραφίες για μάρκετινγκ ή άλλους σκοπούς. Η άδεια περιλαμβάνεται συχνά στα έγγραφα εγγραφής όταν οι γονείς υπογράφουν τα παιδιά τους για κατασκήνωση, αθλήματα και εξωσχολικές δραστηριότητες.

Τα σχολεία συνήθως περιλαμβάνουν το έντυπο στα ετήσια έγγραφα εγγραφής. Αν και μπορεί να είναι δύσκολο να βρεθεί στα ψιλά γράμματα, οι γονείς θα πρέπει να αφιερώσουν χρόνο για να επανεξετάσουν την παραίτηση και να λάβουν μια σκόπιμη απόφαση να παραχωρήσουν τα δικαιώματα των φωτογραφιών των παιδιών τους.

Εάν οι γονείς δεν μπορούν να εντοπίσουν αυτήν τη γλώσσα, μπορούν επίσης να ρωτήσουν την οντότητα σχετικά με τις πολιτικές και τις πρακτικές κοινής χρήσης εικόνων και να ξεκαθαρίσουν ότι δεν έχουν δώσει άδεια για τη δημοσίευση της εικόνας του παιδιού τους στο διαδίκτυο ή αλλού. Εάν ένας γονέας έχει ήδη δώσει τη συγκατάθεση του τρίτου μέρους, μπορεί να ζητήσει την ανάκληση άδειας.

Ο Pizzuro είπε ότι εάν ένας γονέας ανακαλύψει μια φωτογραφία του παιδιού του στο Instagram που δημοσιεύτηκε χωρίς συγκατάθεση, μπορεί

υποβάλετε αίτημα κατάργησης

. Το ίδιο ισχύει και για

Facebook

. Το Twitter δεν επιτρέπει στους χρήστες να δημοσιεύουν εικόνες ιδιωτών χωρίς τη συγκατάθεσή τους και των γονιών τους

μπορεί να αναφέρει αυτά τα αδικήματα

. Οι γονείς μπορούν επίσης

αναφέρετε παραβιάσεις απορρήτου

εμπλέκοντας τα παιδιά τους στο TikTok.

Ποιος μπορεί να βγάζει και να μοιράζεται φωτογραφίες του παιδιού σας;

Το Mashable ζήτησε σχόλια από μερικούς από τους κορυφαίους οργανισμούς που ασχολούνται με παιδιά στις ΗΠΑ — National PTA, Girl Scouts of the USA, Boy Scouts of America, American Camp Association, National Alliance for Youth Sports — σχετικά με την προσέγγισή τους στην τεχνητή νοημοσύνη και τις ψηφιακές εικόνες των παιδιών . Λάβαμε διάφορες απαντήσεις.

Ένας εκπρόσωπος των Girl Scouts είπε στο Mashable σε ένα

email

ότι ο οργανισμός συγκάλεσε μια «πολυλειτουργική ομάδα» νωρίτερα φέτος, αποτελούμενη από εσωτερικούς νομικούς, τεχνολογικούς και ειδικούς του προγράμματος για να εξετάσουν και να παρακολουθήσουν τις εξελίξεις της τεχνητής νοημοσύνης ενώ ενθαρρύνουν την υπεύθυνη χρήση αυτών των τεχνολογιών.

Προς το παρόν, οποιαδήποτε εμφάνιση σε βίντεο ή φωτογραφία που σχετίζεται με το Girl Scout απαιτεί άδεια από τον γονέα ή τον κηδεμόνα κάθε κοριτσιού για κάθε μέλος που απεικονίζεται.

«Δεσμευόμαστε να παραμείνουμε στην πρώτη γραμμή αυτών των εξελίξεων για να διασφαλίσουμε την προστασία των μελών μας», έγραψε ο εκπρόσωπος.

Ένας εκπρόσωπος των Προσκόπων της Αμερικής μοιράστηκε τα στοιχεία της οργάνωσης

οδηγίες κοινωνικής δικτύωσης

, το οποίο σημειώνει ότι τα βίντεο και οι εικόνες των Προσκόπων σε πλατφόρμες μέσων κοινωνικής δικτύωσης θα πρέπει να προστατεύουν το απόρρητο των μεμονωμένων Προσκόπων. Σε τοπικό και εθνικό επίπεδο, η BSA πρέπει να έχει γονική άδεια πριν δημοσιεύσει φωτογραφίες παιδιών στα μέσα κοινωνικής δικτύωσης και οι γονείς μπορούν να εξαιρεθούν ανά πάσα στιγμή. Γενικά, η πολιτική της BSA εστιάζει στην ταυτοποίηση ενός παιδιού όσο το δυνατόν πιο αόριστα στις αναρτήσεις στα μέσα κοινωνικής δικτύωσης, όπως η χρήση των αρχικών αντί για το πλήρες όνομά του.

Εάν η λύση στο πρόβλημα των εικόνων που κοινοποιούνται δημόσια μπορεί να φαίνεται ότι είναι κλειστοί λογαριασμοί μέσων κοινωνικής δικτύωσης που ακολουθούνται μόνο από εκείνους που έχουν την άδεια να το κάνουν, οι οδηγίες της BSA δείχνουν γιατί αυτή η προσέγγιση είναι πιο περίπλοκη από ό,τι φαίνεται.

Απαγορεύουν τα ιδιωτικά κανάλια μέσων κοινωνικής δικτύωσης, έτσι ώστε οι διαχειριστές να μπορούν να παρακολουθούν την επικοινωνία μεταξύ Προσκόπων και ενηλίκων ηγετών, καθώς και άλλων Προσκόπων, για να διασφαλίσουν ότι δεν υπάρχουν ακατάλληλες ανταλλαγές. Η διαφάνεια έχει σαφή πλεονεκτήματα, αλλά η πολιτική είναι ένα παράδειγμα του πόσο δύσκολο είναι να εξισορροπηθεί το απόρρητο και οι ανησυχίες για την ασφάλεια.

Η Heidi May Wilson, ανώτερη διευθύντρια σχέσεων μέσων για το National PTA, δήλωσε σε ένα email ότι ο μη κερδοσκοπικός οργανισμός παρέχει καθοδήγηση στους τοπικούς PTA σχετικά με την υπογραφή των γονέων των εντύπων ενημέρωσης και συγκατάθεσης, διασφαλίζοντας ότι οι γονείς έχουν δώσει την άδεια να δημοσιεύουν φωτογραφίες των παιδιών τους και λέγοντας στις οικογένειες σε εκδηλώσεις να μην τραβούν ή δημοσιεύουν φωτογραφίες άλλων παιδιών εκτός από τις δικές τους. Είπε ότι το National PTA παρακολουθεί την πρόοδο της AI.

Η American Camp Association δεν απάντησε συγκεκριμένα σε πολλά αιτήματα ηλεκτρονικού ταχυδρομείου για σχόλια σχετικά με τις οδηγίες και τις βέλτιστες πρακτικές της. Ένας εκπρόσωπος του National Alliance for Youth Sports Association δεν απάντησε σε αιτήματα ηλεκτρονικού ταχυδρομείου για σχολιασμό.

Το μέλλον των παιδικών εικόνων στο διαδίκτυο

Η βαρόνη Beeban Kidron, ιδρύτρια και πρόεδρος της

5 Ίδρυμα Δικαιωμάτων

μια μη κερδοσκοπική εταιρεία που εδρεύει στο Λονδίνο και εργάζεται για τα δικαιώματα των παιδιών στο Διαδίκτυο, είπε ότι οι γονείς θα πρέπει να θεωρούν περιεχόμενο σεξουαλικής κακοποίησης παιδιών που χειραγωγείται ή δημιουργείται από τεχνητή νοημοσύνη ως τρέχον πρόβλημα, όχι μια υπαρξιακή απειλή που μπορεί να συμβεί στο μέλλον.

Η Kidron συνεργάζεται με μια κρυφή ομάδα επιβολής που ερευνά υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργείται από τεχνητή νοημοσύνη και σημείωσε, με αγωνία, πόσο γρήγορα η τεχνολογία AI είχε προχωρήσει ακόμη και σε λίγες εβδομάδες, με βάση εικόνες σεξουαλικής κακοποίησης παιδιών χρησιμοποιώντας τέτοιο λογισμικό που είχε δει αυτό το καλοκαίρι και το φθινόπωρο.

«Κάθε φορά, ήταν πιο ρεαλιστές, πιο πολλοί», είπε ο Kidron, ο οποίος είναι επίσης α

μέλος της Βουλής των Λόρδων του Ηνωμένου Βασιλείου

και έχει παίξει σημαντικό ρόλο στη διαμόρφωση της νομοθεσίας για το απόρρητο και την ασφάλεια των παιδιών στο διαδίκτυο στο Ηνωμένο Βασίλειο και παγκοσμίως.

Η Kidron είπε ότι υπήρξε πλήρης αποτυχία να ληφθεί υπόψη η ασφάλεια των παιδιών “καθώς οι εταιρείες δημιουργούν όλο και πιο ισχυρό AI χωρίς προστατευτικά κιγκλιδώματα”.

Στις ΗΠΑ, για παράδειγμα, κανένας από τους υπάρχοντες ποινικούς νόμους δεν καθιστά παράνομη ή τιμωρούμενη τη δημιουργία πλαστού υλικού σεξουαλικής κακοποίησης παιδιών, σύμφωνα με τον Pizzuro. Αν και είναι παράνομη η διανομή υλικού σεξουαλικής κακοποίησης παιδιών, ο νόμος ομοίως δεν ισχύει ειδικά για εικόνες που δημιουργούνται από AI. Ο Raven πιέζει τα μέλη του Κογκρέσου να κλείσουν αυτά τα κενά.

Ο Pizzuro είπε επίσης ότι η διαθεσιμότητα των εικόνων των παιδιών στο διαδίκτυο βοηθά τους θηρευτές ακόμη και όταν δεν δημιουργούν περιεχόμενο σεξουαλικής κακοποίησης μαζί τους. Αντίθετα, οι κακοί ηθοποιοί και τα αρπακτικά μπορούν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να «μάθουν από μηχανής ένα παιδί».

Ο Pizzuro περιέγραψε αυτή τη διαδικασία ως χρήση τεχνητής νοημοσύνης για τη δημιουργία πειστικών αλλά ψεύτικων λογαριασμών στα μέσα κοινωνικής δικτύωσης για παιδιά που υπάρχουν στην πραγματικότητα, με την εικόνα τους καθώς και λεπτομέρειες σχετικά με τα προσωπικά τους στοιχεία και τα ενδιαφέροντά τους που προέκυψαν γρήγορα από το διαδίκτυο. Αυτοί οι λογαριασμοί μπορούν στη συνέχεια να χρησιμοποιηθούν προσωπικά από ένα αρπακτικό για να καλλωπίσει άλλα παιδιά για διαδικτυακή σεξουαλική κακοποίηση ή δελεασμό.

«Τώρα με τη γενετική τεχνητή νοημοσύνη, [a predator] μπορεί να περιποιηθεί τους ανθρώπους σε κλίμακα», είπε ο Pizzuro. Προηγουμένως, ένα αρπακτικό θα έπρεπε να συλλέξει και να μελετήσει προσεκτικά τις πληροφορίες που είναι διαθέσιμες στο διαδίκτυο για ένα παιδί πριν δημιουργήσει έναν ψεύτικο λογαριασμό.

Ξεχωριστά, ο Kidron επεσήμανε ζοφερά ότι μερικοί άνθρωποι που δημιουργούν υλικό σεξουαλικής κακοποίησης παιδιών χρησιμοποιώντας τεχνητή νοημοσύνη μπορεί να είναι γνωστοί σε μια οικογένεια. Ένας γείτονας, ένας φίλος ή ένας συγγενής, για παράδειγμα, μπορεί να αφαιρέσει μια εικόνα ενός παιδιού από τα μέσα κοινωνικής δικτύωσης ή από έναν ιστότοπο του σχολείου και να έχει περιεχόμενο σεξουαλικής κακοποίησης παιδιών “κατόπιν παραγγελίας”.

Η Kidron είπε ότι ενώ οι εταιρείες τεχνολογίας ισχυρίζονται ότι δεν ξέρουν πώς να αντιμετωπίσουν ή να λύσουν το πρόβλημα της τεχνητής νοημοσύνης και της ιδιωτικής ζωής των παιδιών, έχουν επενδύσει σημαντικά στον εντοπισμό περιεχομένου που παραβιάζει τα δικαιώματα πνευματικής ιδιοκτησίας άλλων εταιρειών (σκεφτείτε τραγούδια και κλιπ ταινιών που δημοσιεύονται χωρίς άδεια) .

Ελλείψει σαφούς νομικής απάντησης στις απειλές που θέτει η τεχνητή νοημοσύνη για την ασφάλεια των παιδιών, ο Kidron είπε ότι οι γονείς θα μπορούσαν να ασκήσουν πίεση στις εταιρείες μέσων κοινωνικής δικτύωσης αρνούμενοι να δημοσιεύσουν οποιεσδήποτε εικόνες των παιδιών τους στο διαδίκτυο, είτε σε ιδιωτικό είτε σε δημόσιο περιβάλλον, ή ακόμα και μποϊκοτάροντας οι τοποθεσίες συνολικά. Πρότεινε ότι τέτοιες διαμαρτυρίες μπορεί να ενθαρρύνουν τη βιομηχανία της τεχνολογίας να επανεξετάσει τη συγκρατημένη προσέγγισή της για την αύξηση της νομοθεσίας.

Η Kidron κατανοεί γιατί οι γονείς μπορεί να κάνουν ιδιωτικούς τους λογαριασμούς τους στα μέσα κοινωνικής δικτύωσης ή ακόμη και να βάλουν καρδιές ή emoji στα πρόσωπα των παιδιών τους σε μια προσπάθεια να προστατεύσουν το απόρρητό τους, αλλά είπε ότι θα προτιμούσε να δει μεγαλύτερη επένδυση σε τεχνολογίες που εμποδίζουν το ξύσιμο εικόνων χωρίς άδεια, μεταξύ άλλων θεσμικών οργάνων και εταιρικές λύσεις.

Η Kidron δεν θέλει να δει μια δυστοπική πραγματικότητα, στην οποία η τεχνητή νοημοσύνη γίνεται ένα εύκολα προσβάσιμο εργαλείο για αρπακτικά και καμία φωτογραφία παιδιού δεν είναι ασφαλής στο διαδίκτυο.

“Τι θλιβερός κόσμος αν δεν μας επιτρέπεται να μοιραστούμε ποτέ ξανά μια φωτογραφία ενός παιδιού”, είπε ο Kidron.

Θέματα