Το iPhone και το Android χρειάζονται αυτήν την εφεύρεση φωτογραφιών που προστατεύει από απομιμήσεις τεχνητής νοημοσύνης

Το

ChatGPT

έκανε την παραγωγική τεχνητή νοημοσύνη mainstream, με πολλά παρόμοια προϊόντα να έχουν κυκλοφορήσει από τότε που το OpenAI κυκλοφόρησε το προϊόν του στα τέλη του περασμένου έτους. Το Generative AI δεν είναι μόνο η συνομιλία με την τεχνητή νοημοσύνη για να λάβετε απαντήσεις σε σύνθετες ερωτήσεις με λίγες μόνο γραμμές διαλόγου. Το AI μπορεί επίσης να δημιουργήσει απίστευτες εικόνες που φαίνονται πολύ καλές για να είναι αληθινές. Μπορεί ακόμη και να φαίνονται τόσο αληθινά που αμφισβητούμε όλα όσα βλέπουμε στο διαδίκτυο, καθώς τα βαθιά ψεύτικα θα βελτιωθούν.

Τώρα που μπορούμε να δημιουργήσουμε απίστευτες εικόνες με τεχνητή νοημοσύνη, χρειαζόμαστε επίσης προστασίες ενσωματωμένες στις φωτογραφίες που δυσκολεύουν κάποιον να τις χρησιμοποιήσει για τη δημιουργία πλαστών. Η πρώτη τέτοια καινοτομία είναι εδώ — μια λύση λογισμικού από το MIT που ονομάζεται PhotoGuard. Η δυνατότητα μπορεί να σταματήσει την τεχνητή νοημοσύνη από το να επεξεργάζεται τις φωτογραφίες σας με αξιόπιστο τρόπο και νομίζω ότι τέτοιες λειτουργίες θα πρέπει να είναι στάνταρ σε

iPhone

και Android.

Ερευνητές από το MIT CSAIL αναλύουν την καινοτομία τους σε α

έρευνα

χαρτί (

μέσω

Engadget


).

Το PhotoGuard αλλάζει ορισμένα pixel σε μια εικόνα, καθιστώντας αδύνατο να τα δει το AI. Η δυνατότητα δεν θα αλλάξει τη φωτογραφία οπτικά, τουλάχιστον για τους ανθρώπους. Αλλά το AI μπορεί να μην είναι σε θέση να καταλάβει τι κοιτάζει.

Όταν επιφορτιστεί με τη δημιουργία πλαστών χρησιμοποιώντας στοιχεία από αυτές τις προστατευμένες εικόνες, το AI δεν θα μπορεί να διαβάσει τις διαταραχές των εικονοστοιχείων. Με τη σειρά τους, τα ψεύτικα που δημιουργούνται από την τεχνητή νοημοσύνη θα έχουν προφανείς ενότητες που ενημερώνουν τους θεατές ότι η εικόνα έχει αλλοιωθεί.

Το παρακάτω βίντεο προσφέρει παραδείγματα χρήσης διασημοτήτων για τη δημιουργία πλαστών τεχνητής νοημοσύνης. Με τις προστασίες pixel στη θέση τους, οι εικόνες που προκύπτουν δεν είναι τέλειες. Θα έλεγαν σε όποιον κοιτούσε τις φωτογραφίες ότι οι εικόνες δεν είναι αληθινές.

Οι ερευνητές κατέληξαν σε δύο μεθόδους προστασίας που μπορούν να ανατρέψουν τις προσπάθειες της τεχνητής νοημοσύνης. Η μέθοδος «κωδικοποιητής» καθιστά αδύνατο για το AI να κατανοήσει μέρη της εικόνας. Η μέθοδος «διάχυσης» καμουφλάρει μέρη μιας εικόνας ως διαφορετική εικόνα για το AI. Και στις δύο περιπτώσεις, η τεχνητή νοημοσύνη δεν θα μπορεί να παράγει ένα απρόσκοπτο ψεύτικο.

«Η επίθεση του κωδικοποιητή κάνει το μοντέλο να πιστεύει ότι η εικόνα εισόδου (προς επεξεργασία) είναι κάποια άλλη εικόνα (π.χ. μια γκρίζα εικόνα)», είπε ο φοιτητής διδακτορικού του MIT και επικεφαλής συγγραφέας της εργασίας, Χάντι Σαλμάν.

Engadget

. “Ενώ η επίθεση διάχυσης αναγκάζει το μοντέλο διάχυσης να κάνει αλλαγές προς κάποια εικόνα στόχου (η οποία μπορεί επίσης να είναι κάποια γκρίζα ή τυχαία εικόνα).”

Αυτού του είδους οι προστασίες δεν είναι τέλειες. Η λήψη ενός στιγμιότυπου οθόνης της εικόνας μπορεί να εξαλείψει τις αόρατες διαταραχές. Ωστόσο, αυτό είναι το είδος της δυνατότητας που η

Apple

και η

Google

θα πρέπει να εξετάσουν το ενδεχόμενο να προσθέσουν στις εφαρμογές φωτογραφικής μηχανής στο iPhone και στο Android, αντίστοιχα.

Τόσο το iPhone όσο και το Android σάς επιτρέπουν να επεξεργάζεστε φωτογραφίες αφού τις τραβήξετε για να δημιουργήσετε το επιθυμητό εφέ. Πρόσφατα, επέκρινα το Google Photos για τη χρήση της τεχνητής νοημοσύνης για να σας αφήσει ουσιαστικά να τραβήξετε ψεύτικες εικόνες.

Είναι ένα πράγμα να επεξεργάζεστε τις δικές σας φωτογραφίες για να φαίνονται καλύτερα. Και κάτι άλλο να κλέψει κάποιος το πρόσωπό σας από δημοσίως διαθέσιμες φωτογραφίες για κακόβουλες προσπάθειες που αφορούν την τεχνητή νοημοσύνη.

Για παράδειγμα, οι μελλοντικές εμπειρίες εφαρμογών κάμερας/φωτογραφιών μπορεί να περιλαμβάνουν λειτουργίες κατά της τεχνητής νοημοσύνης που ίσως θέλετε να χρησιμοποιήσετε σε οτιδήποτε δημοσιεύετε στα μέσα κοινωνικής δικτύωσης.

Αυτό δεν σημαίνει ότι το iPhone ή το Android θα χρησιμοποιήσουν ποτέ τη συγκεκριμένη εφεύρεση PhotoGuard από το MIT. Αλλά αυτή η καινοτομία υπογραμμίζει τη σημασία της ανάπτυξης αντιπαραγωγικών εργαλείων τεχνητής νοημοσύνης όσο το δυνατόν γρηγορότερα σε έναν κόσμο όπου το λογισμικό μπορεί να χειριστεί φωτογραφίες, βίντεο και φωνή και να προσφέρει πιστευτές απομιμήσεις μέσα σε λίγα λεπτά. Η Apple και η Google πρέπει να εξετάσουν παρόμοια μέτρα προστασίας.

Εν τω μεταξύ, μπορείτε να δοκιμάσετε μόνοι σας το PhotoGuard

σε αυτόν τον σύνδεσμο

.