Όταν ένα Εικόνα έκρηξης που έλαβε χώρα έξω από το Πεντάγωνο που δημιουργήθηκε από AI που πολλαπλασιάστηκε στα μέσα κοινωνικής δικτύωσης νωρίτερα αυτή την εβδομάδα, παρείχε μια σύντομη προεπισκόπηση μιας καταστροφής ψηφιακών πληροφοριών για την οποία οι ερευνητές της τεχνητής νοημοσύνης προειδοποιούσαν εδώ και χρόνια. Η εικόνα ήταν ξεκάθαρα κατασκευασμένη, αλλά αυτό δεν εμπόδισε πολλούς εξέχοντες λογαριασμούς, όπως το ρωσικό κρατικό RT και τον μιμητή ειδήσεων του Bloomberg, @BloombergFeed, να τρέχουν μαζί της. Η τοπική αστυνομία φέρεται να έλαβε ξέφρενη επικοινωνία από ανθρώπους που πίστευαν ότι μια άλλη επίθεση τύπου 911 βρισκόταν σε εξέλιξη. Το χάος που ακολούθησε έστειλε ένα σύντομο κύμα σοκ στο χρηματιστήριο.
Το παραποιημένο φιάσκο του Πενταγώνου επιλύθηκε σε λίγες ώρες, αλλά θα μπορούσε να ήταν πολύ χειρότερο. Νωρίτερα φέτος, ο επιστήμονας υπολογιστών Geoffrey Hinton, ο οποίος αναφέρεται από ορισμένους ως «Νονός του AI», είπε ότι ανησυχεί ότι η ολοένα και πιο πειστική ποιότητα των εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει τον μέσο άνθρωπο «να μην είναι σε θέση να γνωρίζει τι είναι αλήθεια κανένας».
Τόσο οι νεοσύστατες εταιρείες όσο και οι καθιερωμένες εταιρείες τεχνητής νοημοσύνης αγωνίζονται για την ανάπτυξη νέων εργαλείων ανίχνευσης τεχνητής νοημοσύνης σε βάθος για να αποτρέψουν αυτή την πραγματικότητα. Μερικές από αυτές τις προσπάθειες έχουν ξεκινήσει εδώ και χρόνια, αλλά η ξαφνική έκρηξη της παραγωγικής τεχνητής νοημοσύνης στην επικρατούσα συνείδηση από το OpenAI DALL-E και ChatGPT οδήγησε σε μια αυξημένη αίσθηση επείγοντος και σε μεγαλύτερα ποσά επενδύσεων, για την ανάπτυξη κάποιου τρόπου για τον εύκολο εντοπισμό ψευδών τεχνητής νοημοσύνης.
Οι εταιρείες που αγωνίζονται να βρουν λύσεις ανίχνευσης το κάνουν σε όλα τα επίπεδα περιεχομένου. Κάποιοι, όπως η startup Optic και το FakeCatch της Intel, εστιάζουν στην αναχαίτιση της εμπλοκής της τεχνητής νοημοσύνης σε ήχο και βίντεο, ενώ άλλοι όπως το Fictitious.AI εστιάζουν τις προσπάθειές τους πιο συγκεκριμένα στο κείμενο που δημιουργείται από chatbots AI. Σε ορισμένες περιπτώσεις, αυτά τα τρέχοντα συστήματα ανίχνευσης φαίνεται να αποδίδουν καλά, αλλά ειδικοί σε θέματα τεχνολογικής ασφάλειας, όπως ο πρώην Google Trust και ο επικεφαλής του Saftey, Arjun Narayan, φοβούνται ότι τα εργαλεία εξακολουθούν να καλύπτουν τη διαφορά.
«Εδώ είναι που η βιομηχανία εμπιστοσύνης και ασφάλειας πρέπει να καλύψει τον τρόπο με τον οποίο ανιχνεύουμε συνθετικά μέσα έναντι μη συνθετικών μέσων», είπε ο Narayan σε μια συνέντευξη στο Gizmodo. «Πιστεύω ότι η τεχνολογία ανίχνευσης πιθανότατα θα φτάσει τη διαφορά καθώς η τεχνητή νοημοσύνη προχωρά, αλλά αυτός είναι ένας τομέας που απαιτεί περισσότερες επενδύσεις και περισσότερη εξερεύνηση».
Εδώ είναι μερικές από τις εταιρείες που πρωτοστατούν στον αγώνα για τον εντοπισμό deepfakes.
