Ο στρατός συγκροτεί μια παραγωγική ομάδα εργασίας AI

Δημοφιλείς εφαρμογές τεχνητής νοημοσύνης όπως το ChatGPT ή το DALL-E γίνονται όλο και πιο δημοφιλείς στις μάζες και το Υπουργείο Άμυνας λαμβάνει υπόψη. Για να προλάβουμε τις πιθανές χρήσεις και τους κινδύνους τέτοιων εργαλείων, στις 10 Αυγούστου, το Υπουργείο Άμυνας

ανακοινώθηκε

η δημιουργία μιας νέας ομάδας εργασίας αναλύει και πιθανώς ενσωματώνει τη γενετική τεχνητή νοημοσύνη στις τρέχουσες λειτουργίες.

Η τεχνητή νοημοσύνη είναι ένας ανακριβής όρος και οι τεχνολογίες που μπορούν να γίνουν πρωτοσέλιδα σχετικά με την τεχνητή νοημοσύνη συχνά το κάνουν τόσο για τα ελαττώματά τους όσο και για την πιθανή χρησιμότητά τους. Η ομάδα εργασίας του Πενταγώνου είναι μια αναγνώριση των δυνατοτήτων που έχουν τέτοια εργαλεία, ενώ δίνει στον στρατό λίγο χώρο για να καταλάβει τι ακριβώς μπορεί να βρει χρήσιμο ή απειλητικό σε τέτοια εργαλεία.

Ενώ η έρευνα του Πενταγώνου για την τεχνητή νοημοσύνη έχει σίγουρα συνέπειες για το τι θα σημαίνει τελικά για τα όπλα, η καρδιά του θέματος είναι στην πραγματικότητα η χρήση του για την επεξεργασία, την κατανόηση και την εξαγωγή ορισμένων προβλέψεων από τη συλλογή δεδομένων του. Μερικές φορές αυτά τα δεδομένα είναι εντυπωσιακά, όπως βίντεο που έχουν καταγραφεί από drones από ύποπτες συναντήσεις ανταρτών ή από εχθρικές κινήσεις στρατευμάτων. Ωστόσο, πολλά από τα δεδομένα που συλλέγονται από τον στρατό είναι εξαιρετικά εγκόσμια, όπως τα αρχεία καταγραφής συντήρησης για ελικόπτερα και φορτηγά.

Το

Generative AI

θα μπορούσε, ίσως, να εκπαιδευτεί σε σύνολα δεδομένων αποκλειστικά για τον στρατό, βγάζοντας αποτελέσματα που υποδηλώνουν απαντήσεις που μπορεί να αναζητά ο στρατός. Αλλά η διαδικασία μπορεί να μην είναι τόσο απλή. Τα σημερινά εργαλεία τεχνητής νοημοσύνης είναι επιρρεπή σε λάθη και μια τέτοια παραγωγική τεχνητή νοημοσύνη θα μπορούσε επίσης να δημιουργήσει παραπλανητικές πληροφορίες που θα μπορούσαν να τροφοδοτηθούν σε μεταγενέστερες αναλύσεις, οδηγώντας σε σύγχυση. Η πιθανότητα και ο κίνδυνος λάθους τεχνητής νοημοσύνης είναι πιθανός ένας λόγος που ο στρατός ακολουθεί μια προσεκτική προσέγγιση στη μελέτη της γενετικής τεχνητής νοημοσύνης, αντί να ενστερνιστεί πλήρως την τεχνολογία από την αρχή.

Η μελέτη της γενετικής τεχνητής νοημοσύνης θα πραγματοποιηθεί από την πρόσφατα οργανωμένη Task Force Lima, της οποίας θα ηγείται το Chief Digital and Artificial Intelligence Office. Το CDAO δημιουργήθηκε το ίδιο το

Φεβρουάριος 2022

από μια συγχώνευση πολλών άλλων γραφείων του Πενταγώνου σε ένα που έχει σχεδιαστεί για να βοηθά τον στρατό να χρησιμοποιεί καλύτερα δεδομένα και τεχνητή νοημοσύνη.

«Το Υπουργείο Άμυνας έχει επιτακτική ανάγκη να επιδιώξει υπεύθυνα την υιοθέτηση μοντέλων τεχνητής νοημοσύνης, εντοπίζοντας τα κατάλληλα προστατευτικά μέτρα και μετριάζοντας τους κινδύνους εθνικής ασφάλειας που μπορεί να προκύψουν από ζητήματα όπως η κακή διαχείριση των δεδομένων εκπαίδευσης», είπε.

Κρεγκ Μαρτέλ

, ο Chief Digital and Artificial Intelligence Officer του Υπουργείου Εξωτερικών. «Πρέπει επίσης να εξετάσουμε τον βαθμό στον οποίο οι αντίπαλοί μας θα χρησιμοποιήσουν αυτήν την τεχνολογία και να επιδιώξουν να διακόψουν τη δική μας χρήση λύσεων που βασίζονται στην τεχνητή νοημοσύνη».

Μια τέτοια κακόβουλη πιθανότητα δημιουργίας τεχνητής νοημοσύνης είναι η χρήση της για παραπληροφόρηση. Ενώ ορισμένα μοντέλα δημιουργίας εικόνων αφήνουν κάπως προφανή στοιχεία για τροποποιημένες

φωτογραφίες

, όπως άτομα με ασυνήθιστο αριθμό επιπλέον δακτύλων και δοντιών, πολλές εικόνες είναι βατές και μάλιστα πειστικές με την πρώτη ματιά. Τον Μάρτιο, μια εικόνα του Πάπα Φραγκίσκου με παλτό Balenciaga που δημιουργήθηκε από την τεχνητή νοημοσύνη αποδείχτηκε συναρπαστική σε πολλούς ανθρώπους, ακόμη και όταν η προέλευσή του με τεχνητή νοημοσύνη έγινε γνωστή και αναπαραγώγιμη. Με ένα δημόσιο πρόσωπο όπως ο Πάπας, είναι εύκολο να

επα

ληθευτεί αν φωτογραφήθηκε ή όχι φορώντας ένα φουσκωτό μπουφάν hypebeast. Όταν πρόκειται για στρατιωτικά θέματα, οι φωτογραφίες που τραβήχτηκαν από τον στρατό μπορεί να αργήσουν να αποχαρακτηριστούν και η αληθοφάνεια ενός καλοσχεδιασμένου ψεύτικου θα μπορούσε να είναι δύσκολο να διαψευσθεί.

[Related: Why an AI image of Pope Francis in a fly jacket stirred up the internet]

Η κακόβουλη χρήση εικόνων και δεδομένων που δημιουργούνται από την τεχνητή νοημοσύνη είναι εντυπωσιακή – μια άθλια πράξη που ενεργοποιείται με τη χρήση σύγχρονης τεχνολογίας. Τουλάχιστον τόση συνέπεια θα μπορούσε να είναι ένα λάθος ρουτίνας. Ο Dennis Kovtun, ένας καλοκαιρινός συνεργάτης στον οίκο ανάλυσης ανοιχτού κώδικα Bellingcat,

δοκιμασμένο

Το Bard AI της Google και το Bing AI της Microsoft ως chatbots που μπορούν να δώσουν πληροφορίες σχετικά με τις μεταφορτωμένες εικόνες. Ο Kovtun προσπάθησε να δει εάν η τεχνητή νοημοσύνη θα μπορούσε να αναπαράγει τη διαδικασία με την οποία μια εικόνα γεωεντοπίζεται (όπου το σύνθετο σύνολο των λεπτομερειών επιτρέπει σε έναν άνθρωπο να εντοπίσει την προέλευση της φωτογραφίας).

«Διαπιστώσαμε ότι, ενώ το Bing μιμείται τις στρατηγικές που χρησιμοποιούν οι ερευνητές ανοιχτού κώδικα για τον γεωεντοπισμό εικόνων, δεν μπορεί να εντοπίσει με επιτυχία εικόνες από μόνο του».

γράφει ο Kovtun

. «Τα αποτελέσματα του Bard δεν είναι πολύ πιο εντυπωσιακά, αλλά φαινόταν πιο προσεκτικός στο σκεπτικό του και λιγότερο επιρρεπής σε «παραισθήσεις» AI. Και οι δύο χρειάστηκαν εκτεταμένες προτροπές από τον χρήστη προτού καταφέρουν να φτάσουν σε ικανοποιητική γεωγραφική θέση».

Αυτές οι «ψευδαισθήσεις» είναι όταν το AI ενσωματώνει εσφαλμένες πληροφορίες από τα δεδομένα εκπαίδευσής του στο αποτέλεσμα. Η εισαγωγή νέων και εσφαλμένων πληροφοριών μπορεί να υπονομεύσει οποιαδήποτε υποσχεθείσα χρησιμότητα εξοικονόμησης εργασίας ενός τέτοιου εργαλείου.

«Το

μέλλον

της άμυνας δεν είναι μόνο η υιοθέτηση τεχνολογιών αιχμής, αλλά με προνοητικότητα, υπευθυνότητα και βαθιά κατανόηση των ευρύτερων συνεπειών για το έθνος μας», δήλωσε η αναπληρώτρια υπουργός Άμυνας Kathleen Hicks στην ανακοίνωση της δημιουργίας του Task Force Lima.

Ο αμερικανικός στρατός, ως οργανισμός, είναι ιδιαίτερα επιφυλακτικός με την τεχνολογική έκπληξη ή την ιδέα ότι ένα αντίπαλο έθνος θα μπορούσε να αναπτύξει ένα νέο και ισχυρό εργαλείο χωρίς οι

ΗΠΑ

να είναι προετοιμασμένες γι’ αυτό. Ενώ ο Hick τόνισε την προσοχή που απαιτείται για την ανάπτυξη γενετικής τεχνητής νοημοσύνης για στρατιωτική χρήση, ο διοικητής της αποστολής της Task Force Lima, Xavier Lugo, περιέγραψε το έργο ως προς την εφαρμογή κατά τη διαχείριση του κινδύνου.

«Οι Υπηρεσίες και οι Διοικήσεις Μάχης επιδιώκουν ενεργά να αξιοποιήσουν τα οφέλη και να διαχειριστούν τους κινδύνους των παραγωγικών δυνατοτήτων AI και [Language Learning Models] σε πολλαπλούς τομείς αποστολής, συμπεριλαμβανομένων πληροφοριών, επιχειρησιακού σχεδιασμού, προγραμματικών και επιχειρηματικών διαδικασιών,

είπε ο Λούγκο

. «Δίνοντας προτεραιότητα στις προσπάθειες, μειώνοντας τις επικαλύψεις και παρέχοντας ικριώματα τεχνητής νοημοσύνης, η Task Force Lima θα είναι σε θέση να διαμορφώσει την αποτελεσματική και υπεύθυνη εφαρμογή του [Language Learning Models] σε όλο το Υπουργείο Άμυνας».