Modern technology gives us many things.

Οι Τούρκοι μηχανικοί εργαζόμενοι χρησιμοποιούν τεχνητή νοημοσύνη για να αυτοματοποιήσουν την ύπαρξη ανθρώπου

Καταθέστε αυτό το υπό αναπόφευκτο, αλλά ξεκαρδιστικό. Το Mechanical Turk είναι μια υπηρεσία που από τις πρώτες μέρες της φαινόταν να προσκαλεί αηδίες και πράγματι οι ερευνητές δείχνουν ότι σχεδόν οι μισοί από τους «τουρκάδες» της φαίνεται να χρησιμοποιούν την τεχνητή νοημοσύνη για να κάνουν εργασίες που προορίζονταν ειδικά να γίνουν από ανθρώπους επειδή η τεχνητή νοημοσύνη δεν μπορούσε. Κλείσαμε τον κύκλο σε αυτό, καλή δουλειά σε όλους!

Το Mechanical Turk της Amazon επέτρεπε στους χρήστες να διαιρούν απλές εργασίες σε οποιονδήποτε αριθμό μικρών δευτερευουσών εργασιών που χρειάζονται μόνο λίγα δευτερόλεπτα και πληρώνουν δεκάρες — αλλά οι αφοσιωμένοι αποσπασματικοί εργαζόμενοι θα εκτελούσαν χιλιάδες και έτσι θα κέρδιζαν έναν μέτριο αλλά αξιόπιστο μισθό. Ήταν, όπως το έθεσε ο Jeff Bezos τότε, «τεχνητή τεχνητή νοημοσύνη».

Αυτές ήταν συνήθως εργασίες που τότε ήταν δύσκολο να αυτοματοποιηθούν – όπως ένα CAPTCHA, ή ο προσδιορισμός του συναισθήματος μιας πρότασης ή ένα απλό “ζωγραφίστε έναν κύκλο γύρω από τη γάτα σε αυτήν την εικόνα”, πράγματα που οι άνθρωποι μπορούσαν να κάνουν γρήγορα και αξιόπιστα. Χρησιμοποιήθηκε ελεύθερα από άτομα που επισήμαναν σχετικά σύνθετα δεδομένα και ερευνητές με στόχο να λάβουν ανθρώπινες αξιολογήσεις ή αποφάσεις σε κλίμακα.

Πήρε το όνομά του από το διάσημο «αυτόματο» που παίζει σκάκι που στην πραγματικότητα χρησιμοποίησε έναν άνθρωπο που κρυβόταν στη βάση του για να κάνει τα παιχνίδια του – Ο Πόε έγραψε μια μεγάλη σύγχρονη αφαίρεση του. Μερικές φορές η αυτοματοποίηση είναι δύσκολη ή αδύνατη, αλλά σε τέτοιες περιπτώσεις μπορείς να φτιάξεις ένα είδος μηχανής από ανθρωπιά. Πρέπει να το προσέχει κανείς, αλλά έχει αποδειχτεί χρήσιμο με τα χρόνια.

Αλλά μια μελέτη από ερευνητές στο EPFL στην Ελβετία δείχνει ότι οι εργαζόμενοι στο Μηχανικό Τούρκοι αυτοματοποιούν την εργασία τους χρησιμοποιώντας μεγάλα γλωσσικά μοντέλα όπως το ChatGPT: ένα φίδι δαγκώνει την ουρά του ή ίσως καταπίνει εντελώς τον εαυτό του.

Το ερώτημα προέκυψε όταν σκέφτηκαν να χρησιμοποιήσουν μια υπηρεσία όπως το MTurk ως «άνθρωπος στο βρόχο» για να βελτιώσουν ή να ελέγξουν τις απαντήσεις LLM, οι οποίες είναι βασικά αναξιόπιστες:

Είναι δελεαστικό να βασιστείτε στο crowdsourcing για να επικυρώσετε τα αποτελέσματα LLM ή να δημιουργήσετε δεδομένα ανθρώπινων χρυσών προτύπων για σύγκριση. Τι γίνεται όμως αν οι ίδιοι οι εργαζόμενοι στο πλήθος χρησιμοποιούν LLM, π.χ., για να αυξήσουν την παραγωγικότητά τους, και συνεπώς το εισόδημά τους, σε πλατφόρμες crowdsourcing;

Για να αποκτήσουν μια γενική αίσθηση του προβλήματος, ανέθεσαν μια εργασία «αφηρημένης σύνοψης» που έπρεπε να ολοκληρωθεί από τους γαλοπούλες. Με διάφορες αναλύσεις που περιγράφονται στην εργασία (ακόμα δεν έχει δημοσιευθεί ή αξιολογηθεί από ομοτίμους) «υπολογίζουν ότι το 33-46% των εργαζομένων στο πλήθος χρησιμοποίησαν LLM όταν ολοκλήρωσαν την εργασία».

Για κάποιους, αυτό δεν θα αποτελεί έκπληξη. Κάποιο επίπεδο αυτοματισμού πιθανότατα υπήρχε στην Τουρκία από τότε που ξεκίνησε η πλατφόρμα. Η ταχύτητα και η αξιοπιστία είναι κίνητρα, και αν μπορούσατε να γράψετε ένα σενάριο που χειριζόταν ορισμένα αιτήματα με ακρίβεια 90%, θα μπορούσατε να κερδίσετε αρκετά χρήματα. Με τόσο μικρή επίβλεψη των διαδικασιών μεμονωμένων συνεισφερόντων, ήταν αναπόφευκτο ότι ορισμένες από αυτές τις εργασίες δεν θα εκτελούνταν πραγματικά από ανθρώπους, όπως διαφημίζεται. Η ακεραιότητα δεν ήταν ποτέ το δυνατό κοστούμι της Amazon, επομένως δεν υπήρχε νόημα να βασιστούμε σε αυτές.

Αλλά το να το βλέπεις να διαμορφώνεται έτσι, και για ένα έργο που μέχρι πρόσφατα φαινόταν ότι μόνο ένας άνθρωπος μπορούσε να κάνει — να συνοψίζει επαρκώς την περίληψη μιας εργασίας — αμφισβητεί όχι μόνο την αξία του Mechanical Turk αλλά εκθέτει ένα άλλο μέτωπο στην επικείμενη κρίση του « Εκπαίδευση τεχνητής νοημοσύνης σε δεδομένα που δημιουργούνται από την τεχνητή νοημοσύνη» σε μια ακόμη δύσκολη κατάσταση που μοιάζει με το Ouroboros.

Οι ερευνητές (Veniamin Veselovsky, Manoel Horta Ribeiro και Robert West) προειδοποιούν ότι αυτό το έργο είναι, από την εμφάνιση των σύγχρονων LLMs, ιδιαίτερα κατάλληλο για κρυφούς αυτοματισμούς, και επομένως είναι ιδιαίτερα πιθανό να πέσει θύματα αυτών των μεθόδων. Αλλά η κατάσταση της τέχνης προχωρά σταθερά:

Τα LLM γίνονται όλο και πιο δημοφιλή μέρα με τη μέρα και τα πολυτροπικά μοντέλα, που υποστηρίζουν όχι μόνο κείμενο, αλλά και είσοδο και έξοδο εικόνας και βίντεο, αυξάνονται. Με αυτό, τα αποτελέσματά μας θα πρέπει να θεωρηθούν το «καναρίνι στο ανθρακωρυχείο» που θα πρέπει να υπενθυμίζει στις πλατφόρμες, τους ερευνητές και τους εργαζόμενους στο πλήθος να βρουν νέους τρόπους για να διασφαλίσουν ότι τα ανθρώπινα δεδομένα παραμένουν ανθρώπινα.

Η ίδια η απειλή της κατανάλωσης τεχνητής νοημοσύνης θεωρητικοποιήθηκε εδώ και πολλά χρόνια και έγινε πραγματικότητα σχεδόν αμέσως μετά την ευρεία ανάπτυξη των LLM: το κατοικίδιο του Bing, ChatGPT, παρέθεσε τη δική του παραπληροφόρηση ως υποστήριξη για νέα παραπληροφόρηση σχετικά με μια συνωμοσία COVID.

Εάν δεν μπορείτε να είστε 100% σίγουροι ότι κάτι έγινε από έναν άνθρωπο, μάλλον καλύτερα να υποθέσετε ότι δεν ήταν. Αυτή είναι μια καταθλιπτική αρχή που πρέπει να τηρήσουμε, αλλά εδώ είμαστε.



techcrunch.com

Follow TechWar.gr on Google News

Απάντηση