Ένας συγκεκριμένος τύπος μουσικής ήταν αναπόφευκτος στο TikTok τις τελευταίες εβδομάδες: κλιπ διάσημων μουσικών που καλύπτουν τραγούδια άλλων καλλιτεχνών, με συνδυασμούς που διαβάζονται σαν κάποιος να πατάει το κουμπί τυχαιοποιητή. Υπάρχει ο Drake που διασκευάζει τον τραγουδιστή-τραγουδοποιό Colbie Caillat, ο Michael Jackson που διασκευάζει τον The Weeknd και ο Pop Smoke που διασκευάζει το “In Ha Mood” των Ice Spice. Οι καλλιτέχνες δεν εκτελούν πραγματικά τα τραγούδια – όλα δημιουργούνται χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης. Και τα βίντεο που προκύπτουν έχουν συγκεντρώσει δεκάδες εκατομμύρια προβολές.
Για τον Jered Chavez, φοιτητή κολεγίου στη Φλόριντα, το άλμα από το μπέρδεμα με τα εργαλεία AI ένα βράδυ σε ένα άγριο viral χτύπημα ήρθε στα τέλη Μαρτίου. Δημοσίευσε ένα βίντεο με τους Drake, Kendrick Lamar και Ye (πρώην Kanye West) να τραγουδούν το “Fukashigi no Karte”, ένα θεματικό τραγούδι του μια σειρά anime. Έχει συγκεντρώσει περισσότερες από 12 εκατομμύρια προβολές τον μήνα από τότε.
Ο Τσάβες δημιουργεί νέα κλιπ με σταθερό ρυθμό από τότε, λαμβάνοντας εκατομμύρια περισσότερες προβολές σε δεκάδες βίντεο, εκτελώντας a cappella εκδόσεις τραγουδιών μέσω μοντέλων AI που έχουν εκπαιδευτεί να ακούγονται σαν οι πιο αναγνωρίσιμοι μουσικοί στον κόσμο. Το TikTok τα λατρεύει και είναι φθηνά, γρήγορα και απλά στην κατασκευή τους.
«Εξεπλάγην πολύ [at] πόσο εύκολο ήταν. Ακριβώς έξω από το AI, ακούγεται αρκετά καλό. Ακούγεται αληθινό», λέει ο Τσάβες για τη διαδικασία. «Είναι ειλικρινά κάπως τρομακτικό πόσο εύκολο είναι να γίνουν αυτά τα πράγματα».
Μέχρι στιγμής, οι πλατφόρμες δεν έχουν αφαιρέσει τα βίντεο του Τσάβες, αλλά οι απειλές θα μπορούσαν να έρθουν σύντομα – εάν μεγάλοι καλλιτέχνες και δισκογραφικές εταιρείες μπορούν να καταλάβουν πώς να τον σταματήσουν.
Οι ισχυροί παίκτες της μουσικής βιομηχανίας έχουν ήδη τραβήξει άλλη μουσική που παράγεται από AI από υπηρεσίες ροής, επικαλούμενοι παραβίαση πνευματικών δικαιωμάτων. Αλλά αυτό το επιχείρημα δεν είναι καθόλου απλό, λένε νομικοί εμπειρογνώμονες. Δεν υπάρχει προηγούμενο για το αν ο πραγματικός Drake μπορεί να σταματήσει το ρομπότ Drake με βάση τα πνευματικά δικαιώματα – και όμως τα πνευματικά δικαιώματα έχουν γίνει για άλλη μια φορά ο πιο αποτελεσματικός τρόπος για να απομακρύνετε κάτι από το διαδίκτυο που δεν αρέσει σε κάποιον.
“Είναι εύκολο να χρησιμοποιήσετε τα πνευματικά δικαιώματα ως χάδι σε αυτού του είδους τις περιστάσεις για να κυνηγήσετε νέο δημιουργικό περιεχόμενο που αισθάνεστε ότι ξεπερνά κάποιο είδος γραμμής, ακόμα κι αν δεν έχετε μια πραγματικά ισχυρή νομική βάση για αυτό, λόγω του πόσο ισχυρό είναι το σύστημα πνευματικών δικαιωμάτων”, δήλωσε ο Νικ Γκαρσία, σύμβουλος πολιτικής στο Public Knowledge, λέει.
Αυτό συμβαίνει με ίσως το πιο αξιοσημείωτο τραγούδι που δημιουργήθηκε από AI μέχρι στιγμής, το “Heart on My Sleeve”, το οποίο έγινε viral νωρίτερα αυτό το μήνα για την κάπως πειστική παντομίμα ενός τραγουδιού του Drake και του The Weeknd. Το τραγούδι, δημοσιεύτηκε από έναν ανώνυμο TikToker με το όνομα Συγγραφέας-φάντασμα, συγκέντρωσε εκατομμύρια ροές πριν το αφαιρέσουν το Spotify, το Apple Music, το TikTok και το YouTube. Στην περίπτωση του YouTube, ο ένοχος για την αφαίρεση ήταν αυτό που έμοιαζε με ένα αβίαστο λάθος: το κατά τα άλλα πρωτότυπο τραγούδι περιελάμβανε ανεξήγητα μια ετικέτα παραγωγής Metro Boomin στην αρχή. Η Universal Music Group ισχυρίστηκε ότι ήταν ένα μη εξουσιοδοτημένο δείγμα και κατάφερε να τραβήξει το τραγούδι. Σε αυτήν την περίπτωση, μια αξίωση πνευματικών δικαιωμάτων λειτούργησε — αλλά μόλις και μετά βίας. Άλλα πρωτότυπα τραγούδια, όπως ένα Το τραγούδι του AI Drake ονομάζεται “Winter's Cold”, έχουν αποσυρθεί και από πλατφόρμες streaming, με βάση Υποτιθέμενη παραβίαση πνευματικών δικαιωμάτων.
Τα πρωτότυπα τραγούδια που χρησιμοποιούν κλωνοποίηση φωνής δεν αντιγράφουν τίποτα που προστατεύεται συγκεκριμένα από το νόμο
Το “Heart on My Sleeve” είναι ακριβώς το είδος του πράγματος UMG θέλει οι πλατφόρμες streaming να πατάξουν, λέγοντας ότι οι εταιρείες τεχνητής νοημοσύνης παραβιάζουν τη νομοθεσία περί πνευματικών δικαιωμάτων εκπαιδεύοντας τα μοντέλα τους σε τραγούδια καλλιτεχνών (τόσο ο Drake όσο και ο The Weeknd έχουν συμφωνίες με την UMG). Αυτό είναι το ίδιο επιχείρημα που προβάλλεται σε άλλες δημιουργικές βιομηχανίες: η Getty Images, για παράδειγμα, μηνύει τους κατασκευαστές της γεννήτριας τέχνης Stable Diffusion, λέγοντας ότι η Stability AI «αντέγραψε και επεξεργάστηκε παράνομα εκατομμύρια εικόνες που προστατεύονται από πνευματικά δικαιώματα» όταν εκπαίδευσε το σύστημα τεχνητής νοημοσύνης της. Οι διαδικτυακοί εκδότες οδεύουν επίσης προς αυτή την κατεύθυνση, λέγοντας ότι πρέπει να αποζημιωθούν για το περιεχόμενό τους που χρησιμοποιείται για την εκπαίδευση chatbots.
Το πρόβλημα με την κατάργηση τραγουδιών όπως το “Heart on My Sleeve” και το “Winter's Cold” είναι ότι τα κομμάτια δεν αντιγράφουν τίποτα που προστατεύεται συγκεκριμένα από το νόμο. Και τα δύο τραγούδια φαίνεται να έχουν γραφτεί από έναν άνθρωπο που δεν είναι ο Drake και τροφοδοτούνται με λογισμικό κλωνοποίησης φωνής, οπότε οι συνθέσεις είναι νέα, πρωτότυπα έργα. Η φωνή, το στυλ ή η ροή ενός καλλιτέχνη δεν προστατεύονται από πνευματικά δικαιώματα (ως επί το πλείστον). Εάν ένας ανερχόμενος καλλιτέχνης έγραψε τους δικούς του στίχους, έκανε έναν απλό ρυθμό, ηχογράφησε τα φωνητικά και το έβαλε μέσω της μηχανής The Weeknd, δεν υπάρχει μεμονωμένη υπάρχουσα δουλειάκαπέλο αντιγράφεται. Η προώθηση του νέου κομματιού ως τραγουδιού από τον The Weeknd θα ήταν δύσκολη, αλλά αυτό θα ήταν πιο κοντά σε ένα ζήτημα εμπορικού σήματος παρά σε πνευματικά δικαιώματα.
Οι εξελίξεις στην τεχνολογία φωνής AI που χρησιμοποιείται επί του παρόντος καθιστούν επίσης το ζήτημα δειγματοληψίας πιο κολλώδες. Σε αντίθεση με την παλαιότερη τεχνολογία που τεμαχίζει και αναδιατάσσει προϋπάρχουσες ηχογραφήσεις, πολλά συστήματα τεχνητής νοημοσύνης δημιουργούν νέους ήχους που μοιάζουν με φωνή-στόχο. Ακόμα κι αν μικροσκοπικά κομμάτια μιας ηχογράφησης ήταν κάπου στο νέο τραγούδι, πιθανότατα θα ήταν τόσο μικρό μέρος που θα αποτύγχανε να φτάσει στο επίπεδο της παραβίασης πνευματικών δικαιωμάτων, λέει ο Garcia.
Τα ζητήματα της μεγάλης εικόνας στις καλλιτεχνικές βιομηχανίες τείνουν να φιλτράρονται μέσω ενός φακού πνευματικών δικαιωμάτων, επειδή ο νόμος μπορεί να λειτουργήσει ως «πολύ μεγάλο σφυρί που μπορεί να χτυπήσει πολλά, πολλά καρφιά». Μέρεντιθ Ρόουζ, ανώτερος σύμβουλος πολιτικής για τη Δημόσια Γνώση, λέει. Το επιχείρημα ότι ένα τραγούδι του AI Drake παραβιάζει τα πνευματικά δικαιώματα του πραγματικού Drake δεν είναι ξεκάθαρο, αλλά έχει γίνει ο κύριος τρόπος με τον οποίο οι ετικέτες – και επομένως το κοινό – σκέφτονται τα πιθανά προβλήματα με τα τραγούδια AI.
“Τα πνευματικά δικαιώματα είναι μια ανησυχία, αλλά είναι σε μεγάλο βαθμό μια ανησυχία δεύτερης βαθμίδας για μερικά από τα μεγαλύτερα, πιο υπαρξιακά ερωτήματα σχετικά με τον οικονομικό εκτοπισμό και την ανατροπή των επιχειρηματικών μοντέλων και των deep fakes”, λέει ο Rose.
Τι θα γινόταν αν τα “ακυκλοφόρητα” κομμάτια του Drake που δημιουργήθηκαν από AI εμφανίστηκαν και εκτρέψουν τα έσοδα από τον πραγματικό Drake; Τι γίνεται αν τα τραγούδια AI είναι απλώς κακά και οι άνθρωποι ήταν πεπεισμένοι ότι ο Drake έχασε το μαγικό του άγγιγμα για επιτυχίες; Τι θα γινόταν αν ένας δημιουργός έκανε τον AI Drake να τραγουδήσει έναν λευκό εθνικιστικό ύμνο; Το πρόβλημα επεκτείνεται γρήγορα πέρα από το πεδίο των πνευματικών δικαιωμάτων και στην προσωπικότητα και την ταυτότητα του Drake – και σε αντίθεση με το κύμα αγνώστων με την τεχνητή νοημοσύνη, υπάρχει Είναι κάποιο προηγούμενο με το πώς χρησιμοποιείται η ομοιότητα ενός ατόμου.
Το δικαίωμα δημοσιότητας ενός ατόμου του επιτρέπει να ελέγχει τον τρόπο με τον οποίο χρησιμοποιείται το όνομα ή η ομοιότητά του για να κερδίσει χρήματα. Αλλά ακόμη και πριν εξετάσουμε πώς τα εργαλεία AI αλλάζουν τα πράγματα, υπάρχουν υποκείμενες αποκλίσεις στην πορεία δράσης που έχουν τα άτομα. Ο σύγχρονος νόμος περί πνευματικών δικαιωμάτων βρίσκεται σε ομοσπονδιακό επίπεδο και ως μέρος αυτού, οι καταργήσεις DMCA προσφέρουν μια σχετικά γρήγορη και εύκολη οδό για την απόσυρση υλικού χωρίς τη συμμετοχή δικηγόρου ή την υποβολή αγωγής. Το δικαίωμα της δημοσιότητας (το οποίο, σε μια συγκεχυμένη συστροφή, ονομάζεται επίσης μερικές φορές το δικαίωμα της ιδιωτικής ζωής) είναι πιο περίπλοκο και υπάρχει μόνο σε κρατικό επίπεδο.
Μόνο ορισμένες πολιτείες έχουν αυτό το είδος νόμου στα βιβλία, αλλά είναι σημαντικό ότι η Καλιφόρνια και η Νέα Υόρκη – οι δύο με τις πιο μεγάλες βιομηχανίες ψυχαγωγίας – και οι δύο έχουν. Μετά από όλα, οι άνθρωποι αγαπούν να riff στις εικόνες των διασημοτήτων, σχεδόν όσο οι διασημότητες μισούν να έχουν τις εικόνες τους riffed. Ο πραγματικός Drake θα μπορούσε κάλλιστα να μηνύσει το ρομπότ Drake χρησιμοποιώντας τον ίδιο νόμο που χρησιμοποίησε η πραγματική Vanna White για να μηνύσει το ρομπότ Vanna White το 1992. (Στην περίπτωση του 1992 πάνω από μια διαφήμιση της Samsung, το ρομπότ Vanna ήταν ένα μεταλλικό ανδροειδές με ένα έντονα χρωματισμένο φόρεμα, μια μεσαίου μήκους ξανθιά περούκα και κοσμήματα, που στεκόταν δίπλα σε έναν πίνακα επίδειξης παιχνιδιών με γράμματα, αντί για την έξοδο μιας γεννήτριας AI. Ο Τροχός της Τύχης Το πραγματικό όνομα του συνδιοργανωτή δεν εμφανίζεται ποτέ στην εν λόγω διαφήμιση.)
Πολλά από τα τραγούδια κλώνων AI διατίθενται στην αγορά ως κομμάτια AI “Drake” ή “Kanye West”, αλλά ο Garcia λέει ότι το δικαίωμά τους στη δημοσιότητα θα μπορούσε να επεκταθεί ακόμη και αν ο δημιουργός δεν τα κατονομάσει ρητά στην προώθηση. Μετά από όλα, οι ακροατές πιθανότατα αναγνωρίζουν αυτή η φωνή τραγουδά “Paparazzi” με ή χωρίς φωτογραφία της Ariana Grande για να τους προτρέψει. Είναι λογικό ότι οι μουσικοί που είναι γνωστοί για τη φωνή τους είναι οι πρώτες περιπτώσεις δοκιμής για προηγμένη τεχνολογία κλωνοποίησης φωνής. Αυτό εγείρει πολλά ερωτήματα σχετικά με την τέχνη, την ορθή χρήση, τη διασημότητα και την ποπ κουλτούρα – και όσο περίπλοκα και αν είναι αυτά τα ερωτήματα, τουλάχιστον κάποια εκδοχή αυτής της συζήτησης συνεχίζεται εδώ και πολλές δεκαετίες. Αλλά τι γίνεται με τις αναπόφευκτες μελλοντικές περιπτώσεις όπου η AI φωνάζει κλώνους ανθρώπων που δεν είναι απαραίτητα γνωστοί για τα φωνητικά τους ταλέντα;
«Είμαστε ήδη σε πολύ θολά νερά, τότε είναι που μπαίνουμε στο βάλτο».
“[Let's say] έχετε ένα χιπ-χοπ κομμάτι του Ρον ΝτεΣάντις που πετάει εκεί έξω, ο Θεός να μας βοηθήσει. Θα έμοιαζαν τα επιχειρήματα ίδια; Ίσως, ίσως όχι», λέει η Ρόουζ. «Τότε είναι που μπαίνουμε σε ακόμη πιο σκοτεινό έδαφος. Είμαστε ήδη σε πολύ θολά νερά, τότε είναι που μπαίνουμε στο βάλτο».
Περισσότερο από τα πνευματικά δικαιώματα, ο Rose πιστεύει ότι ο αγώνας που αφορά τα εργαλεία AI θα στραφεί προς την επανεξέταση πραγμάτων όπως οι νόμοι περί δικαιώματος δημοσιότητας μέσα στα επόμενα πέντε έως 10 χρόνια. Επί του παρόντος, εάν κάποιος είναι θύμα κατασκευασμένης ηχογράφησης φωνής ή deepfake, η εμπειρία του να πάρει it αφαιρεθεί θα εξαρτηθεί σε μεγάλο βαθμό από το πού ζουν. Η ταχεία προσβασιμότητα ισχυρών εργαλείων τεχνητής νοημοσύνης θα μπορούσε να αναγκάσει το νομικό σύστημα να καλύψει κενά που υπάρχουν ήδη με ή χωρίς κάτι όπως το λογισμικό κλωνοποίησης φωνής.
«Αρχίζουμε να παίρνουμε πράγματα όπως το δικαίωμα στη δημοσιότητα και να τα κάνουμε ομοσπονδιακό νόμο, έτσι ώστε όλοι στις Ηνωμένες Πολιτείες να έχουν πρόσβαση σε όποια εργαλεία αποφασίσαμε να ψήσουμε σε αυτό;» Rose λέει. «Αυτή τη στιγμή, καλώς ή κακώς, είναι απλώς τύχη της κλήρωσης όπου τυχαίνει να ζεις».
Ένα πρόβλημα με τα τραγούδια κλωνοποίησης φωνής AI είναι ότι, δυστυχώς για το θέμα, είναι αστεία. Κανείς δεν ζήτησε να ακούσει τον Τζο Μπάιντεν λέω, «Λέει ότι είμαι αρκετά καλός, αρπάζω το duh-duh-duh μου / σκέφτομαι» «σκατά που δεν θα έπρεπε», αλλά έχει γίνει μέρος της κουλτούρας του διαδικτύου – ο ήχος έχει προστεθεί στα TikToks ανθρώπων που καθαρίζουν τα μπάνια τους, φτιάχνουν σαλάτες και χορεύουν.
Οι περισσότερες από τις ιογενείς διασκευές AI και τα πρωτότυπα τραγούδια δημιουργούνται χωρίς τη συγκατάθεση του υποκειμένου, μια ένταση που πολλοί ακροατές αντιλαμβάνονται. Οι ενότητες σχολίων περιλαμβάνουν τακτικά κάποια έκδοση του, “Αυτό πρέπει να είναι παράνομο” ή “Περιμένοντας αυτό να αφαιρεθεί” – υπάρχει ένα υπόγειο ρεύμα χονδροειδούς στο περιεχόμενο του κλώνου φωνής που είναι αναπόφευκτο ακόμη και όταν τα τραγούδια γίνονται όλο και πιο παράλογα.
Οι ειδικοί ανησυχούν ότι οι κλώνοι φωνής AI θα γίνουν πρόβλημα νωρίτερα παρά αργότερα
Οι ειδικοί που έχουν εργαστεί σε άλλους τύπους μη συναινετικής ανταλλαγής υλικού στο διαδίκτυο ανησυχούν ότι οι κλώνοι φωνής AI θα γίνουν πρόβλημα νωρίτερα παρά αργότερα. Και παρόλο που η εστίαση αυτή τη στιγμή είναι στα εργαλεία τεχνητής νοημοσύνης που πλαστογραφούν διάσημα, πλούσια άτομα, θα μπορούσε γρήγορα να γίνει εφιάλτης για τον μέσο άνθρωπο που βιώνει πράγματα όπως η ενδοοικογενειακή βία.
«Περιμένω ότι θα αρχίσουμε να βλέπουμε την κλωνοποίηση φωνής να χρησιμοποιείται για να εξαπατήσει τα σχολεία να αποκτήσουν πρόσβαση στα παιδιά ή να πει ότι ένας πρώην φίλος προσπάθησε να επικοινωνήσει μαζί σας», λέει ο Adam Massey, συνεργάτης της C.A. Goldberg, ο οποίος ειδικεύεται στην κακοποίηση που διευκολύνεται από την τεχνολογία, όπως η μη συναινετική διανομή προσωπικών εικόνων (συχνά αποκαλούμενη «πορνό εκδίκησης»). Προκειμένου να αφαιρεθεί το κατασκευασμένο περιεχόμενο, ο Massey λέει ότι τα θύματα μπορεί να ξεκινήσουν με μια επιστολή παύσης και παράλειψης ισχυριζόμενα ότι παραβιάζουν το δικαίωμά σας για δημοσιότητα, πλαστοπροσωπία ή απάτη, αλλά η επιτυχία θα εξαρτηθεί από το αν η οντότητα που το διαδίδει ανταποκρίνεται. Εάν το μη εξουσιοδοτημένο υλικό είναι συνθετικό προϊόν ενός εργαλείου AI, το υποκείμενο δεν θα έχει απαραίτητα τα πνευματικά δικαιώματα επί του deepfake.
Όπως και το δικαίωμα της δημοσιότητας, οι νόμοι κατά της κοινοποίησης προσωπικών εικόνων είναι ανά πολιτεία και μόλις αρχίζουν να αντιμετωπίζουν το κατασκευασμένο περιεχόμενο, λέει ο Massey – μόνο μια χούφτα πολιτειών έχουν νόμους ειδικά γύρω από το deepfake πορνό, για παράδειγμα. Ιστότοποι που φιλοξενούν μη συναινετικά ρητά deepfakes λειτουργούν ανοιχτά, σύμφωνα με ρεπορτάζ του NBC News τον περασμένο μήνα. Αν και δεν υπάρχει ομοσπονδιακός νόμος κατά των μη συναινετικών προσωπικών εικόνων, το deepfake πορνό έχει γίνει τόσο διαδεδομένο που η Google έχει ένα σύστημα παρόμοιο με το DMCA που μπορούν να χρησιμοποιήσουν τα θύματα για να εκδώσουν αιτήματα κατάργησης.
Χωρίς την υποστήριξη και τη νομική υποστήριξη που έχουν οι μεγάλοι καλλιτέχνες, οι ανυπόγραφοι ανεξάρτητοι μουσικοί πιθανότατα θα αναγκαστούν να περάσουν μέσα από τυχόν κλώνους φωνής που εμφανίζονται μόνοι τους. Δεν υπάρχει τυποποιημένος τρόπος αναφοράς μη εξουσιοδοτημένου υλικού που παράγεται από AI και οι καλλιτέχνες θα πρέπει να υποστηρίξουν ότι βλάπτει την ικανότητά τους να κερδίζουν χρήματα από το δικαίωμά τους στη δημοσιότητα, λέει ο Massey.
Ο Τσάβες δεν κάνει μόνο mashups δημοφιλών καλλιτεχνών με τη βοήθεια τεχνητής νοημοσύνης. Είναι και ο ίδιος μουσικός, Εγγραφή και κοινή χρήση τραγουδιών κάτω από το είδος “αισθητική ραπ”. Δεν ανησυχεί για κάποιον που κλωνοποιεί τη φωνή του – ανησυχεί περισσότερο για τις δισκογραφικές εταιρείες που κυκλοφορούν μεταθανάτια άλμπουμ χωρίς τη συμβολή του αποθανόντος καλλιτέχνη.
Από τότε που άρχισαν να ανατινάζονται τα TikToks του, οι ροές της δικής του μουσικής έχουν επίσης διογκωθεί και ο αριθμός των συνδρομητών του στο YouTube έχει διπλασιαστεί.
«Μέχρι στιγμής, πολλές από τις απαντήσεις είναι αρκετά θετικές, κάτι για το οποίο είμαι πολύ χαρούμενος», λέει.
Το “AI stuff” δεν είναι αυτό για το οποίο είναι πραγματικά παθιασμένος, αλλά οι άνθρωποι συνεχίζουν να ζητούν νέα τραγούδια. Ο Τσάβες σχεδιάζει να συνεχίσει να φτιάχνει μερικά εδώ κι εκεί – αλλά ειλικρινά, αρχίζει να βαριέται αρκετά.
