Το Hugging Face εφοδιάζει τους χρήστες με εργαλεία ανίχνευσης deepfake για ενίσχυση της ασφάλειας

Το Hugging Face θέλει να βοηθήσει

του

ς χρήστες να αντ

απε

ξέλθουν ενάντια στα τεχνητά ψεύτικα.

Η εταιρεία που αναπτύσσει εργαλεία μηχανικής μάθησης και φιλοξενεί έργα τεχνητής νοημοσύνης προσφέρει επίσης πόρους για την ηθική ανάπτυξη της τεχνητής νοημοσύνης. Αυτό τώρα περιλαμβάνει α

συλλογή

που ονομάζεται “Provenance, Watermarking and Deepfake Detection”, το οποίο περιλαμβάνει εργαλεία για την ενσωμάτωση υδατογραφημάτων σε

αρχεία

ήχου, LLM και εικόνες, καθώς και εργαλεία για την ανίχνευση ψεύτικα.

Το tweet μπορεί να έχει διαγραφεί

Η ευρεία διαθεσιμότητα της γενετικής τεχνολογίας AI έχει οδηγήσει στον πολλαπλασιασμό των deepfakes ήχου, βίντεο και εικόνων. Το φαινόμενο deepfake όχι μόνο συμβάλλει στη διάδοση

παραπληροφόρηση

ς, αλλά οδηγεί σε λογοκλοπή και παραβίαση πνευματικών δικαιωμάτων δημιουργικών έργων. Τα Deepfakes έχουν γίνει τέτοια απειλή που το εκτελεστικό διάταγμα τεχνητής νοημοσύνης του Προέδρου Μπάιντεν επέβαλε συγκεκριμένα την υδατοσήμανση περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη. Η Google και το OpenAI κυκλοφόρησαν πρόσφατα εργαλεία για την ενσωμάτωση υδατογραφημάτων σε εικόνες που δημιουργούνται από τα μοντέλα τεχνητής νοημοσύνης τους.

Οι πόροι ήταν

ανακοινώθηκε

από τη Margaret Mitchell, ερευνήτρια και επικεφαλής επιστήμονα ηθικής στο Hugging Face και πρώην υπάλληλο της Google. Η Μίτσελ και άλλοι που εστιάζουν στον κοινωνικό αντίκτυπο δημιούργησαν μια συλλογή από κομμάτια «υψηλού επιπέδου τεχνολογίας» για να αντιμετωπίσουν «την άνοδο του «ψευδούς» ανθρώπινου περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη».

Μερικά από τα εργαλεία της συλλογής απευθύνονται σε φωτογράφους και σχεδιαστές που προστατεύουν τη δουλειά τους από τη χρήση τους για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης, όπως ο Fawkes, που «δηλητηριάζει» ή περιορίζει τη χρήση λογισμικού αναγνώρισης προσώπου σε φωτογραφίες που είναι διαθέσιμες στο κοινό. Άλλα εργαλεία όπως το WaveMark, το Truepic, το Photoguard και το Imatag προστατεύουν τη μη εξουσιοδοτημένη χρήση ακουστικών ή οπτικών έργων ενσωματώνοντας υδατογραφήματα που μπορούν να εντοπιστούν από συγκεκριμένο λογισμικό. Ένα συγκεκριμένο εργαλείο Photoguard στη συλλογή κάνει μια εικόνα «ανοσία» στη γενετική επεξεργασία AI.

Η προσθήκη υδατογραφημάτων σε μέσα που δημιουργούνται από γενετική τεχνητή νοημοσύνη καθίσταται κρίσιμη για την προστασία των δημιουργικών έργων και τον εντοπισμό παραπλανητικών πληροφοριών, αλλά δεν είναι αλάνθαστη. Τα υδατογραφήματα που ενσωματώνονται στα μεταδεδομένα συχνά αφαιρούνται αυτόματα όταν μεταφορτώνονται σε ιστότοπους τρίτων, όπως τα μέσα κοινωνικής δικτύωσης, και οι κακόβουλοι χρήστες μπορούν να βρουν λύσεις τραβώντας ένα στιγμιότυπο οθόνης μιας υδατογραφημένης εικόνας.

Ωστόσο, τα δωρεάν και διαθέσιμα εργαλεία όπως αυτά που μοιράζονται το Hugging Face είναι πολύ καλύτερα από το τίποτα.