Ασφάλεια βάσει σχεδίου: Η σημασία της τεχνολογίας στην ασφάλεια δεδομένων

W



καλώς ήρθατε στο TechCrunch Exchange, ένα εβδομαδιαίο ενημερωτικό δελτίο startups-and-market. Είναι εμπνευσμένο από την καθημερινή στήλη TechCrunch+ όπου πήρε το όνομά του. Το θέλετε στα εισερχόμενά σας κάθε Σάββατο; Εγγραφείτε εδώ.

Η ικανότητα της τεχνολογίας να

επα

νεφεύρει

ο τροχός έχει τα μειονεκτήματά του: Μπορεί να σημαίνει ότι αγνοείς κραυγαλέες αλήθειες που άλλοι έχουν ήδη μάθει. Αλλά τα καλά νέα είναι ότι οι νέοι ιδρυτές μερικές φορές το καταλαβαίνουν μόνοι τους πιο γρήγορα από τους προκατόχους τους. —


Άννα

AI, εμπιστοσύνη και ασφάλεια

Φέτος είναι Ολυμπιακή χρονιά, δίσεκτη. . . και επίσης

ο

εκλογικό έτος. Αλλά πριν με κατηγορήσεις

Η χρεοκοπία των ΗΠΑ

δεν σκέφτομαι μόνο τη συνέχεια του Μπάιντεν εναντίον Τραμπ: Περισσότερες από 60 χώρες είναι

διεξαγωγή εθνικών εκλογών

για να μην αναφέρουμε το Ευρωπαϊκό Κοινοβούλιο.

Με ποιον τρόπο κάθε μία από αυτές τις ψηφοφορίες μπορεί να έχει αντίκτυπο στις εταιρείες τεχνολογίας. Για παράδειγμα, διαφορετικά μέρη τείνουν να έχουν διαφορετικές αντιλήψεις για τη ρύθμιση της τεχνητής νοημοσύνης. Αλλά πριν καν διεξαχθούν εκλογές, η τεχνολογία θα έχει επίσης να παίξει έναν ρόλο για να εγγυηθεί την ακεραιότητά τους.

Η εκλογική ακεραιότητα πιθανότατα δεν ήταν στο μυαλό του Mark Zuckerberg όταν δημιούργησε το Facebook, και ίσως ούτε καν όταν αγόρασε το WhatsApp. Όμως, 20 και 10 χρόνια αργότερα, αντίστοιχα, η εμπιστοσύνη και η ασφάλεια είναι πλέον μια ευθύνη που η Meta και άλλοι τεχνολογικοί γίγαντες δεν μπορούν να ξεφύγουν, είτε τους αρέσει είτε όχι. Αυτό σημαίνει ότι θα εργαστείτε για την

πρόληψη

της

παραπληροφόρηση

ς, της απάτης, της ρητορικής μίσους, του CSAM (υλικό σεξουαλικής κακοποίησης παιδιών), του αυτοτραυματισμού και πολλά άλλα.

Ωστόσο, η τεχνητή νοημοσύνη πιθανότατα θα κάνει το έργο πιο δύσκολο, και όχι μόνο λόγω των deepfakes ή λόγω της ενδυνάμωσης μεγαλύτερου αριθμού κακών ηθοποιών. Λέει ο Lotan Levkowitz, γενικός συνεργάτης της

Grove Ventures

:

Όλες αυτές οι πλατφόρμες εμπιστοσύνης και ασφάλειας έχουν αυτό

βάση δεδομένων κατακερματισμού

, ώστε να μπορώ να ανεβάσω εκεί τι είναι κακό, να μοιραστώ με όλες τις κοινότητές μου και όλοι μαζί θα το σταματήσουν. αλλά σήμερα, μπορώ να εκπαιδεύσω το μοντέλο να προσπαθεί να το αποφύγει. Έτσι, ακόμη και η πιο κλασική εργασία εμπιστοσύνης και ασφάλειας, λόγω της Gen AI, γίνεται όλο και πιο σκληρή επειδή ο αλγόριθμος μπορεί να βοηθήσει στην παράκαμψη όλων αυτών των πραγμάτων.

Από εκ των υστέρων στο προσκήνιο

Παρόλο που τα διαδικτυακά φόρουμ είχαν ήδη μάθει πολλά σχετικά με την εποπτεία περιεχομένου, δεν υπήρχε κανένα βιβλίο αναπαρ

αγωγή

ς κοινωνικών δικτύων που να ακολουθούσε το Facebook όταν γεννήθηκε, επομένως είναι κάπως κατανοητό ότι θα χρειαζόταν λίγος χρόνος για να ανταποκριθεί στην εργασία. Αλλά είναι απογοητευτικό να μαθαίνουμε από εσωτερικά έγγραφα του Meta ότι ήδη από το 2017, υπήρχε ακόμη εσωτερική απροθυμία να υιοθετηθούν μέτρα που θα μπορούσαν να προστατεύσουν καλύτερα τα παιδιά.

Ο Ζάκερμπεργκ ήταν ένας από τους πέντε CEOs τεχνολογίας μέσων κοινωνικής δικτύωσης που εμφανίστηκαν πρόσφατα σε ακρόαση της Γερουσίας των ΗΠΑ για την ασφάλεια των παιδιών στο διαδίκτυο. Η κατάθεση δεν ήταν μακράν η πρώτη για τον Meta, αλλά ότι συμπεριλήφθηκε το

Discord

αξίζει επίσης να σημειωθεί. Ενώ έχει διακλαδιστεί πέρα ​​από τις ρίζες του στα παιχνίδια, είναι μια υπενθύμιση ότι απειλές εμπιστοσύνης και ασφάλειας μπορεί να προκύψουν σε πολλά διαδικτυακά μέρη. Αυτό σημαίνει ότι μια εφαρμογή κοινωνικού παιχνιδιού, για παράδειγμα, θα μπορούσε επίσης να θέσει τους χρήστες της σε κίνδυνο phishing ή περιποίησης.

Θα αποκτήσουν οι νεότερες εταιρείες γρηγορότερα από τα FAANG; Αυτό δεν είναι εγγυημένο: Οι ιδρυτές συχνά λειτουργούν με βάση τις πρώτες αρχές, κάτι που είναι καλό και κακό. ο

καμπύλη μάθησης μετριοπάθειας περιεχομένου

είναι αληθινό. Αλλά το OpenAI είναι πολύ νεότερο από το Meta, επομένως είναι ενθαρρυντικό να ακούς ότι σχηματίζει μια νέα ομάδα για τη μελέτη της ασφάλειας των παιδιών — ακόμα κι αν αυτό μπορεί να είναι αποτέλεσμα του ελέγχου στον οποίο υποβάλλεται.

Ορισμένες startups, ωστόσο, δεν περιμένουν σημάδια προβλημάτων για να αναλάβουν δράση. Πάροχος λύσεων εμπιστοσύνης και ασφάλειας με δυνατότητα τεχνητής νοημοσύνης και μέρος του χαρτοφυλακίου της Grove Ventures,

ActiveFence

βλέπει περισσότερα εισερχόμενα αιτήματα, μου είπε ο CEO Noam Schwartz.

«Έχω δει πολλούς ανθρώπους να προσεγγίζουν την ομάδα μας από εταιρείες που μόλις ιδρύθηκαν ή ακόμη και πριν ξεκινήσουν. Σκέφτονται την ασφάλεια των προϊόντων τους κατά τη φάση του σχεδιασμού [and] υιοθετώντας μια έννοια που ονομάζεται ασφάλεια από το σχεδιασμό. Ψήνουν σε μέτρα ασφαλείας μέσα στα προϊόντα τους, με τον ίδιο τρόπο που σήμερα σκέφτεστε την ασφάλεια και το απόρρητο όταν δημιουργείτε τα χαρακτηριστικά σας».

Το ActiveFence δεν είναι η μόνη εκκίνηση σε αυτόν τον χώρο, η οποία

Ενσύρματο

περιγράφεται ως «εμπιστοσύνη και ασφάλεια ως υπηρεσία». Αλλά είναι ένα από τα μεγαλύτερα, ειδικά από τότε που εξαγόρασε τη Spectrum Labs τον Σεπτέμβριο, οπότε είναι καλό να ακούμε ότι στους πελάτες του περιλαμβάνονται όχι μόνο μεγάλα ονόματα που φοβούνται τις κρίσεις δημοσίων σχέσεων και ο πολιτικός έλεγχος, αλλά και μικρότερες ομάδες που μόλις ξεκινούν. Η τεχνολογία, επίσης, έχει την ευκαιρία να μάθει από λάθη του παρελθόντος.