Η CalypsoAI συγκεντρώνει 23 εκατομμύρια δολάρια για να προσθέσει προστατευτικά κιγκλιδώματα σε μοντέλα παραγωγής τεχνητής νοημοσύνης

Οι εταιρείες αυξάνονται

αγκαλιάζοντας

γενετικό AI. Αλλά δεν εξετάζουν απαραίτητα όλους τους αποκλεισμούς και τις προκλήσεις που συνοδεύουν την αναδίπλωση της τεχνολογίας στις υπάρχουσες ροές εργασίας τους.

Σε ένα πρόσφατο

επισκόπηση

από την KPMG, το 90% των επιχειρήσεων δήλωσαν ότι είχαν «μέτριες έως πολύ σημαντικές» ανησυχίες σχετικά με τους κινδύνους της χρήσης γενετικής τεχνητής νοημοσύνης και αμφιβολίες σχετικά με τον τρόπο μετριασμού αυτών των κινδύνων. Μόνο το 6%, εν τω μεταξύ, δήλωσε ότι αισθάνεται ότι η εταιρεία τους είχε ένα ώριμο πρόγραμμα διακυβέρνησης AI.

Είναι εν μέρει για αυτούς τους λόγους που ίδρυσε ο Neil Sereybrany

CalypsoAI

μια startup που αναπτύσσει λογισμικό για τη δοκιμή, την επικύρωση και την παρακολούθηση εφαρμογών τεχνητής νοημοσύνης που έχουν αναπτυχθεί εσωτερικά καθώς και τρίτων κατασκευαστών πριν από την ανάπτυξή τους.

«Η πλατφόρμα του CalypsoAI προωθεί τη δύναμη και το ανταγωνιστικό πλεονέκτημα που μπορεί να προσφέρει η χρήση της τεχνητής νοημοσύνης, αλλά με έναν ασφαλή, ασφαλή και αξιόπιστο τρόπο», είπε ο Sereybrany στο TechCrunch σε μια συνέντευξη μέσω email.

Αυτό θέτει τον πήχη ψηλά. Αλλά οι επενδυτές πιστεύουν προφανώς στην ικανότητα της CalypsoAI να προσφέρει. Η startup ανακοίνωσε σήμερα ότι συγκέντρωσε 23 εκατομμύρια δολάρια σε έναν γύρο Series A-1 υπό την ηγεσία της Paladin Capital Group με τη συμμετοχή των Lockheed Martin Ventures, Hakluyt Capital και Expeditions Fund.

Σημαντικοί άγγελοι συνεισέφεραν επίσης στη δόση A-1, συμπεριλαμβανομένης της πρώην CEO του YouTube, Susan Wojcicki και της αδερφής της, της συνιδρύτριας του 23andMe, Anne Wojcicki. Μέχρι σήμερα, η CalypsoAI έχει συγκεντρώσει 38,2 εκατομμύρια δολάρια.

Η CalypsoAI ισχυρίζεται ότι τα εργαλεία της – που αναπτύσσονται ως κοντέινερ στην υποδομή ενός οργανισμού – επιτρέπουν στις επιχειρήσεις να παρακολουθούν και να διαμορφώνουν τη χρήση μεγάλων γλωσσικών μοντέλων όπως το ChatGPT, μέσω πινάκων εργαλείων που δείχνουν στατιστικά στοιχεία σχετικά με την τοξικότητα των μοντέλων, την αφοσίωση των χρηστών και άλλα. Ο Sereybrany λέει ότι το CalypsoAI μπορεί να αποτρέψει την κοινή χρήση ευαίσθητων εταιρικών δεδομένων σε μοντέλα, ενώ ταυτοποιεί επιθέσεις που προέρχονται από εργαλεία παραγωγής τεχνητής νοημοσύνης.

«Ενώ κάθε εταιρεία θέλει να αποκομίσει τα οφέλη των λύσεων τεχνητής νοημοσύνης που δημιουργούνται – δηλαδή τα σαφή κέρδη παραγωγικότητας – θέλει επίσης να βεβαιωθεί ότι δεν υπόκεινται σε κυβερνοεπιθέσεις και ότι οι εργαζόμενοι δεν εκθέτουν ευαίσθητες πληροφορίες σε δημόσια μοντέλα», πρόσθεσε ο Sereybrany. «Με την εφαρμογή του CalypsoAI, οι CISO και οι ηγέτες πληροφορικής μπορούν να αρχίσουν να εξετάζουν σοβαρά την εφαρμογή λύσεων τεχνητής νοημοσύνης που δημιουργούνται στους οργανισμούς τους με ασφαλή και ασφαλή τρόπο – επιτρέποντάς τους να εισάγουν αποτελεσματικότητες στην επιχείρησή τους χωρίς τον πρόσθετο κίνδυνο».

Σίγουρα, υπάρχει ζήτηση στον εταιρικό τομέα για κάποιου είδους παραγωγική λύση προστατευτικών κιγκλιδωμάτων AI. Από φόβο ότι οι εργαζόμενοι μπορεί να εκθέσουν κατά λάθος πληροφορίες αποκλειστικής ιδιοκτησίας, εταιρείες όπως η Apple, η JPMorgan Chase και η Verizon έχουν

απαγορεύεται ή περιορίζεται

τη χρήση εργαλείων που μοιάζουν με ChatGPT εσωτερικά. Πολλές από αυτές τις ίδιες εταιρείες είναι επιφυλακτικές για τα ζητήματα τοξικότητας και παραπληροφόρησης της γενετικής τεχνητής νοημοσύνης, τα οποία συνεχίζουν να μαστίζουν ακόμη και τα καλύτερα μοντέλα που είναι διαθέσιμα σήμερα.

Ο κλάδος, λαμβάνοντας υπόψη τις τεράστιες δυνατότητες διευθυνσιοδοτούμενης αγοράς, έχει αυξηθεί για να καλύψει τη ζήτηση. Η Microsoft προσφέρει την υπηρεσία Azure OpenAI, η οποία παρέχει δυνατότητες διακυβέρνησης και συμμόρφωσης πάνω από τα μοντέλα τεχνητής νοημοσύνης που δημιουργούνται από το OpenAI, συμπεριλαμβανομένου του ChatGPT. Σε άλλο σημείο, η Salesforce κυκλοφόρησε πρόσφατα το Einstein Trust Layer, το οποίο προσπαθεί να εμποδίσει τα μοντέλα που δημιουργούν κείμενο να διατηρούν ευαίσθητα δεδομένα.

Το πόσο καλά λειτουργούν αυτά τα προστατευτικά κιγκλιδώματα στην πράξη είναι ένα ανοιχτό ερώτημα, ωστόσο. Θέτοντας υπό αμφισβήτηση τους ισχυρισμούς ενός προμηθευτή, οι ερευνητές ανακάλυψαν πρόσφατα ελαττώματα στο NeMo Guardrails, το κιτ εργαλείων της Nvidia που στοχεύει να κάνει τις εφαρμογές με τεχνητή νοημοσύνη πιο ακριβείς και ασφαλείς, που επιτρέπει την παράκαμψη των προστασιών του κιτ εργαλείων.

Ο Sereybrany επέμεινε — όσο αξίζει — ότι τα προϊόντα της CalypsoAI είναι ανθεκτικά στην επίθεση. Στην ίδια ανάσα, τόνισε ότι η CalypsoAI δεν διατηρεί δεδομένα από τους πελάτες της, αλλά απλώς διευκολύνει τη ροή πληροφοριών από τους υπαλλήλους στο μοντέλο της επιλογής μιας εταιρείας.

«Η διασφάλιση των LLMs στην επιχείρηση έχει γίνει ένα κρίσιμο εγχείρημα, το οποίο οδήγησε στη στρατηγική στροφή της CalypsoAI για την αντιμετώπιση των αναγκών των επιχειρήσεων που θέλουν να χρησιμοποιήσουν λύσεις τεχνητής νοημοσύνης», δήλωσε ο Sereybrany. “

Με πολλούς οργανισμούς που θέλουν να χρησιμοποιήσουν με ασφάλεια παραγωγικές λύσεις τεχνητής νοημοσύνης για να τους προωθήσουν

Η CalypsoAI αισθάνεται σίγουρη για την ικανότητά μας να αναπτύξουμε το καλύτερο δυνατό προϊόν και να προσελκύσουμε τα καλύτερα ταλέντα για την ασφάλεια των επιχειρηματικών οργανισμών».

Ο Sereybrany λέει ότι η CalypsoAI θα χρησιμοποιήσει τη χρηματοδότηση από την τελευταία δόση για να προωθήσει την ανάπτυξη προϊόντων, τις προσλήψεις και τις πρωτοβουλίες της εταιρείας για προώθηση στην αγορά. Ο τρέχων αριθμός εργαζομένων της CalypsoAI ανέρχεται σε 35 υπαλλήλους και η startup άνοιξε πρόσφατα ένα γραφείο στο Δουβλίνο – μέρος του σχεδίου της CalypsoAI να διπλασιάσει το εργατικό της δυναμικό τα επόμενα δύο χρόνια.

«Καθώς η εταιρεία μας συνεχίζει να αναπτύσσεται και να επεκτείνεται, αναγνωρίζουμε την αξία της προσέλκυσης νέων επενδυτών για να στηρίξουμε την ανάπτυξή μας», συνέχισε. «Συνεργαζόμενοι με επενδυτές που μοιράζονται το όραμα και τους στόχους μας, μπορούμε να συνεχίσουμε να καινοτομούμε και να οδηγούμε την επιχείρησή μας προς τα εμπρός».