Η Google κυκλοφορεί το Gemini Nano στο Pixel 8 Pro με Android AICore

Το

Gemini

Nano είναι το πιο αποτελεσματικό μοντέλο της Google που στοχεύει σε εργασίες στη συσκευή και κάνει το ντεμπούτο του στο Pixel 8 Pro σήμερα με το Feature Drop του Δεκεμβρίου 2023.

Το Gemini Nano powers Summarize in Recorder και Gboard Smart Reply στο Pixel 8 Pro. Όταν ανοίγετε μια εγγραφή και μεταβείτε στην καρτέλα “Μεταγραφή”, πατώντας “Σύνοψη” στο επάνω μέρος θα δημιουργήσετε περίπου τρεις κουκκίδες. Δεδομένης της φύσης ολόκληρης της εφαρμογής στη συσκευή, η σύνοψη θα λειτουργεί επίσης όταν είστε εκτός σύνδεσης.

Στο Gboard, το Gemini Nano θα τροφοδοτήσει την Έξυπνη απάντηση για “απαντήσεις υψηλής ποιότητας με επίγνωση συνομιλίας”. Το WhatsApp είναι η πρώτη εφαρμογή που το υποστηρίζει. Θα είναι διαθέσιμο για άλλες εφαρμογές το επόμενο έτος, με την Google να λανσάρει ένα

προεπισκόπηση προγραμματιστή σήμερα

.

Κοιτάζοντας το μέλλον, η Google λέει ότι «η ευρύτερη οικογένεια μοντέλων Gemini θα ξεκλειδώσει νέες δυνατότητες για την εμπειρία Assistant with Bard στις αρχές του επόμενου έτους στο Pixel».

Πίσω από τα παρασκήνια, οι εφαρμογές έχουν πρόσβαση στο Gemini Nano, το οποίο μπορεί επίσης να εκτελέσει προηγμένη διόρθωση και διόρθωση γραμματικής, χρησιμοποιώντας το

Android

AICore. Αυτή είναι η «νέα υπηρεσία συστήματος για μοντέλα θεμελίωσης στη συσκευή» του Android 14 που χειρίζεται τη διαχείριση μοντέλων, τους χρόνους εκτέλεσης και τα χαρακτηριστικά ασφαλείας.

Το AICore επιτρέπει τη λεπτή ρύθμιση της προσαρμογής χαμηλής κατάταξης (LoRA) με το Gemini Nano. Αυτή η ισχυρή ιδέα επιτρέπει στους προγραμματιστές εφαρμογών να δημιουργούν μικρούς προσαρμογείς LoRA με βάση τα δικά τους δεδομένα εκπαίδευσης. Ο προσαρμογέας LoRA φορτώνεται από την AICore, με αποτέλεσμα ένα ισχυρό μοντέλο μεγάλης γλώσσας προσαρμοσμένο για τις περιπτώσεις χρήσης της ίδιας της εφαρμογής.

Εκτός από το απόρρητο και τα δεδομένα που δεν φεύγουν από τη συσκευή σας, η Google τονίζει πώς η φύση της συσκευής “επιτρέπει συνεπείς εμπειρίες με ντετερμινιστικό λανθάνοντα χρόνο, έτσι ώστε οι λειτουργίες να είναι πάντα διαθέσιμες ακόμα και όταν δεν υπάρχει δίκτυο”.

Το AICore είναι ιδιωτικό από τη σχεδίασή του, ακολουθώντας το παράδειγμα του Private Compute Core του Android με απομόνωση από το δίκτυο μέσω API ανοιχτού κώδικα, παρέχοντας διαφάνεια και δυνατότητα ελέγχου. Στο πλαίσιο των προσπαθειών μας να δημιουργήσουμε και να αναπτύξουμε την τεχνητή νοημοσύνη με υπευθυνότητα, δημιουργήσαμε επίσης ειδικά χαρακτηριστικά ασφαλείας για να το κάνουμε πιο ασφαλές και περιεκτικό για όλους.

Η AICore κάνει χρήση της TPU στο

Tensor G3

, ενώ θα υπάρχει επίσης υποστήριξη για NPU στα κορυφαία

τσιπ

Qualcomm, Samsung και MediaTek. Η Google λέει ότι άλλες συσκευές και συνεργάτες πυριτίου θα ανακοινωθούν «τους επόμενους μήνες».

Το Gemini Nano έχει αποσταχθεί από τα μεγαλύτερα μοντέλα Gemini και έχει βελτιστοποιηθεί ειδικά για να λειτουργεί με κινητούς επιταχυντές πυριτίου.