Δείτε πώς το παλιό σας iPhone μπορεί να αποκτήσει τεχνητή νοημοσύνη που δημιουργείται στη συσκευή

Αναμένουμε πολλά τηλέφωνα ναυαρχίδας Android που θα προσφέρουν δυνατότητες δημιουργίας τεχνητής νοημοσύνης στη συσκευή το 2024, αλλά η Apple ήταν αρκετά ήσυχη από αυτή την άποψη. Τώρα, μια νέα ερευνητική εργασία που δημοσιεύτηκε από την εταιρεία αποκάλυψε πώς η εταιρεία θα μπορούσε να κάνει την τεχνητή νοημοσύνη να λειτουργεί τοπικά στα iPhone της.

ο


Financial Times


εντόπισε ένα

Ερευνητικό έγγραφο της Apple

που περιγράφει λεπτομερώς μια λύση για την εκτέλεση μοντέλων μεγάλων γλωσσών (LLM) σε συσκευές με περιορισμένη μνήμη RAM. Το έγγραφο αποκαλύπτει πώς η Apple μπορούσε να διατηρήσει τις «παραμέτρους του μοντέλου» στον αποθηκευτικό χώρο και να φέρει κομμάτια τους στη μνήμη RAM της συσκευής όπως απαιτείται, σε αντίθεση με τη φόρτωση ολόκληρου του μοντέλου στη μνήμη RAM.

«Αυτές οι μέθοδοι συλλογικά επιτρέπουν σε μοντέλα που εκτελούνται έως και το διπλάσιο του μεγέθους της διαθέσιμης DRAM, με 4-5x και 20-25x αύξηση στην ταχύτητα συμπερασμάτων σε σύγκριση με απλές προσεγγίσεις φόρτωσης σε CPU και GPU, αντίστοιχα», αναφέρεται σε ένα απόσπασμα της εργασίας.

Μια διαδρομή για τα παλιά iPhone για να αποκτήσουν τεχνητή νοημοσύνη στη συσκευή;

Η τεχνητή νοημοσύνη που δημιουργείται στη συσκευή επωφελείται από την άφθονη μνήμη RAM, καθώς προσφέρει μεγαλύτερες ταχύτητες ανάγνωσης/εγγραφής από τον αποθηκευτικό χώρο που χρησιμοποιείται σε τηλέφωνα premium. Οι γρήγορες ταχύτητες είναι υψίστης σημασίας για την τεχνητή νοημοσύνη στη συσκευή, επιτρέποντας πολύ πιο γρήγορους χρόνους συμπερασμάτων, καθώς οι χρήστες δεν χρειάζεται απαραίτητα να περιμένουν δεκάδες δευτερόλεπτα (ή περισσότερα) για να λάβουν απόκριση ή τελικό αποτέλεσμα. Όλα αυτά σημαίνουν έναν βοηθό τεχνητής νοημοσύνης στη συσκευή που θα μπορούσε ενδεχομένως να λειτουργεί με ταχύτητες συνομιλίας, πολύ πιο γρήγορη δημιουργία εικόνων/κειμένου, πιο γρήγορες περιλήψεις άρθρων και πολλά άλλα. Αλλά η λύση της Apple σημαίνει ότι δεν χρειάζεστε απαραίτητα άφθονη μνήμη RAM για τεχνητή νοημοσύνη στη συσκευή με απόκριση.

Η προσέγγιση της Apple θα μπορούσε να επιτρέψει στα παλιά και στα νέα iPhone να προσφέρουν χαρακτηριστικά τεχνητής νοημοσύνης που δημιουργούνται στη συσκευή, καθώς οι συσκευές της Apple γενικά προσφέρουν λιγότερη RAM από πολλά τηλέφωνα premium Android. Για παράδειγμα, η σειρά

iPhone 11

προσφέρει μόνο 4 GB RAM, ενώ ακόμη και το iPhone 15 vanilla προσφέρει 6 GB RAM.

Η Apple δεν είναι η μόνη συσκευή αναπαραγωγής κινητών που εργάζεται για να μειώσει το αποτύπωμα των LLM. Τόσο οι πρόσφατοι κορυφαίοι επεξεργαστές της Qualcomm όσο και της MediaTek υποστηρίζουν την ακρίβεια INT4 για τη συρρίκνωση αυτών των μοντέλων. Είτε έτσι είτε αλλιώς, είμαστε σίγουροι ότι ο κλάδος θα συνεχίσει να βρίσκει νέους τρόπους για να μειώσει τις απαιτήσεις συστήματος για τεχνητή νοημοσύνη στη συσκευή, επιτρέποντας ενδεχομένως ακόμη και σε τηλέφωνα χαμηλού επιπέδου να προσφέρουν αυτές τις δυνατότητες.