Το deep learning της Google βρίσκει ένα κρίσιμο path στα AI chips #TechWarGR

Πριν από ένα χρόνο, το ZDNet μίλησε με τον διευθυντή του



Google

Brain Jeff Dean για το πώς η εταιρεία χρησιμοποιεί την τεχνητή νοημοσύνη (AI) για να προωθήσει την εσωτερική ανάπτυξη των προσαρμοσμένων τσιπ για να επιταχύνει το λογισμικό της. Ο Dean σημείωσε ότι οι μορφές deep learning της τεχνητής νοημοσύνης μπορούν σε ορισμένες περιπτώσεις να λάβουν καλύτερες αποφάσεις από τους ανθρώπους σχετικά με το “lay out circuitry” σε ένα τσιπ.

Αυτό το μήνα, η



Google

αποκάλυψε στον κόσμο ένα από αυτά τα ερευνητικά projects της, που ονομάζεται Apollo, σε ένα έγγραφο που δημοσιεύτηκε στον server αρχείων arXiv, “Apollo: Transferable Architecture Exploration” και μια συνοδευτική ανάρτηση από τον κύριο συγγραφέα Amir Yazdanbakhsh.

Το Apollo αντιπροσωπεύει μια ενδιαφέρουσα εξέλιξη που ξεπερνά αυτό που υπαινίχθηκε ο Dean στην επίσημη ομιλία του που έγινε πριν από ένα χρόνο στο Διεθνές Συνέδριο Solid State Circuits.

Στο παράδειγμα που έδωσε ο Dean εκείνη την εποχή, το machine learning θα μπορούσε να χρησιμοποιηθεί για ορισμένες αποφάσεις σχεδιασμού χαμηλού επιπέδου, γνωστές ως “place and route”. Στις αποφάσεις «place and route», οι σχεδιαστές τσιπ χρησιμοποιούν λογισμικό για να καθορίσουν τη διάταξη των circuits που σχηματίζουν τις λειτουργίες του τσιπ, ανάλογα με το σχεδιασμό της κάτοψης ενός κτιρίου.

Στο Apollo, αντίθετα, το πρόγραμμα εκτελεί αυτό που ο Yazdanbakhsh και οι συνάδελφοί του αποκαλούν ως «εξερεύνηση αρχιτεκτονικής». Η αρχιτεκτονική ενός τσιπ είναι ο σχεδιασμός των λειτουργικών στοιχείων του τσιπ, πώς αλληλεπιδρούν και πώς οι προγραμματιστές λογισμικού πρέπει να αποκτήσουν πρόσβαση σε αυτά τα λειτουργικά στοιχεία.

Ο Yazdanbakhsh και οι συνάδελφοι του αποκαλούν το Apollo ως την «πρώτη μεταφερόμενη υποδομή εξερεύνησης αρχιτεκτονικής», το πρώτο πρόγραμμα που γίνεται καλύτερο στην εξερεύνηση πιθανών αρχιτεκτονικών chip όσο περισσότερο λειτουργεί σε διαφορετικά chip, μεταφέροντας έτσι ό, τι έχει μάθει σε κάθε νέο task.

Τα



chips

που αναπτύσσει ο Yazdanbakhsh και η ομάδα του είναι τα



chips

AI, γνωστά ως accelerators. Αυτή είναι η ίδια κατηγορία τσιπ με τα GPU



Nvidia

A100 “Ampere” και το τσιπ Cerebras Systems WSE.

Δεδομένου ότι ο στόχος είναι να σχεδιάσουν ένα τσιπ AI, οι αρχιτεκτονικές που εξερευνά το πρόγραμμα Apollo είναι αρχιτεκτονικές κατάλληλες για τη



λειτουργία


νευρωνικών δικτύων

. Η ομάδα ορίζει ως πρόκληση την εύρεση του σωστού συνδυασμού αυτών των μαθηματικών

block

για να ταιριάζει σε ένα AI task.

Πηγή πληροφοριών: zdnet.com