Insieme al suo ultimo lotto di nuove piattaforme mobili per smartphone di fascia media, Qualcomm ha fatto un annuncio ancora più grande al suo AI Day a San Francisco. Il gigante dei chip mobili sta facendo un altro gioco per i server, dopo aver abbandonato la gamma Centriq nel 2018. Questa volta, l'azienda sta sfruttando le sue tecnologie nel campo dell'IA per mettere piede nella porta del cloud computing. Il primo chip che abbiamo soprannominato la piattaforma Qualcomm Cloud AI 100.
La piattaforma Cloud AI 100 non è un riconfezionamento di chip mobile, è un progetto da 7 nm per le attività di inferenza dell'IA piuttosto che una formazione. Ciò significa che il chip scricchiolerà i numeri che passano attraverso le reti neurali piuttosto che essere utilizzato per addestrarli. Ciò sembra mettere Qualcomm in diretta concorrenza con la serie Tesla T4 di Nvidia e i chip di inferenza TPU di Google Edge progettati per server e cloud computing. Proprio come i suoi concorrenti, Qualcomm ha capito che l'elaborazione dell'IA più efficiente non viene eseguita su CPU, GPU e FGPA, ma richiede un acceleratore AI dedicato.
In termini di prestazioni, Qualcomm stima un aumento delle prestazioni dell'IA di picco superiore a 50x rispetto alle capacità del suo Snapdragon 855. Lo Snapdragon 855 offre circa 7 TOP di prestazioni, il che suggerisce che il Cloud AI 100 è nella gamma di 350 TOP. Questo sicuramente darà alla T4 di Nvidia una corsa per i suoi soldi. Qualcomm ritiene di avere anche il vantaggio in termini di prestazioni per watt, con un miglioramento di 10 volte rispetto alle soluzioni di inferenza AI più avanzate del settore implementate oggi. Quando si eseguono grandi numeri, l'efficienza energetica può far risparmiare alle aziende ingenti somme nelle bollette dell'elettricità. Inoltre, Qualcomm vuole sfruttare la sua esperienza nell'elaborazione del segnale e nel 5G, in modo che la sua piattaforma cloud possa funzionare ai margini nelle future reti a latenza molto bassa.
Quando è stato chiesto, Qualcomm non ha commentato se l'architettura utilizzata nel Cloud AI 100 fosse proprietaria o concessa in licenza altrove. Mi chiedo se questa sia la prima apparizione dell'architettura AI di Trillium di Arm, progettata anche per carichi di lavoro di inferenza con un budget a basso consumo. Ma abbastanza speculazioni, Qualcomm afferma che in futuro condividerà ulteriori informazioni sulla sua architettura AI.
Infine, per supportare gli sviluppatori, il cloud AI 100 di Qualcomm funziona con la maggior parte, se non tutte, le pile di software leader del settore. C'è il supporto per i framework Caffe, Keras, mxnet, TensorFlow, PaddlePaddle e Cognitive Toolkit, insieme ai runtime Glow, OnnX e XLA.
Si prevede che Qualcomm Cloud AI 100 inizierà il campionamento ai clienti
