Qualcomm ha annunciato al Mobile World Congress (MWC 2024) di Barcellona una serie di innovazioni che puntano a rivoluzionare l’utilizzo dell’intelligenza artificiale (AI) on-device e tanto altro ancora. Scopriamo tutto nell’articolo.
Al Mobile World Congress (MWC 2024) di Barcellona, Qualcomm ha introdotto una serie di innovazioni, focalizzate principalmente sull’intelligenza artificiale on-device. Grazie ai chip Snapdragon 8 Gen 3 per smartphone e alla piattaforma Snapdragon X Elite per laptop, diventa fattibile l’impiego di vari modelli di AI. Tutto ciò apre la strada agli sviluppatori per creare app e servizi che si avvalgono delle potenzialità offerte da Qualcomm AI Hub. In aggiunta, Qualcomm ha annunciato aggiornamenti per i modem 5G e la tecnologia Wi-Fi 7, migliorando l’uso dell’intelligenza artificiale attraverso connessioni più veloci.
Qualcomm AI Hub
Qualcomm vuole rendere più semplice per gli sviluppatori l’implementazione di funzionalità AI sui telefoni dotati di Snapdragon 8 Gen 3 e sui laptop dotati di Snapdragon X Elite, per questo oggi annuncia Qualcomm AI Hub.
Qualcomm AI Hub è un luogo centrale dove gli sviluppatori possono accedere alle risorse e scaricare e distribuire carichi di lavoro AI su queste piattaforme Snapdragon. Contiene una libreria di oltre 75 modelli AI pre-ottimizzati. Questi modelli sono compressi e ottimizzati per sfruttare gli acceleratori hardware disponibili (NPU, CPU e GPU) all’interno del Qualcomm AI Engine. Ciò si traduce in “tempi di inferenza 4 volte più veloci“, un uso ridotto della memoria e una migliore efficienza energetica.
Gli sviluppatori possono scegliere un modello dalla libreria (come Whisper, ControlNet o Stable Diffusion), indicare quale framework utilizzare per la distribuzione (TensorFlow Lite, PyTorch, ecc.), quindi scegliere una piattaforma di destinazione (chipset o dispositivo specifico) e infine distribuirlo con poche righe di codice. La libreria di modelli AI gestisce automaticamente la traduzione dei modelli dal framework di origine ai runtime più diffusi.
Già da oggi e gli sviluppatori possono iscriversi al Qualcomm AI Hub per eseguire questi modelli su dispositivi ospitati nel cloud e ottenere l’accesso anticipato a nuove funzionalità e modelli AI. In futuro verranno aggiunti nuovi modelli e il supporto per altre piattaforme e sistemi operativi. Qualcomm afferma che questi modelli saranno disponibili anche su Hugging Face e GitHub.
FastConnect 7900
Qualcomm ha annunciato anche il FastConnect 7900, il suo ultimo chip di punta per la connettività dei dispositivi mobili. L’aspetto più interessante del FastConnect 7900 è che integra Wi-Fi, Bluetooth e UWB in un unico chip. Ciò contribuirà ad aumentare l’adozione dell’UWB, che finora è disponibile solo su alcuni dispositivi Android.
UWB, per chi non lo sapesse, è l’acronimo di ultra-wideband (banda ultralarga) ed è una tecnologia di comunicazione wireless a corto raggio che consente una localizzazione ad alta precisione. È comunemente utilizzata per localizzare oggetti smarriti o per facilitare la digitalizzazione delle chiavi dell’auto.
Il FastConnect 7900 supporta anche il Bluetooth Channel Sounding, un’altra tecnologia di localizzazione ad alta precisione che consente di stimare la distanza tra due dispositivi Bluetooth LE. Inolter è molto più precisa rispetto alla misurazione della potenza del segnale tra due dispositivi Bluetooth per determinare la posizione (RSSI).
Naturalmente supporta anche tecnologie Wi-Fi chiave come Wi-Fi 7 e High Band Simultaneous, ma ha anche alcune nuove funzioni Wi-Fi “AI-enhanced”. Qualcomm afferma che il chip utilizza l’intelligenza artificiale per “capire” il contesto in cui si utilizza la connessione Wi-Fi, senza accedere ai dati o eseguire ispezioni approfondite del pacchetto, in modo da ottimizzare le impostazioni Wi-Fi per soddisfare al meglio le esigenze dell’utente.
Qualcomm afferma che il FastConnect 7900 sarà fabbricato su un processo a 6 nm e sarà lanciato sul mercato nella seconda metà del 2024.
Snapdragon X80
Qualcomm non si ferma al MWC 2024 e presenta lo Snapdragon X80, il sistema modem-RF 5G di settima generazione che verrà distribuito nei dispositivi commerciali nel secondo semestre del 2024 (probabilmente nelle ammiraglie dotate del chipset Snapdragon 8 Gen 4 di prossima generazione).
Lo Snapdragon X80 è il primo modem 5G con supporto per le comunicazioni satellitari NB-NTN (narrowband non-terrestrial network) completamente integrato, un’architettura a 6 antenne per smartphone e l’aggregazione di portanti 6X.
La big tech afferma di avere un acceleratore di tensori per alimentare alcune funzionalità “AI”, come l’estensione del raggio d’azione mmWave basata su AI che estende il raggio d’azione per le applicazioni di accesso fixed-wireless. Altri miglioramenti includono un aumento del 30% della precisione di localizzazione, una riduzione del 20% del tempo di selezione della cella migliore, un’acquisizione del collegamento più veloce del 30% e un’acquisizione del servizio CPE più veloce del 60% per le connessioni mmWave.
Qualcomm AI
Il team di ricerca sull’AI di Qualcomm sta mostrando alcune delle capacità di AI on-device dei suoi ultimi chip.
In primo luogo, Qualcomm mostra una demo di Large Language and Vision Assistant (LLaVa), un LMM a 7B parametri che accetta diversi tipi di dati in ingresso, in esecuzione offline su un telefono Android. Nella demo, una persona chiede a un chatbot quali ingredienti sono mostrati in un’immagine di alcuni frutti e verdure, quindi gli chiede di creare una ricetta con quegli ingredienti e di stimare il conteggio delle calorie della ricetta.
Qualcomm presenta anche una dimostrazione di Low Rank Adaptation (LoRA) su un telefono Android. L’esecuzione di Stable Diffusion con un adattatore LoRA leggero consente di modificare il tono/la personalità del modello senza dover ricorrere a più modelli perfezionati. LoRA è utile non solo per i modelli di visione linguistica (LVM), ma anche per i modelli linguistici di grandi dimensioni (LLM) per creare assistenti più personalizzati.
Infine, Qualcomm presenta anche un LMM a 7B parametri che può accettare input testuali e audio in esecuzione offline su un PC Windows. Nella demo, una persona carica un byte sonoro e chiede al chatbot di fornire una descrizione dettagliata dell’audio, dell’ambiente in cui potrebbe essere stato registrato, dell’atmosfera che si respira e dell’epoca in cui è ambientato. Un’altra demo confronta le prestazioni di GIMP con il plugin Stable Diffusion su un PC Snapdragon X Elite rispetto a un PC con CPU Intel Core Ultra 7 – 155H.
