MediaTek ha annunciato una nuova collaborazione con Meta per implementare il modello Llama 2 di intelligenza artificiale nei loro nuovi processori su smartphone.
Dopo Qualcomm, anche il colosso taiwanese produttore di semiconduttori per smartphone e tablet ha stretto una collaborazione con Meta, lo scopo è quello di integrare nella futura piattaforma Dimensity il modello di linguaggio Llama 2 per portare l’intelligenza artificiale generativa su smartphone in modo nativo. In tal modo, le attività di IA otterranno: maggiore velocità; meno latenza; maggiore privacy (essendo svolte in locale); funzionamento in assenza di rete.
MediaTek ha confermato che il processore di nuova generazione verrà lanciato sugli smartphone entro la fine dell’anno, il presunto Dimensity 9300 utilizzerà uno stack software ottimizzato per eseguire Llama 2 in locale e un’APU (Accelerated Processing Unit) potenziata dall’accelerazione del backbone Transformer.
È un componente fondamentale del processore che va a ridurre l’utilizzo della larghezza di banda DRAM migliorandone le prestazioni di LLM e AIGC trasformando lo smartphone in una console portatile. Nei Dimensity 9200 e 9200+ abbiamo visto l’APU 690, quindi, è lecito aspettarci l’utilizzo dell’APU 790 di 7° generazione.
La collaborazione tra le aziende tecnologiche permetterà di utilizzare l’IA direttamente sul proprio dispositivo senza dover utilizzare una connessione ad Internet. Questa nuova rivoluzione nel settore mobile e IA porterà a nuove funzioni potenziando notevolmente le prestazioni e le capacità degli smartphone.
Il Vice President e General Manager della Wireless Communications Business Unit di MediaTek, ha affermato in un comunicato stampa:
Il nostro obiettivo è quella di fornire una società di sviluppatori e utenti di Llama 2 con gli strumenti necessari per innovare del tutto nello spazio dell’IA. Grazie alla nostra partnership con Meta, possiamo procurare hardware e software con diverse capacità che mai nell’Edge.
Anche se MediaTek non ha specificato il nome del nuovo processore, probabilmente si tratterà del Dimensity 9300, un SoC formato solo da core a potenza alta e intermedia; se fosse davvero così, sarebbe la prima volta che vediamo un SoC senza core ad alta efficienza. Secondo i rumors, il nuovo processore utilizzerà quattro core CPU Arm Cortex-X4 ad alta potenza e quattro A720 a potenza intermedia, confermata anche la GPU Immortalis-G720.
Cos’è l’IA di Llama 2
Il mese scorso, Meta società proprietaria di Mark Zuckerberg ha collaborato con Microsoft per lanciare il nuovo software di intelligenza artificiale Llama 2 utilizzato per scopi personali, commerciali, ricerca e controlli di sicurezza. A differenza di altri programmi basati sull’IA come ChatGPT di OpenAI e Bard di Google, il nuovo modello di linguaggio chiamato Llama 2 è un software open source ed è completamente gratuito in modo tale da sostenere un ecosistema AI più accessibile e trasparente.
