AMD Ryzen 7 7840U surclassa Intel Core Ultra 7-155H nei test di intelligenza artificiale, offrendo prestazioni migliori, consumi inferiori e un prezzo più competitivo.
AMD ha condiviso alcune informazioni sulle prestazioni della sua “consumer AI”, con un confronto tra AMD Ryzen 7 7840U (15W) e Intel Core Ultra 7 155H (28W). Nei test sulle prestazioni dei modelli linguistici di grandi dimensioni (LLM) selezionati con Llama 2 e Mistral Instruct 7B, vediamo che la soluzione del team rosso è molto più veloce, consuma meno energia ed è disponibile a un prezzo inferiore. Anche se ci aspettiamo che i produttori di chip scelgano i benchmark, questi risultati mostrano che le prestazioni dell’intelligenza artificiale di Intel non si avvicinano nemmeno alla potenza di elaborazione dell’intelligenza artificiale locale dimostrata da AMD.
Per i suoi test di confronto, AMD ha installato LM Studio sui laptop della concorrenza, un’operazione che, a suo dire, richiede solo pochi minuti. Una volta installato LM Studio, è possibile eseguire vari LLM in locale per la massima privacy, senza costi di abbonamento e senza una connessione a internet. Come abbiamo detto nell’introduzione, Llama 2 e Mistral Instruct 7B sono stati utilizzati per vari compiti. In particolare, AMD ha chiesto alle IA di scrivere una storia più volte, di realizzare una demo con una palla che rimbalza in Unity e di scrivere una poesia. Per avere qualche informazione di base, Llama 2 è un LLM all’avanguardia di Meta, mentre Mistral Instruct 7B è un LLM con 7,3 miliardi di parametri sviluppato da ex sviluppatori di Meta e DeepMind.
AMD ha scelto delle metriche di prestazione per mostrare la bravura di Ryzen, tra cui le misurazioni del “tempo al primo token“, che indica il tempo che intercorre tra l’inserimento di un prompt e la pressione dell’invio fino alla comparsa dei primi risultati. Un’altra misura critica delle prestazioni è “tokens per second“, in cui una risposta LLM viene fornita riga per riga.
Come promemoria delle proprietà dei più recenti chip Ryzen che si allineano all’accelerazione locale dell’intelligenza artificiale, AMD afferma che tre tipi di core possono essere utilizzati di concerto: NPU, RDNA 3 GPU e Zen 4 CPU. Inoltre AMD ha affermato che l’accelerazione AVX512 e VNNI integrata nei core della CPU Zen 4 è alla base dei risultati vincenti che si vedono nei grafici. È interessante, perché ci aspettavamo che ci venisse detto che la NPU è più potente nei processori Phoenix rispetto a Meteor Lake.
Intel è ben consapevole delle prestazioni AI relativamente scarse fornite dalla famiglia Meteor Lake. L’iconico produttore di CPU ha già annunciato ufficialmente che Arrow Lake e Lunar Lake avranno prestazioni AI tre volte superiori per GPU e NPU. La prossima generazione di processori Intel per laptop e desktop è prevista per la fine dell’anno.
