AMD ha recentemente rilasciato ROCm 7.0, la nuova versione della sua piattaforma software per la gestione in parallelo delle unità di calcolo, insieme alla nuova serie di GPU Instinct MI350. Disponibile in versione preliminare, ROCm 7.0 introduce significativi miglioramenti prestazionali per carichi di lavoro legati all’intelligenza artificiale, ponendosi come una soluzione sempre più competitiva nel panorama tecnologico. Questa release si concentra sul supporto per le nuove GPU MI350 e MI355X, integrando nuovi algoritmi, modelli e funzionalità avanzate per applicazioni aziendali, con l’obiettivo di ampliare l’adozione di ROCm su un’ampia gamma di prodotti, incluse le GPU Radeon e i futuri laptop basati su processori Ryzen.
AMD ROCm 7: maggiori ottimizzazioni e prestazioni per l’IA
Uno dei punti di forza di AMD ROCm 7.0 è il miglioramento delle prestazioni nell’inferenza IA. L’azienda dichiara un incremento fino a 3,5 volte rispetto alla versione ROCm 6 per alcuni dei modelli più diffusi. Ad esempio, il modello Llama 3.1 70B ottiene ora un incremento prestazionale di 3,2 volte, Qwen2-72B di 3,4 volte e DeepSeek R1 di 3,8 volte. Inoltre, ROCm 7.0 offre un throughput superiore del 30% su DeepSeek R1 con la GPU MI355X rispetto alla piattaforma Blackwell B200 di NVIDIA basata su CUDA.
Va notato, però, che i confronti con ROCm 6 si riferiscono al momento in cui il supporto per specifici modelli è stato introdotto, non rispetto all’ultima versione stabile, il che rende i dati meno definitivi. Oltre alle prestazioni, la nuova versione introduce nuove capacità tecniche, come il supporto per datatypes avanzati (FP8, FP6, FP4 e precisione mista), essenziali per le moderne attività di inferenza IA. La piattaforma include anche nuovi kernel e algoritmi, come l’autotuning GEMM, meccanismi di attenzione e un sistema di creazione di kernel basato su Python, che migliorano la flessibilità e l’efficienza per gli sviluppatori.
AMD punta a rendere ROCm una piattaforma universale, con piani per estenderne il supporto alle GPU Radeon e ai laptop Ryzen entro la fine del 2025. La versione definitiva di ROCm 7.0 è attesa nello stesso periodo, ma l’azienda invita gli sviluppatori a testare la versione preliminare per esplorarne le potenzialità.
