Questo è il 2U4

Jan 17, 2024

Al Computex 2023, abbiamo visto un server NVIDIA Grace Superchip 2U a 4 nodi di ASUS. Soprannominato ASUS RS720QN-E11-RS24U, combina lo chassis 2U da 2,5″ a 24 alloggiamenti che abbiamo visto in numerose recensioni ASUS con quattro nodi NVIDIA Grace Superchip.

Una cosa interessante è che il modulo NVIDIA Grace Superchip sembra sbalorditivo, ma non è quello che vediamo distribuito in molti server. Eppure, ecco il modulo nella sua skin di bellezza.

Per rinfrescare la memoria, una CPU NVIDIA Grace è un design Arm Neoverse V2 a 72 core. NVIDIA afferma che due di queste CPU a 72 core nella configurazione chiamata "Grace Superchip" dovrebbero ottenere uno SPECint_rate_2017 di circa 740. Si tratta di un numero stimato poiché non sono stati presentati risultati ufficialmente. Alcune pubblicazioni affermano che questa soluzione dual-chip con 144 core è la CPU (o configurazione dual-CPU) più veloce sul mercato. ASUS con un singolo AMD EPYC 9654 è a 898 qui come esempio. Dati i numeri stimati da NVIDIA, la soluzione dual Grace dovrebbe essere competitiva con AMD EPYC "Genoa" a socket singolo da 84-96 core sul lato intero.

Ciò che questa soluzione ha è un'interconnessione chip-to-chip ad alta velocità e memoria LPDDR5X con ECC integrato.

A 500 W, con la memoria inclusa in quella cifra, è abbastanza efficiente dal punto di vista energetico. L'AMD EPYC 9654 ha un TDP da 360 W ma ha anche 12 canali di memoria che possono utilizzare altri 60 W+. Ciò che NVIDIA ottiene con questo, tuttavia, sono 960 GB di memoria ECC con circa 1 TB/s di larghezza di banda della memoria. Quindi il superchip NVIDIA Grace è realmente progettato per un'elevata larghezza di banda della memoria senza utilizzare la memoria HBM come la CPU Intel Xeon MAX.

Poiché questo è il nostro primo pezzo su un sistema con NVIDIA Grace Superchip, volevamo fare un po' di chiarezza sui chip poiché NVIDIA è diventata popolare e i siti di consumo dicono che questo è il chip più veloce senza spiegare come sia il più veloce.

Ecco le specifiche rapide dell'ASUS RS720QN-E11-RS24U. Qualcosa di interessante è che ASUS afferma LPDDR5 a 512G/256G. I moduli dovrebbero essere forniti con LPDDR5X nelle configurazioni da 240 GB, 480 GB e 960 GB (con ECC.)

Il sistema assomiglia alla maggior parte dei nodi ASUS, con I/O e gestione posteriori. Una grande differenza è che qui non otteniamo il LED del codice POST.

All'interno del sistema abbiamo due slot PCIe Gen5 e uno slot OCP NIC 3.0. Possiamo anche vedere l'ASPEED BMC a bordo.

Il superchip NVIDIA Grace ha un enorme dissipatore di calore personalizzato per lo chassis e che corre lungo l'intera larghezza del nodo. Questo è in realtà un grande elemento di differenziazione rispetto agli attuali server x86 in cui i dissipatori di calore sono limitati all'area attorno al socket degli slot DIMM. Da un punto di vista rinfrescante, Grace ha molto senso.

Un'altra caratteristica interessante è che, oltre ai sei alloggiamenti anteriori da 2,5″ per nodo, è presente un doppio modulo M.2 per le unità di avvio.

Il nodo si collega allo chassis tramite connettori ad alta densità.

Non ci concentreremo troppo sul telaio poiché è qualcosa che abbiamo già visto in precedenza.

Nel complesso, è stato fantastico poter vedere di persona il sistema NVIDIA Grace Superchip. La memoria LPDDR5X integrata offre a questa soluzione molta larghezza di banda di memoria insieme ai 144 core Arm Neoverse V2. Ciò che probabilmente abbiamo sottovalutato prima di vedere i sistemi è quanto la memoria integrata cambi il modo in cui possono essere realizzate soluzioni di raffreddamento per questi server poiché non devono tenere conto dell'altezza degli slot DIMM.

Speriamo di poter vedere presto altri di questi sistemi nel laboratorio STH.