Server AI NVIDIA B300 Blackwell

Caratteristiche del prodotto

Prestazioni IA estreme

Alimentato dalle GPU NVIDIA Blackwell B300, questo server offre un throughput significativamente più elevato sia per l'addestramento che per l'inferenza rispetto alle generazioni precedenti. Supporta la precisione FP8 e FP4, accelerando i cicli di addestramento di modelli di grandi dimensioni fino a 3 volte.

Ottimizzato per modelli linguistici di grandi dimensioni (LLM)

L'architettura è personalizzata per modelli simili a GPT, deep learning e carichi di lavoro di intelligenza artificiale generativa, inclusa la gestione efficiente di finestre di contesto lunghe. Incorpora inoltre il parallelismo di modelli e pipeline per semplificare l'addestramento distribuito di modelli da trilioni di parametri.

Memoria con larghezza di banda ultraelevata

Dotata di memoria HBM3e di nuova generazione, ciascuna GPU offre fino a 288 GB di capacità e oltre 10 TB/s di larghezza di banda. Ciò elimina i colli di bottiglia della memoria, consentendo dimensioni batch più grandi e lunghezze di sequenza più lunghe per attività AI impegnative.

Architettura multi-GPU scalabile

Con NVLink e NVSwitch di quarta generazione, il server AI NVIDIA B300 Blackwell supporta topologie multi-GPU completamente interconnesse (8, 16 o più) con larghezza di banda bidirezionale fino a 900 GB/s. Ciò garantisce una scalabilità quasi lineare per la formazione distribuita sia a nodo singolo che a livello di cluster.

Design efficiente dal punto di vista energetico

Le prestazioni per watt migliorate, fino a 2,5 volte rispetto alle generazioni precedenti, riducono i costi operativi del data center. Le opzioni di raffreddamento ibrido (aria e liquido) consentono una maggiore densità di elaborazione entro i budget energetici esistenti.

Centro dati pronto

Costruito secondo gli standard OCP con alimentazione a 48 V e supporto API Redfish per un'integrazione perfetta nei sistemi di gestione esistenti. L'alimentazione e le ventole ridondanti, oltre a un MTBF >100.000 ore, garantiscono un'affidabilità di livello aziendale 24 ore su 24, 7 giorni su 7.

Scenari applicativi

Formazione e perfezionamento del modello linguistico di grandi dimensioni:Dal pre-addestramento di modelli da trilioni di parametri all'ottimizzazione delle istruzioni e all'RLHF.

Inferenza AI generativa multimodale: offerta ad alto throughput per testo in immagine, generazione di video e creazione di contenuti 3D.

Calcolo scientifico e gemelli digitali: accelera le simulazioni climatiche, la scoperta di farmaci e i gemelli digitali industriali in tempo reale.

Sistemi di consigli personalizzati: memorizza enormi tabelle di incorporamento in HBM per inferenza online a bassa latenza e ad alto throughput.

Guida autonoma e robotica: addestra modelli di percezione e pianificazione su milioni di ore di guida simulate e supporta l'apprendimento end-to-end per l'intelligenza artificiale incorporata.

Cos'è il server AI NVIDIA B300 Blackwell?

Il server AI NVIDIA B300 Blackwell è una piattaforma per data center di prossima generazione basata sull'architettura GPU Blackwell, progettata appositamente per l'intelligenza artificiale generativa su larga scala, la formazione LLM e l'elaborazione ad alte prestazioni. Combina una larghezza di banda di memoria estrema, una scalabilità multi-GPU quasi lineare e un'efficienza energetica leader del settore per ridefinire l'infrastruttura AI. Che si tratti di addestrare modelli da trilioni di parametri o di servire applicazioni multimodali in tempo reale, questo server offre prestazioni rivoluzionarie riducendo al contempo i costi operativi, rendendolo la base ideale per le moderne fabbriche di intelligenza artificiale e i data center cloud.