Nvidia GB300 NVL72 zeigt Rekord-Leistungssteigerung – +45 % gegenüber DeepSeek R1 im Vergleich zu GB200
Nvidia veröffentlicht offiziell MLPerf-Benchmark-Ergebnisse für sein neues Rack-Scale-System Blackwell Ultra GB300 NVL72, und erklärte 45 % Produktivitätssteigerung in der Inferenz DeepSeek R1 im Vergleich zur vorherigen Generation GB200. Das System kombiniert eine aktualisierte Architektur, beschleunigte Tensoreinheiten und eine Reihe von Optimierungen auf Softwareebene, die es Nvidia ermöglichten, erster Platz in allen wichtigen Tests, einschließlich Llama 3.1 405B, Llama 3.1 8B und Whisper.
Vor dem Hintergrund der GB200-Bereitstellungen in globalen Rechenzentren, neue Version GB300 mit Blackwell-Architektur Ultra geht noch weiter und bietet eine deutlich erhöhte Bandbreite zwischen GPU - 130 TB/s durch 1,8 TB/s NVLink zwischen jedem der 72 Grafiksysteme im Rack. Dadurch konnten selbst die größten Sprachmodelle effizient skaliert werden, während bei hohen Verarbeitungsvolumina eine stabile Latenz aufrechterhalten wurde.
Die wichtigsten Komponenten des Wachstums waren aktualisierte Tensorkerne, Bereitstellung 2x schnellere Aufmerksamkeitsoperationen und 50 % mehr FLOPS für KI-Aufgabensowie die aktive Nutzung des Formats NVFP4 zur Quantisierung von Gewichten. Dies ermöglichte es Reduzieren Sie das Volumen des Modells ohne Genauigkeitsverlust und beschleunigt Berechnungen, insbesondere bei Inferenzaufgaben auf DeepSeek R1.
Laut Nvidia können diese Verbesserungen Blackwell Ultra das wichtigste Werkzeug beim Bau der sogenannten „KI-Fabriken“, wo die Leistungsoptimierung einen direkten Einfluss auf die Rentabilität der Verarbeitung hat. Laut ihren Aussagen GB300 kann 5-mal schneller laufen als Hopper-Beschleuniger, was insbesondere vor dem Hintergrund der Konkurrenzlösungen von AMD und Huawei relevant ist, die ebenfalls Wachstum im KI-Beschleunigersegment verzeichnen.
Unter Berücksichtigung der Tatsache, dass Die Auslieferung des GB300 beginnt diesen MonatDie Veröffentlichung der rekordverdächtigen MLPerf-Ergebnisse scheint Teil der strategischen Kampagne von Nvidia zu sein, seine Führungsposition bei KI-Lösungen für Unternehmen zu stärken.