NVIDIA stellt DGX Station vor, einen Desktop-Supercomputer für KI-Entwickler
Unternehmen NVIDIA angekündigt DGX Stationneu Desktop-Supercomputer für KI-Entwickler, mit dem Sie starten können Große Sprachmodelle (LLM) lokal. Dieses Gerät ist leistungsstärker als DGX Spark (früher bekannt als Projekt DIGITS) und ist bestimmt für Wissenschaftler, Forscher und Datenwissenschaftler.
Die DGX-Station wird vom GB300 Grace Blackwell angetrieben Ultra Desktop-Superchip, einschließlich 72-Kern-Grace-Prozessor и GPU Blackwell Ultra, verbunden durch NVLink-C2C с mit einem Durchsatz von 900 GB/s. Dieser Chip unterstützt 496 GB LPDDR5X RAM и 288 GB HBM3e GPU-Erinnerung, mit dem Sie Modelle ausführen können mit 200 Milliarden Parametern.
Superchip Blackwell Ultra Bietet 1,5-fache Steigerung der KI-FLOPS im Vergleich zu einem normalen Blackwell, und FP4-Optimierung reduziert die Speicherbelastung. Eingebaut NVMe SSD 1 oder 4 TB bietet schnellen Zugriff auf Daten und NVIDIA ConnectX-7 SmartNIC-Netzwerkadapter unterstützt die 10GbE-Ethernet.
Das System arbeitet auf NVIDIA DGX-Betriebssystem (modifiziert Ubuntu) und unterstützt Migration von LLM von der On-Premise-Entwicklung in die Cloud. DGX Station wird in den Verkauf gehen am Ende des 2025 Jahres durch Dritthersteller.
Für diejenigen, die nach einer Budgetlösung suchen, RTX 5090 ermöglicht Ihnen das Ausführen modelliert bis zu 30 Milliarden Parameter, aber sein Preis übersteigt 4000 $. Sogar die RTX 4060 Ti 16 GBunterstützend LLM bis zu 14 Milliarden Parameterist wert etwa 1000 $.
