Lambda setzt bei mehr als 10000 GPUs auf NVIDIA Photonics CPO-Switches

16. November 2026

Lambda setzt bei mehr als 10000 GPUs auf NVIDIA Photonics CPO-Switches

Bild: ChatGPT

Lambda nutzt für den Aufbau einer großen KIArtificial IntelligenceKI bezeichnet Verfahren, die Aufgaben durch datengetriebene Modelle automatisieren.-Infrastruktur NVIDIA-Photonics-Switches mit co-packaged optics (CPOco-packaged opticsOptische Bauelemente werden direkt mit dem Prozessor in einem Package integriert), um GB300GPU-based system architectureGB300 bezeichnet eine GPU-basierte Systemarchitektur fuer Rechenzentrums- und Beschleunigerplattformen. NVL72-Racks mit mehr als 10000 GPUgraphics processing unitEin Grafikprozessor, der auch als Beschleuniger für KI-Workloads eingesetzt wird.s zu vernetzen. Im Mittelpunkt steht dabei nicht mehr nur die Rechenleistung der GPUgraphics processing unitEin Grafikprozessor, der auch als Beschleuniger für KI-Workloads eingesetzt wird.s, sondern die Fähigkeit des Netzwerks, die Datenströme schnell, effizient und widerstandsfähig zu transportieren.

In Tests mit den Switches sank die Netzwerklatenz im Rack-Maßstab um rund 4 % und im Pod-Maßstab um bis zu rund 10 %. Gleichzeitig blieb der Durchsatz über Rack-, scalable-unit- und Pod-Konfigurationen hinweg auf dem Niveau konventioneller steckbarer Optiken. Für große Trainingsläufe ist das relevant, weil schon eine einzelne Unterbrechung mehrere tausend GPUgraphics processing unitEin Grafikprozessor, der auch als Beschleuniger für KI-Workloads eingesetzt wird.s ausbremsen kann.

Die Switches arbeiten mit 144 Ports bei 800 Gb/s. Durch die Integration der optischen Engines direkt am Switch-Gehäuse ersetzt NVIDIA Photonics steckbare Transceiver und soll damit bis zu 5x bessere Energieeffizienz und bis zu 15x höhere Zuverlässigkeit als konventionelle pluggable optics erreichen. Zusätzlich kommen 4x weniger Laser zum Einsatz, wodurch sich die Zahl potenzieller Fehlerquellen verringert.

Die Switches werden flüssig gekühlt. Für die Optik wird eine mittlere Temperatur von 36 °C angegeben, gegenüber 51 °C bei herkömmlichen steckbaren Optiken. Die Tests zeigen zudem eine stabilere Signalintegrität. Das Zusammenspiel aus niedrigerer Temperatur und kürzeren Signalwegen trägt dazu bei, dass das System unter Last robuster arbeitet.

Ein weiterer Baustein sind 18 austauschbare externe Lichtquellen pro Switch. Sie liefern das Licht für die optischen Engines, die elektrische Signale in optische Signale für die Übertragung über Glasfaser umwandeln. Im Fehlerfall lassen sich diese Lichtquellen vor Ort ersetzen; bei klassischen steckbaren Optiken müsste dagegen das komplette Modul getauscht werden.

Durch die Co-Packaging-Architektur verkürzt sich der elektrische Weg von Zoll auf Millimeter. Das reduziert Signalverluste und macht Retimer-Chips überflüssig, was sowohl die Leistungsaufnahme als auch die Zahl der Bauteile im Signalpfad verringert. Für Lambda steht damit vor allem die Netzwerkschicht im Zentrum der Skalierung einer KIArtificial IntelligenceKI bezeichnet Verfahren, die Aufgaben durch datengetriebene Modelle automatisieren.-Fabrik, die bei hoher Last zugleich effizient und ausfallsicher bleiben muss.

Quelle: NVIDIA Newsroom

Hintergrund dazu: Advanced Packaging

← Alle Beiträge