Warum KI neue Netzwerke braucht – Wie Ethernet, Spine-Leaf und GPU-Fabrics Rechenzentren verändern

Wenn künstliche Intelligenz das Netzwerk zum Flaschenhals macht

Im ersten Teil dieser Blogserie stand die Frage im Mittelpunkt, warum moderne Unternehmensnetzwerke zunehmend intelligenter werden müssen. Wi-Fi 7, identitätsbasierte Sicherheit, Segmentierung und KI-gestützte Netzwerkbetriebsmodelle zeigen bereits heute, wie stark sich klassische Infrastruktur verändert. Doch vieles von dem, was in Enterprise-Netzwerken gerade erst sichtbar wird, eskaliert in Rechenzentren bereits in völlig neuen Dimensionen.

Denn künstliche Intelligenz verändert nicht nur die Art, wie Netzwerke betrieben werden. Sie verändert zunehmend auch die Anforderungen an die Infrastruktur selbst.

Lange Zeit galt Rechenleistung als zentrale Währung digitaler Innovation. Mehr CPU-Kerne, leistungsfähigere Prozessoren und später hochspezialisierte GPUs galten als entscheidender Hebel, um komplexere Anwendungen auszuführen und größere Datenmengen zu verarbeiten. Gerade der aktuelle KI-Boom scheint diese Annahme zunächst zu bestätigen: Unternehmen investieren Milliarden in GPU-Cluster, Hyperscaler bauen neue Rechenzentren, und Hersteller überbieten sich gegenseitig mit immer leistungsfähigeren Beschleunigern.

Auf den ersten Blick wirkt die Schlussfolgerung plausibel: Mehr Rechenleistung erzeugt bessere künstliche Intelligenz. In der Praxis greift diese Betrachtung jedoch deutlich zu kurz.

Rechenleistung allein löst das Problem nicht

Moderne KI-Modelle entstehen nur selten auf einem einzelnen System. Bereits das Training mittelgroßer Sprachmodelle verteilt Rechenlast über viele GPUs hinweg. Bei großen Modellen arbeiten häufig Tausende spezialisierter Beschleuniger parallel zusammen. Diese Systeme müssen Trainingsdaten austauschen, Zwischenstände synchronisieren und Berechnungsergebnisse permanent miteinander abgleichen. Genau an dieser Stelle entsteht eine Herausforderung, die lange unterschätzt wurde: Kommunikation.

Je größer ein KI-Modell wird, desto stärker verschiebt sich der Engpass von reiner Rechenleistung hin zur Geschwindigkeit und Qualität des Datenaustauschs zwischen den beteiligten Systemen. Selbst die schnellste GPU verliert massiv an Effizienz, wenn sie auf Daten warten muss oder Synchronisationsprozesse ins Stocken geraten.

Vereinfacht formuliert: Nicht die langsamste GPU bestimmt zwangsläufig die Gesamtleistung eines KI-Clusters – sondern häufig das langsamste Netzwerksegment.

Dieser Zusammenhang verändert die Perspektive auf moderne Infrastruktur grundlegend. Denn plötzlich entscheidet nicht mehr ausschließlich die Leistungsfähigkeit einzelner Server über den Erfolg einer Plattform, sondern die Fähigkeit des gesamten Systems, Daten schnell, verlustarm und möglichst latenzarm zwischen Tausenden Komponenten zu transportieren.

Warum Netzwerke plötzlich strategisch werden

Klassische Unternehmensnetzwerke wurden über viele Jahre primär für sogenannte Nord-Süd-Kommunikation optimiert. Benutzer:innen griffen auf Anwendungen zu, Daten flossen von Clients zu Servern und wieder zurück. Zwar stiegen die Bandbreiten kontinuierlich, doch die grundlegende Kommunikationslogik blieb vergleichsweise stabil. KI verändert dieses Muster fundamental.

In modernen KI-Rechenzentren dominiert nicht mehr der Verkehr zwischen Benutzer:innen und Anwendungen. Stattdessen kommunizieren Systeme zunehmend untereinander: GPU mit GPU, Storage mit Compute, Server mit Server. Netzwerkverkehr verläuft damit immer häufiger horizontal innerhalb der Infrastruktur – ein Muster, das häufig als East-West-Traffic bezeichnet wird.

Diese Entwicklung hat weitreichende Folgen. Denn klassische Datacenter-Netzwerke wurden ursprünglich nicht für Tausende parallel kommunizierende Systeme mit extrem niedrigen Latenzanforderungen entworfen. Was in traditionellen Umgebungen noch ausreichend funktioniert, entwickelt sich unter KI-Last schnell zum Engpass. Die Folge: Netzwerke werden plötzlich zu einem strategischen Wettbewerbsfaktor.

Nicht nur Rechenleistung entscheidet künftig darüber, wie leistungsfähig eine KI-Infrastruktur tatsächlich ist. Ebenso wichtig wird die Frage, wie effizient Daten zwischen GPUs, Speichersystemen und Rechenknoten transportiert werden können. Genau deshalb geraten Netzwerkarchitekturen derzeit erneut in den Fokus von Hyperscalern, Hardwareherstellern und Unternehmensrechenzentren.

Damit stellt sich eine zentrale Frage, die den weiteren Verlauf dieses Beitrags prägen wird: Warum reichen klassische Datacenter-Netzwerke für künstliche Intelligenz plötzlich nicht mehr aus?

Wenn Rechenleistung nicht mehr reicht – Warum KI neue Netzwerke erzwingt

Auf den ersten Blick scheint die Antwort auf steigende Anforderungen künstlicher Intelligenz einfach zu sein: mehr Rechenleistung. Leistungsfähigere GPUs, größere Cluster und spezialisierte KI-Beschleuniger dominieren seit Jahren die Diskussion um moderne Infrastruktur. Gerade angesichts milliardenschwerer Investitionen von Unternehmen wie Microsoft, NVIDIA, Meta oder OpenAI liegt die Vermutung nahe, dass der Schlüssel leistungsfähiger KI primär in immer mehr Compute-Leistung liegt.

Diese Sichtweise greift jedoch zu kurz. Denn moderne KI skaliert nicht unbegrenzt durch zusätzliche Rechenleistung. Ab einer bestimmten Größenordnung verschiebt sich der eigentliche Engpass: Nicht mehr die einzelne GPU limitiert die Leistung eines Systems, sondern die Fähigkeit vieler Systeme, effizient zusammenzuarbeiten.

Diesen Zusammenhang habe ich bereits im Beitrag Über KI, das Wachstum und warum es (wahrscheinlich) nicht ewig so weiter geht näher betrachtet. Dort stand vor allem die Frage im Mittelpunkt, warum exponentielles Wachstum in der KI nicht beliebig fortgeschrieben werden kann – unter anderem aufgrund steigender Energie-, Speicher- und Infrastrukturkosten. Eine zentrale Erkenntnis lautet dabei: Zusätzliche Rechenleistung erzeugt nicht automatisch linearen Fortschritt. Ab einer bestimmten Größenordnung werden Skalierungsverluste zunehmend sichtbar.

Genau an dieser Stelle rückt die Netzwerkinfrastruktur in den Fokus. Denn moderne KI skaliert nicht allein über leistungsfähigere Hardware, sondern vor allem über die Fähigkeit vieler Systeme, Berechnungen effizient zu koordinieren und enorme Datenmengen nahezu verzögerungsfrei auszutauschen.

Oder vereinfacht formuliert: Mehr GPUs bedeuten nicht automatisch mehr KI-Leistung. Entscheidend wird vielmehr die Frage: Wie schnell können diese Systeme miteinander kommunizieren?

Warum einzelne Hochleistungs-GPUs nicht mehr ausreichen

Frühe Machine-Learning-Modelle ließen sich häufig noch auf einzelnen Servern trainieren. Mit dem Aufstieg generativer KI und großer Sprachmodelle hat sich diese Realität jedoch grundlegend verändert. Moderne Modelle bestehen heute aus Milliarden oder sogar Billionen Parametern und überschreiten längst die Speicher- und Rechengrenzen einzelner Systeme. Ein aktuelles Sprachmodell passt daher in vielen Fällen nicht mehr auf eine einzelne GPU – teilweise nicht einmal auf einen einzelnen Server.

Stattdessen werden Rechenaufgaben über zahlreiche Beschleuniger verteilt. Dabei arbeiten viele GPUs parallel an unterschiedlichen Teilen derselben Berechnung. Die eigentliche Herausforderung besteht nicht nur darin, diese Arbeit aufzuteilen, sondern die Ergebnisse anschließend wieder effizient zusammenzuführen.

Genau an diesem Punkt beginnt die Netzwerkinfrastruktur eine zentrale Rolle einzunehmen. Denn jede zusätzliche GPU erhöht nicht nur die verfügbare Rechenleistung – sie erhöht gleichzeitig die Kommunikationskomplexität.

Warum KI-Netzwerke grundlegend anders funktionieren

Klassische Unternehmensanwendungen reagieren meist tolerant auf geringe Verzögerungen. Ob eine Dateiübertragung einige Millisekunden länger dauert oder eine Webanwendung minimal verzögert antwortet, bleibt häufig unkritisch. KI-Workloads funktionieren dagegen deutlich sensibler.

Der Grund liegt in ihrer hochgradig parallelen Arbeitsweise: Beim Training großer Modelle arbeiten zahlreiche Systeme synchron zusammen. Ergebnisse einzelner Berechnungsschritte müssen fortlaufend abgeglichen werden, damit alle GPUs denselben Wissensstand besitzen. Bleibt ein Knoten zurück, entstehen Wartezeiten im gesamten Verbund.

In modernen KI-Clustern dominieren dabei mehrere Parallelisierungsverfahren:

• Datenparallelisierung (Data Parallelism): Mehrere GPUs verarbeiten unterschiedliche Datenbereiche gleichzeitig und synchronisieren anschließend ihre Ergebnisse
• Modellparallelisierung (Model Parallelism): Ein Modell wird auf mehrere Systeme aufgeteilt, weil einzelne GPUs allein nicht ausreichend Speicher oder Rechenleistung bereitstellen
• Pipeline-Parallelisierung: Berechnungsschritte werden wie eine Fertigungskette auf verschiedene Systeme verteilt

Gemeinsam haben alle Verfahren eine zentrale Eigenschaft: Sie erzeugen enorme Mengen an Kommunikationsverkehr zwischen den beteiligten Systemen. Die Folge: Netzwerkverkehr entwickelt sich zunehmend vom Nebenschauplatz zum kritischen Erfolgsfaktor.

Das eigentliche Problem: Kommunikation statt Compute

Je größer KI-Modelle werden, desto häufiger müssen Systeme Daten austauschen. Trainingsparameter, Gewichte, Gradienten und Zwischenergebnisse werden permanent zwischen GPUs synchronisiert. Dieser Austausch erfolgt nicht gelegentlich, sondern millionenfach während eines einzelnen Trainingsprozesses.

Damit verändert sich die Rolle des Netzwerks fundamental. War Netzwerkkommunikation früher primär Transportmedium zwischen Benutzer:innen und Anwendungen, wird sie in KI-Rechenzentren zunehmend zur Grundlage der eigentlichen Berechnung.

Die technische Herausforderung liegt dabei weniger in maximaler Bandbreite allein. Entscheidend wird vielmehr, wie zuverlässig und vorhersehbar Daten transportiert werden können. Schon geringe Paketverluste, Staus oder unerwartete Latenzen können die Effizienz eines gesamten GPU-Clusters erheblich reduzieren.

Ein oft unterschätzter Zusammenhang lautet deshalb: Die schnellste GPU nützt wenig, wenn Tausende Beschleuniger aufeinander warten müssen.

Genau aus diesem Grund geraten Netzwerkarchitekturen derzeit wieder ins Zentrum der Infrastrukturplanung. Denn moderne KI verlangt nicht nur nach mehr Rechenleistung – sie erzwingt völlig neue Anforderungen an Kommunikation, Skalierung und Netzwerkdesign.

Im nächsten Kapitel stellt sich deshalb eine grundlegende Frage: Warum stoßen klassische Datacenter-Netzwerke ausgerechnet bei künstlicher Intelligenz plötzlich an ihre Grenzen?

Vom Nord-Süd-Datacenter zur East-West-Explosion

Wer verstehen möchte, warum künstliche Intelligenz neue Netzwerkarchitekturen erzwingt, muss zunächst eine grundlegende Veränderung moderner Rechenzentren verstehen: den Wandel der Kommunikationsmuster.

Über viele Jahre folgte Netzwerkverkehr in Rechenzentren einem vergleichsweise einfachen Prinzip. Benutzer:innen griffen auf Anwendungen zu, Anwendungen kommunizierten mit Servern, und Ergebnisse wurden zurückgeliefert. Daten bewegten sich überwiegend zwischen Endgeräten und zentralen Systemen. In der Netzwerktechnik wird dieses Muster häufig als Nord-Süd-Verkehr (North-South Traffic) bezeichnet.

Mit dem Aufstieg künstlicher Intelligenz verschiebt sich dieses Kommunikationsmodell jedoch fundamental. Denn moderne KI erzeugt deutlich weniger Verkehr zwischen Benutzer:innen und Anwendungen – stattdessen kommunizieren Systeme zunehmend untereinander.

• GPU mit GPU
• Server mit Server
• Storage mit Compute

Das Netzwerk verändert damit seine Rolle: vom reinen Transportweg hin zur Grundlage verteilter Rechenprozesse.

Früher: Warum klassische Datacenter auf Nord-Süd-Kommunikation ausgelegt waren

Traditionelle Unternehmensrechenzentren entstanden in einer Zeit, in der Anwendungen überwiegend zentral betrieben wurden. Benutzer:innen griffen auf E-Mail-Systeme, Datenbanken oder Fachanwendungen zu, während Server primär auf eingehende Anfragen reagierten.

Netzwerkdesigns orientierten sich entsprechend an einem hierarchischen Kommunikationsmodell.

Das über viele Jahre dominierende Datacenter-Design bestand aus drei Ebenen:

• Access Layer: Anschluss von Servern und Endsystemen
• Aggregation Layer: Bündelung und Richtlinienkontrolle
• Core Layer: Hochperformanter Transport zwischen Netzwerksegmenten

Dieses Modell – häufig auch als klassisches Three-Tier-Design bezeichnet – funktionierte lange Zeit sehr zuverlässig. Der Datenverkehr verlief überwiegend vertikal: von Endgeräten zu Anwendungen und zurück.

Das zentrale Ziel lautete: Daten möglichst effizient zu zentralen Diensten transportieren. Für klassische Business-Anwendungen war diese Architektur über Jahrzehnte vollkommen ausreichend.

Heute: Warum KI den Verkehr im Rechenzentrum grundlegend verändert

Künstliche Intelligenz verändert diese Logik jedoch radikal: Beim Training großer Modelle kommunizieren Systeme permanent miteinander. GPUs tauschen Zwischenergebnisse aus, synchronisieren Parameterstände und koordinieren Berechnungsschritte in hochgradig parallelen Workloads.

Der dominierende Datenverkehr verläuft deshalb nicht mehr vertikal, sondern horizontal innerhalb des Rechenzentrums. Dieser horizontale Verkehr wird als East-West-Traffic bezeichnet.

Im KI-Kontext entstehen dabei enorme Datenströme:

• GPU-Cluster synchronisieren Trainingszustände
• Speichersysteme liefern kontinuierlich Trainingsdaten
• AI-Pipelines bewegen Daten zwischen verschiedenen Verarbeitungsschritten
• verteilte Inferenzsysteme koordinieren Ergebnisse

Das Netzwerk transportiert damit nicht länger nur Daten zu Anwendungen. Es wird selbst zum entscheidenden Bestandteil der Berechnung.

Gerade bei großen Sprachmodellen können bereits geringe Verzögerungen dazu führen, dass ganze GPU-Verbünde aufeinander warten müssen. Die Folge sind Effizienzverluste, die angesichts milliardenschwerer Hardwareinvestitionen erhebliche wirtschaftliche Auswirkungen haben.

Dabei geht es längst nicht nur um höhere Infrastrukturkosten. Denn ineffiziente Trainingsprozesse bedeuten zugleich steigenden Energieverbrauch, längere Laufzeiten und eine schlechtere Auslastung ohnehin ressourcenintensiver Rechenzentren. Bereits geringe Kommunikationsverluste können dazu führen, dass enorme Mengen elektrischer Energie auf Systeme entfallen, die in bestimmten Momenten schlicht aufeinander warten.

Welche ökologischen Folgen der rapide Ausbau künstlicher Intelligenz bereits heute verursacht, habe ich im Beitrag KI unter Strom – Der ökologische Fußabdruck intelligenter Systeme näher beleuchtet. Gerade im Kontext großer KI-Cluster zeigt sich: Effizienz ist nicht nur eine wirtschaftliche, sondern zunehmend auch eine ökologische Frage.

Damit verändert sich die Perspektive auf Netzwerke erneut. Eine leistungsfähige Infrastruktur entscheidet künftig nicht nur über Geschwindigkeit – sondern auch darüber, wie effizient Energie, Hardware und Rechenzeit tatsächlich genutzt werden können.

Warum klassische Datacenter-Architekturen plötzlich an Grenzen stoßen

Genau hier zeigt sich ein Problem klassischer Drei-Schichten-Netzwerke. Sie wurden ursprünglich für Kommunikationsmuster entworfen, bei denen vergleichsweise wenig Verkehr zwischen Servern selbst stattfand. Moderne KI-Workloads erzeugen dagegen enorme Mengen an horizontalem Datenaustausch – oft gleichzeitig zwischen Tausenden Systemen.

Dadurch entstehen mehrere Herausforderungen:

• Bottlenecks: Bestimmte Netzwerkpfade werden überlastet
• Oversubscription: Mehr Systeme teilen sich dieselben Netzwerkressourcen, wodurch Engpässe entstehen
• Unvorhersehbare Latenzen: Datenpakete benötigen unterschiedlich lange Wege durch die Infrastruktur

Für klassische Unternehmensanwendungen mag dies tolerierbar erscheinen. KI-Workloads reagieren dagegen äußerst empfindlich auf Verzögerungen. Bereits einzelne langsamere Kommunikationspfade können ganze Trainingsprozesse ausbremsen.

Vereinfacht formuliert: KI skaliert nicht nur über Rechenleistung – sondern über die Fähigkeit eines Netzwerks, viele Systeme gleichzeitig effizient miteinander kommunizieren zu lassen.

Genau deshalb entstanden neue Netzwerkarchitekturen, die speziell für hochgradig parallele Workloads entwickelt wurden. Und damit beginnt die Geschichte von Spine-Leaf-Netzwerken.

Spine-Leaf: Das neue Rückgrat moderner KI-Rechenzentren

Wenn klassische Datacenter-Architekturen bei künstlicher Intelligenz an Grenzen stoßen, stellt sich zwangsläufig die nächste Frage: Welche Netzwerkarchitektur kann Tausende parallel kommunizierende Systeme effizient miteinander verbinden?

Die Antwort moderner Hyperscaler und KI-Infrastrukturen lautet heute in den meisten Fällen: Spine-Leaf.

Was zunächst wie ein weiterer Architekturbegriff klingt, markiert in der Praxis einen fundamentalen Wandel im Aufbau moderner Rechenzentren. Denn Spine-Leaf-Netzwerke wurden nicht entwickelt, um bestehende Datacenter geringfügig schneller zu machen. Ihr Ziel besteht vielmehr darin, Kommunikationsengpässe grundsätzlich zu vermeiden. Gerade für künstliche Intelligenz wird diese Eigenschaft zunehmend entscheidend.

Wie Spine-Leaf-Netzwerke aufgebaut sind

Im Kern folgt Spine-Leaf einer vergleichsweise einfachen Idee: möglichst viele direkte und gleichwertige Kommunikationspfade zwischen Systemen bereitzustellen.

Die Architektur besteht aus zwei Ebenen:

• Leaf Layer: Verbindungsebene für Server, Storage-Systeme und GPU-Cluster
• Spine Layer: hochperformante Transportebene zwischen allen Leafs

Der entscheidende Unterschied zu klassischen Drei-Schichten-Netzwerken liegt im Kommunikationsprinzip: Jeder Leaf-Switch verbindet sich mit jedem Spine-Switch. Dadurch existieren zwischen Systemen mehrere parallele Wege statt weniger zentraler Übergabepunkte.

Ein Datenpaket muss sich nicht durch mehrere hierarchische Ebenen bewegen oder potenzielle Engpässe passieren. Stattdessen stehen mehrere nahezu gleichwertige Kommunikationspfade zur Verfügung, über die Last verteilt werden kann.

Die Architektur folgt damit einem zentralen Ziel: Kommunikation soll möglichst vorhersehbar, skalierbar und frei von zentralen Flaschenhälsen werden. Gerade in KI-Umgebungen wird diese Eigenschaft zum entscheidenden Vorteil.

Warum Spine-Leaf für künstliche Intelligenz besonders geeignet ist

Künstliche Intelligenz stellt Netzwerke vor ein Problem, das klassische Unternehmensanwendungen kaum erzeugen: hochgradig parallele Kommunikation.

Während traditionelle Workloads häufig einzelne Server adressieren, erzeugen KI-Cluster massive Mengen horizontalen Netzwerkverkehrs. GPUs tauschen permanent Trainingsparameter aus, synchronisieren Modellzustände und koordinieren Berechnungsschritte in Echtzeit. Je größer ein Modell wird, desto kritischer wird dabei die Netzwerkinfrastruktur.

Spine-Leaf-Architekturen bieten hierfür mehrere Vorteile:

Deterministische Kommunikationspfade

Da mehrere gleichwertige Wege zwischen Systemen existieren, lassen sich Kommunikationszeiten deutlich besser vorhersagen. Schwankende Laufzeiten – häufig als Jitter bezeichnet – können reduziert werden. Gerade bei synchronisierten Trainingsprozessen ist diese Vorhersagbarkeit entscheidend.

Hohe Redundanz

Fällt ein Netzwerkpfad aus, stehen unmittelbar alternative Wege zur Verfügung. KI-Cluster bleiben dadurch robuster gegenüber Störungen, ohne dass einzelne Ausfälle komplette Berechnungen blockieren.

Niedrige Latenz

Da Daten weniger Umwege über hierarchische Netzwerkebenen nehmen müssen, sinken Verzögerungen bei der Kommunikation zwischen Systemen. Das wird besonders wichtig, wenn Tausende GPUs parallel zusammenarbeiten.

Lineare Skalierung

Einer der größten Vorteile moderner Spine-Leaf-Netze liegt in ihrer Skalierbarkeit. Benötigt ein KI-Cluster zusätzliche Kapazität, lassen sich neue Leaf- oder Spine-Switches vergleichsweise einfach ergänzen, ohne die gesamte Architektur neu entwerfen zu müssen. Die Infrastruktur wächst damit horizontal statt vertikal.

Warum GPU-Cluster von Spine-Leaf profitieren

Gerade in KI-Rechenzentren zeigt sich die Stärke dieser Architektur besonders deutlich. Moderne Trainingsumgebungen arbeiten häufig mit Tausenden GPUs gleichzeitig. Jede dieser GPUs verarbeitet unterschiedliche Teile eines Modells oder verschiedener Datensätze. Damit das Gesamtsystem konsistent bleibt, müssen Zwischenergebnisse permanent synchronisiert werden.

Die Folge: Nicht einzelne Server kommunizieren gelegentlich miteinander – sondern ganze GPU-Verbünde permanent und parallel.

Genau für solche Kommunikationsmuster wurde Spine-Leaf praktisch optimiert. Statt wenige zentrale Netzwerkpfade zu überlasten, verteilt die Architektur Datenverkehr über viele gleichwertige Verbindungen. Dadurch entstehen weniger Engpässe, stabilere Laufzeiten und besser vorhersehbare Leistungswerte.

Oder anders formuliert: KI benötigt keine schnelleren Einzelverbindungen – sondern ein Netzwerk, das massive Parallelität effizient beherrscht.

Vom Hyperscaler zum Standard moderner KI-Rechenzentren

Spine-Leaf galt lange als Architektur großer Cloud-Anbieter. Hyperscaler wie Microsoft, Google oder Meta setzten früh auf Clos-basierte Netzwerkdesigns, um massive interne Kommunikationsströme effizient abzubilden. Mit dem KI-Boom verschiebt sich diese Architektur jedoch zunehmend in den Mainstream.

Auch moderne NVIDIA AI Factories, GPU-as-a-Service-Plattformen und große Unternehmensrechenzentren orientieren sich heute an Spine-Leaf-Designs. Besonders in den Azure- und OpenAI-Umgebungen zeigt sich, wie stark Netzwerkinfrastruktur inzwischen über die tatsächliche Leistungsfähigkeit von KI-Systemen entscheidet.

Denn in modernen KI-Rechenzentren genügt es längst nicht mehr, einzelne Systeme besonders leistungsfähig zu machen. Entscheidend wird zunehmend die Fähigkeit, Tausende Systeme als koordinierte Einheit arbeiten zu lassen. Und genau an dieser Stelle beginnt eine neue Debatte: Reicht klassisches Ethernet dafür überhaupt noch aus – oder braucht künstliche Intelligenz völlig neue Netzwerktechnologien?

Warum Ethernet für KI-Cluster wieder an Bedeutung gewinnt

Aus den bisherigen Schilderungen wird deutlich, warum künstliche Intelligenz neue Netzwerkarchitekturen erzwingt. Spine-Leaf-Netzwerke helfen dabei, massive Mengen paralleler Kommunikation effizient zu organisieren und East-West-Traffic kontrollierbar zu machen. Doch selbst die beste Architektur beantwortet noch nicht eine entscheidende Frage: Welche Netzwerktechnologie eignet sich überhaupt für KI-Rechenzentren?

Lange Zeit schien die Antwort eindeutig: Wer höchste Leistung, minimale Latenzen und hochgradig parallele Kommunikation benötigte, setzte auf InfiniBand. Ethernet dagegen galt zwar als universeller Standard moderner Netzwerke – aber nicht unbedingt als erste Wahl für extrem leistungsfähige Rechencluster. Genau diese Annahme beginnt sich derzeit jedoch grundlegend zu verändern.

Warum Ethernet über Jahrzehnte dominierte

Kaum eine Netzwerktechnologie hat die IT-Landschaft so nachhaltig geprägt wie Ethernet. Seit den frühen Tagen lokaler Netzwerke entwickelte sich Ethernet vom vergleichsweise langsamen Shared-Medium-Netzwerk zur dominierenden Kommunikationsplattform moderner Unternehmens- und Cloud-Infrastrukturen. Seine Stärke lag dabei weniger in maximaler Spezialleistung als in einer Kombination aus Offenheit, Wirtschaftlichkeit und kontinuierlicher Evolution.

Ethernet setzte sich aus mehreren Gründen weltweit durch:

• Offene Standards: Herstellerübergreifende Kompatibilität förderte Innovation und Wettbewerb
• Skalierbarkeit: Von wenigen Megabit bis hin zu mehreren Hundert Gigabit pro Sekunde entwickelte sich Ethernet kontinuierlich weiter
• Kostenstruktur: Große Stückzahlen und breite Marktadoption reduzierten Investitionskosten erheblich
• Flexibilität: Dieselbe Technologie konnte Campus-Netze, Rechenzentren und WAN-Anbindungen verbinden

Gerade Hyperscaler profitierten davon. Denn globale Cloud-Plattformen lassen sich wirtschaftlich kaum auf proprietären Speziallösungen aufbauen.

Dennoch existierte lange Zeit eine Grenze. Denn sobald maximale Performance gefragt war, begann traditionell das Terrain einer anderen Technologie.

Warum Hochleistungsrechner lange auf InfiniBand setzten

In der Welt des High Performance Computing (HPC) dominierte über viele Jahre ein anderer Name: InfiniBand. Der Grund lag in einem Problem, das bereits früh sichtbar wurde: Klassisches Ethernet war für hochgradig parallele Workloads oft nicht schnell und vorhersehbar genug.

InfiniBand adressierte genau diese Herausforderung. Die Technologie wurde speziell für Umgebungen entwickelt, in denen Tausende Systeme mit minimaler Verzögerung und möglichst verlustfrei miteinander kommunizieren müssen. Statt universelle Netzwerkanforderungen abzudecken, fokussierte sich InfiniBand gezielt auf maximale Effizienz in Rechenclustern.

Besonders relevant wurden dabei drei Eigenschaften:

• Niedrige Latenzen: Kommunikation erfolgt mit minimalen Verzögerungen
• RDMA-Unterstützung: Systeme können direkt auf Speicherbereiche anderer Systeme zugreifen, ohne den klassischen CPU-Overhead
• Verlustarme Kommunikation: Paketverluste und Wiederholungen werden möglichst vermieden

Gerade Supercomputer und wissenschaftliche Rechenzentren profitierten davon erheblich. Lange galt deshalb nahezu als Naturgesetz: Höchstleistung im Rechenzentrum bedeutet InfiniBand.

Mit dem Aufstieg großer Sprachmodelle übertrug sich diese Logik zunächst direkt auf künstliche Intelligenz.

Lange Zeit galt: KI braucht InfiniBand

Die ersten großen KI-Cluster entstanden überwiegend in Umgebungen, die sich technologisch stark an klassischen HPC-Systemen orientierten. Die Begründung erschien plausibel: Wenn Tausende GPUs permanent miteinander kommunizieren, Modellzustände synchronisieren und enorme Datenmengen austauschen, dann sind geringe Latenzen und möglichst verlustfreie Kommunikation entscheidend. InfiniBand schien dafür nahezu ideal geeignet.

Entsprechend basieren viele frühe KI-Supercomputer und Trainingscluster auf InfiniBand-Fabrics – häufig eng gekoppelt mit GPU-Architekturen von NVIDIA. Doch genau an dieser Stelle beginnt sich der Markt spürbar zu verändern. Denn während InfiniBand technisch weiterhin enorme Vorteile besitzt, wachsen gleichzeitig neue Anforderungen, die über reine Spitzenleistung hinausgehen.

Warum Hyperscaler plötzlich wieder auf Ethernet setzen

Mit dem KI-Boom verschieben sich die Prioritäten großer Rechenzentren. Nicht mehr nur maximale Einzelperformance steht im Fokus, sondern vor allem eine Frage: Wie lassen sich Tausende oder sogar Hunderttausende Systeme wirtschaftlich skalieren? Hier beginnen die traditionellen Stärken von Ethernet plötzlich wieder an Bedeutung zu gewinnen.

Hyperscaler wie Microsoft, Meta oder Google betreiben Infrastrukturen in Größenordnungen, die klassische HPC-Dimensionen weit überschreiten. Entscheidend wird deshalb nicht allein technische Exzellenz, sondern auch:

• globale Skalierbarkeit
• Herstellerunabhängigkeit
• Integration bestehender Netzwerkinfrastrukturen
• offene Standards
• wirtschaftlicher Betrieb

Ethernet bringt hierfür bereits erhebliche Vorteile mit.

Zugleich hat sich die Technologie in den vergangenen Jahren massiv weiterentwickelt. Moderne Ethernet-Fabrics arbeiten längst nicht mehr wie klassische Unternehmensnetzwerke. Höhere Geschwindigkeiten, verbesserte Telemetrie, neue Verfahren zur Überlastungsvermeidung und Technologien wie RoCEv2 schließen viele historische Schwächen zunehmend.

Die eigentliche Debatte lautet daher heute nicht mehr: Ethernet oder InfiniBand?, sondern vielmehr: Kann Ethernet inzwischen genug HPC-Eigenschaften übernehmen, um zur dominierenden KI-Netzwerktechnologie zu werden?

Genau an dieser Stelle beginnt der eigentliche Wettkampf moderner KI-Netzwerke.

Ethernet versus InfiniBand – Der Wettkampf um KI-Netzwerke

Nachdem moderne KI-Rechenzentren zunehmend auf Spine-Leaf-Architekturen setzen, stellt sich die nächste entscheidende Frage: Welche Netzwerktechnologie eignet sich am besten, um Tausende GPUs effizient miteinander zu verbinden?

Genau hier prallen derzeit zwei Welten aufeinander: Auf der einen Seite steht InfiniBand – über Jahre hinweg die dominierende Technologie für Hochleistungsrechner und wissenschaftliche Supercomputer. Auf der anderen Seite entwickelt sich Ethernet vom universellen Netzwerkstandard zunehmend zu einer ernstzunehmenden Alternative für KI-Infrastrukturen.

Die Debatte wird dabei häufig verkürzt dargestellt: InfiniBand = maximale Leistung vs. Ethernet = günstige Standardlösung.

Tatsächlich ist die Realität deutlich komplexer. Denn beide Technologien folgen unterschiedlichen Designphilosophien – und beide besitzen spezifische Stärken und Grenzen.

Warum InfiniBand lange als Goldstandard galt

Die Stärke von InfiniBand liegt vor allem in einem Ziel: Kommunikation möglichst schnell, verlustarm und vorhersehbar zu gestalten.

Genau diese Eigenschaften sind in hochgradig parallelen Rechenumgebungen entscheidend. Denn bei verteiltem KI-Training arbeiten Tausende GPUs eng synchronisiert zusammen. Bereits geringe Verzögerungen einzelner Systeme können die Effizienz des gesamten Clusters reduzieren. InfiniBand wurde genau für solche Szenarien entwickelt.

Im Unterschied zu klassischen Netzwerken minimiert die Technologie Kommunikationslatenzen konsequent und optimiert den Datenaustausch zwischen Rechenknoten. Dabei spielen mehrere Eigenschaften eine zentrale Rolle.

RDMA: Daten ohne Umweg transportieren

Eine der wichtigsten Technologien hinter InfiniBand ist Remote Direct Memory Access (RDMA). Vereinfacht formuliert ermöglicht RDMA den direkten Zugriff auf Speicherbereiche anderer Systeme – ohne den klassischen Umweg über Betriebssystem-Stacks oder hohe CPU-Beteiligung.

In traditionellen Netzwerken durchlaufen Datenpakete typischerweise mehrere Verarbeitungsschritte: Netzwerkkarte → Kernel → Betriebssystem → CPU → Anwendung. Dieser Prozess erzeugt zusätzlichen Overhead und kostet Zeit.

RDMA verkürzt diesen Weg erheblich. Daten können deutlich direkter zwischen beteiligten Systemen übertragen werden. Dadurch sinken Latenzen, CPU-Ressourcen werden entlastet und große Datenmengen lassen sich effizienter bewegen. Gerade beim Training großer Sprachmodelle mit permanenter GPU-Synchronisation entsteht daraus ein erheblicher Vorteil.

Geringe Latenz und deterministische Kommunikation

Neben RDMA zeichnet sich InfiniBand vor allem durch sehr niedrige und vorhersehbare Latenzen aus.

Für klassische Unternehmensanwendungen spielt es oft keine entscheidende Rolle, ob ein Datenpaket einige Millisekunden früher oder später ankommt. KI-Workloads reagieren dagegen deutlich empfindlicher. Der Grund: Große GPU-Cluster arbeiten häufig synchron.

Müssen mehrere Systeme Berechnungsschritte koordinieren, entsteht schnell ein Warteproblem: Das gesamte System orientiert sich am langsamsten Teilnehmer. InfiniBand adressiert dieses Risiko durch möglichst stabile Kommunikationszeiten.

Nicht nur Geschwindigkeit zählt dabei, sondern Vorhersagbarkeit. Denn ein Netzwerk mit schwankenden Laufzeiten kann für KI-Workloads problematischer sein als ein minimal langsameres, aber konsistentes System.

Verlustarme Kommunikation als entscheidender Vorteil

Ein weiterer historischer Vorteil von InfiniBand liegt im Umgang mit Paketverlusten. Klassisches Ethernet arbeitet traditionell nach dem Prinzip: Paket verloren? Erneut senden. Für Office-Anwendungen oder Webdienste ist das meist unproblematisch.

In KI-Clustern kann dies jedoch schnell ineffizient werden. Denn wenn Tausende Systeme permanent Daten austauschen, erzeugen Wiederholungen zusätzlichen Netzwerkverkehr und können Synchronisationsprozesse verzögern.

InfiniBand wurde deshalb gezielt für möglichst verlustarme Kommunikation entwickelt. Ziel ist es, Überlastsituationen früh zu kontrollieren, anstatt verlorene Daten nachträglich kompensieren zu müssen. Gerade in HPC- und KI-Umgebungen war dies lange ein entscheidender Wettbewerbsvorteil.

Die Grenzen von InfiniBand

Trotz seiner technischen Stärken ist InfiniBand keineswegs alternativlos. Mit dem explosionsartigen Wachstum künstlicher Intelligenz treten zunehmend Herausforderungen in den Vordergrund, die über reine Spitzenleistung hinausgehen.

Kosten und Komplexität

InfiniBand gilt traditionell als leistungsfähig – jedoch auch als kostenintensiv. Spezialisierte Hardware, eigene Fabric-Komponenten und hohe Anforderungen an Planung und Betrieb führen häufig zu erheblichen Investitionskosten. Je größer ein KI-Cluster wird, desto stärker wächst dieser Faktor.

Vendor Lock-in und Ökosystem

Ein weiterer Kritikpunkt betrifft die Marktstruktur. Während Ethernet auf offenen Standards basiert und ein breites Herstellerökosystem besitzt, ist InfiniBand deutlich enger an spezialisierte Anbieter gebunden. Gerade große Cloud-Anbieter betrachten diese Abhängigkeit zunehmend kritisch. Denn Hyperscaler denken in Dimensionen von Hunderttausenden Systemen – nicht in einzelnen Hochleistungsclustern.

Skalierung über extreme Größenordnungen

Während InfiniBand hervorragend in spezialisierten Hochleistungsumgebungen funktioniert, stellt sich bei global skalierten Cloud-Architekturen eine zusätzliche Frage: Lässt sich diese Technologie wirtschaftlich auf Hyperscaler-Niveau betreiben? Hier beginnen die traditionellen Stärken von Ethernet plötzlich wieder relevant zu werden.

Warum Ethernet plötzlich aufholt

Noch vor wenigen Jahren wäre die Vorstellung, Ethernet könne ernsthaft mit InfiniBand konkurrieren, für viele Infrastrukturteams kaum denkbar gewesen. Doch genau diese Entwicklung ist inzwischen Realität. Der wichtigste Grund: Ethernet hat sich fundamental weiterentwickelt.

Moderne Ethernet-Netze arbeiten längst nicht mehr wie klassische Unternehmensinfrastrukturen. Neue Switch-ASICs, hochperformante Spine-Leaf-Fabrics und deutlich intelligentere Verkehrssteuerung reduzieren viele frühere Schwächen erheblich.

Besonders wichtig wurde dabei eine Technologie:

RoCEv2 – RDMA über Ethernet

RDMA over Converged Ethernet (RoCEv2) versucht, zentrale Eigenschaften von InfiniBand in Ethernet-Netzwerke zu übertragen. Die Idee dahinter ist ebenso einfach wie strategisch bedeutend: Ethernet soll dieselben Effizienzvorteile nutzen können, ohne auf offene Standards zu verzichten.

Auch hier ermöglicht RDMA direkte Speicherzugriffe zwischen Systemen und reduziert CPU-Overhead erheblich. Gleichzeitig profitieren Betreiber weiterhin von der Skalierbarkeit und Offenheit klassischer Ethernet-Ökosysteme.

Damit verändert sich die Debatte zunehmend. Nicht mehr die Frage: Ethernet oder InfiniBand? steht im Mittelpunkt, sondern vielmehr: Reicht modernes Ethernet inzwischen aus, um klassische HPC-Netzwerke zu verdrängen?

Genau an dieser Stelle beginnt die nächste Evolutionsstufe moderner KI-Netzwerke – und damit die Diskussion um Ultra Ethernet.

Ultra Ethernet: Der Versuch, Ethernet KI-tauglich zu machen

Das vorherige Kapitel hat gezeigt, warum Ethernet im KI-Umfeld plötzlich wieder strategisch wird. Moderne Spine-Leaf-Fabrics, hochperformante Switches und Technologien wie RoCEv2 haben viele historische Schwächen klassischer Netzwerke bereits deutlich reduziert. Gleichzeitig bleibt eine entscheidende Frage bestehen: Reicht modernes Ethernet wirklich aus, um die Anforderungen zukünftiger KI-Rechenzentren dauerhaft zu erfüllen? Denn selbst aktuelle Hochleistungsnetzwerke stoßen zunehmend an Grenzen.

Je größer KI-Modelle werden, desto stärker wachsen Datenmengen, Kommunikationskomplexität und Synchronisationsaufwand. Genau an dieser Stelle entstand eine neue Initiative, die Ethernet gezielt für KI- und HPC-Umgebungen weiterentwickeln möchte: Ultra Ethernet.

Warum klassisches Ethernet an Grenzen stößt

Ethernet entwickelte sich über Jahrzehnte zu einem äußerst flexiblen und leistungsfähigen Netzwerkstandard. Die Technologie wurde jedoch ursprünglich nicht speziell für hochgradig parallele KI-Workloads entworfen.

Gerade bei großen GPU-Clustern treten Probleme auf, die in klassischen Unternehmensnetzwerken oft kaum sichtbar werden:

Packet Loss und Retransmissions

Traditionelles Ethernet arbeitet vergleichsweise robust: Geht ein Paket verloren, wird es erneut übertragen. Für Office-Anwendungen, Streaming oder Webdienste funktioniert dieses Prinzip meist problemlos.

KI-Workloads reagieren dagegen deutlich empfindlicher. Denn in GPU-Clustern tauschen Systeme permanent Trainingsparameter und Zwischenergebnisse aus. Muss ein einzelnes Paket erneut übertragen werden, können ganze Synchronisationsprozesse verzögert werden. Die Folge: Tausende GPUs warten potenziell aufeinander. Je größer ein Cluster wird, desto stärker können sich solche Effekte kumulieren.

Congestion – Wenn Netzwerke sich selbst ausbremsen

Ein weiteres Problem entsteht durch Netzwerküberlastung (Congestion / Stau). KI-Workloads erzeugen häufig sogenannte Elephant Flows – große, kontinuierliche Datenströme zwischen vielen Systemen. Treffen zahlreiche dieser Datenströme gleichzeitig auf gemeinsame Netzwerkpfade, entstehen Engpässe.

In klassischen Netzwerken führt dies zu:

• Warteschlangen in Switches
• Paketverlusten
• erneuten Übertragungen
• unvorhersehbaren Verzögerungen

Gerade hochgradig parallele Trainingsverfahren reagieren darauf empfindlich. Denn nicht die Durchschnittsgeschwindigkeit entscheidet über die Effizienz eines KI-Clusters – sondern häufig der langsamste Kommunikationspfad.

Tail Latency – Das unterschätzte Problem großer KI-Cluster

Besonders kritisch wird in KI-Netzen ein Effekt, der häufig unterschätzt wird: Tail Latency.

Gemeint sind seltene, aber besonders langsame Kommunikationsereignisse – also Latenzen am rechten Rand (Tail) der statistischen Verteilung von Antwortzeiten. Während der Großteil von Datenpaketen sehr schnell übertragen wird, treten vereinzelt deutlich langsamere Kommunikationspfade auf.

Genau diese Ausreißer werden in hochgradig parallelen KI-Umgebungen problematisch. Denn bei synchronisierten Trainingsprozessen entscheidet nicht die durchschnittliche Kommunikationsgeschwindigkeit über die Gesamtleistung, sondern häufig der langsamste Teilnehmer im Verbund.

Was in kleineren Infrastrukturen kaum auffällt, kann sich in großen GPU-Clustern erheblich verstärken. Bereits einzelne Verzögerungen reichen aus, damit Tausende Systeme aufeinander warten müssen. Die Folge sind Effizienzverluste, längere Trainingszeiten und eine schlechtere Auslastung hochspezialisierter Hardware.

Oder vereinfacht formuliert: In großen KI-Clustern zählt nicht nur Geschwindigkeit – sondern vor allem Konsistenz.

Genau diese Herausforderungen motivierten eine neue Entwicklungsrichtung für Ethernet: Kommunikation soll nicht nur schnell, sondern vor allem stabil, vorhersehbar und möglichst verlustfrei werden

Warum wenige langsame Verbindungen ganze KI-Cluster bremsen

Ein häufig unterschätzter Zusammenhang moderner Rechenzentren lautet: Große verteilte Systeme werden häufig vom langsamsten Teilnehmer bestimmt.

Gerade in hochgradig parallelen Umgebungen genügt bereits eine kleine Verzögerung einzelner Kommunikationspfade, um die Gesamteffizienz eines Systems spürbar zu reduzieren. Denn viele Prozesse müssen synchron abgeschlossen werden. Verzögert sich ein Teil der Kommunikation, entstehen Wartezeiten entlang der gesamten Verarbeitungskette.

Je größer ein Cluster wird, desto stärker wirkt dieser Effekt. Was in kleineren Umgebungen kaum auffällt, entwickelt sich bei Tausenden GPUs schnell zum strukturellen Problem. Selbst seltene Verzögerungen einzelner Verbindungen können sich vervielfachen und ganze Trainingsläufe ausbremsen.

Übertragen auf moderne KI-Rechenzentren bedeutet das: Nicht die durchschnittliche Netzwerkgeschwindigkeit entscheidet – sondern die Konsistenz tausender Kommunikationspfade. Gerade bei großen Sprachmodellen mit permanenter GPU-Synchronisation wird dies zum kritischen Erfolgsfaktor. Denn in hochgradig verteilten Trainingsumgebungen zählt nicht nur maximale Leistung, sondern vor allem die Fähigkeit eines Netzwerks, Kommunikation stabil, vorhersehbar und möglichst störungsfrei bereitzustellen.

Genau deshalb verschiebt sich der Fokus moderner Netzwerkentwicklung zunehmend: weg von maximalem Datendurchsatz – hin zu möglichst konsistenter, verlustarmer und deterministischer Kommunikation.

Das Ziel: Ethernet speziell für KI und HPC weiterentwickeln

Im Jahr 2023 gründeten mehrere große Technologieunternehmen das Ultra Ethernet Consortium (UEC). Das Ziel: Ethernet gezielt für hochskalierende KI- und HPC-Umgebungen optimieren.

Zu den beteiligten Unternehmen zählen unter anderem Netzwerkanbieter, Cloud-Betreiber, Halbleiterhersteller und Infrastrukturunternehmen. Die Grundidee besteht nicht darin, Ethernet vollständig neu zu erfinden.

Vielmehr versucht Ultra Ethernet gezielt jene Schwächen zu adressieren, die in extrem parallelen KI-Workloads sichtbar werden.

Der Fokus liegt dabei insbesondere auf:

• KI-Trainingsclustern
• GPU-Fabrics
• High Performance Computing
• verteilten Inferenzplattformen

Damit entsteht erstmals ein Ethernet-Ansatz, der sich nicht primär an klassischen Unternehmensnetzwerken orientiert, sondern gezielt an Anforderungen moderner AI-Fabrics.

Wie Ultra Ethernet Ethernet intelligenter machen soll

Im Kern verfolgt Ultra Ethernet mehrere technische Ansätze, um Netzwerke robuster, effizienter und besser auf hochgradig parallele KI-Workloads vorzubereiten. Dabei geht es nicht nur um mehr Bandbreite. Entscheidend wird vielmehr die Fähigkeit, Kommunikationsprobleme frühzeitig zu erkennen, Datenverkehr intelligenter zu steuern und Verzögerungen möglichst konsistent niedrig zu halten.

Denn moderne GPU-Cluster reagieren äußerst empfindlich auf Störungen. Schon geringe Überlastungen einzelner Netzwerkpfade können dazu führen, dass große Teile eines Trainingsclusters aufeinander warten müssen. Ultra Ethernet adressiert deshalb gezielt mehrere Schwächen klassischer Netzwerke.

Verbesserte Congestion Control

Eines der größten Probleme moderner KI-Netze entsteht durch Überlastsituationen. Treffen viele hochvolumige Datenströme gleichzeitig auf gemeinsame Netzwerkpfade, entstehen Warteschlangen, Paketverluste und unvorhersehbare Verzögerungen. Gerade in hochgradig parallelen GPU-Clustern können bereits kleinere Engpässe erhebliche Auswirkungen auf Synchronisationsprozesse haben.

Ultra Ethernet versucht solche Situationen deutlich früher zu erkennen und Kommunikationsströme intelligenter zu steuern. Ziel ist es, Überlastungen möglichst zu entschärfen, bevor sie sich auf Trainingsprozesse auswirken oder erneute Übertragungen erforderlich werden.

Der Fokus verschiebt sich damit grundlegend: weg von reaktiver Fehlerbehandlung – hin zu möglichst proaktiver Verkehrssteuerung.

Gerade in großen KI-Umgebungen wird dies entscheidend. Denn nicht einzelne Verbindungen bestimmen die Effizienz eines Clusters, sondern das Zusammenspiel Tausender paralleler Kommunikationspfade.

Erweiterte Telemetrie

Klassische Netzwerke liefern häufig nur begrenzte Transparenz über ihren aktuellen Zustand. In KI-Umgebungen reicht dies zunehmend nicht mehr aus. Ultra Ethernet setzt deshalb auf deutlich präzisere Echtzeitinformationen über Netzwerkzustände, Auslastung, Verzögerungen und mögliche Engpässe. Infrastrukturteams sollen Probleme erkennen können, bevor diese sich auf Trainingsprozesse auswirken.

Das Ziel lautet: Netzwerke nicht nur betreiben – sondern kontinuierlich verstehen. Gerade in großen GPU-Fabrics wird diese Transparenz zunehmend entscheidend.

Höhere Reliability

Moderne KI-Systeme sind auf stabile Kommunikation angewiesen. Schon kleinere Kommunikationsprobleme können Synchronisationsprozesse stören oder die Effizienz eines gesamten Clusters reduzieren. Ultra Ethernet adressiert deshalb gezielt die Zuverlässigkeit der Datenübertragung.

Kommunikation soll robuster werden, Paketverluste reduziert und Wiederholungsmechanismen intelligenter behandelt werden. Denn in KI-Umgebungen gilt zunehmend: Stabilität ist oft wichtiger als maximale Spitzengeschwindigkeit.

Niedrigere und konsistentere Latenzen

Nicht allein möglichst geringe Latenzen stehen im Fokus – sondern vor allem deren Vorhersagbarkeit. Gerade hochgradig parallele Trainingsverfahren reagieren empfindlich auf Schwankungen einzelner Kommunikationspfade. Ziel moderner KI-Netze ist daher nicht nur schnelle Kommunikation, sondern möglichst gleichmäßige Kommunikation.

Oder anders formuliert: Für KI zählt häufig nicht der schnellste Einzelwert, sondern die Verlässlichkeit tausender Kommunikationspfade.

Genau diese Kombination aus intelligenter Verkehrssteuerung, Transparenz und konsistenter Kommunikation macht Ultra Ethernet zu einem der derzeit spannendsten Ansätze moderner KI-Netzwerke.

Wird Ultra Ethernet InfiniBand verdrängen?

Genau an dieser Stelle lohnt sich eine nüchterne Einordnung: Aktuell entsteht rund um Ultra Ethernet erhebliche Aufmerksamkeit. Manche Stimmen interpretieren die Entwicklung bereits als Beginn des Endes von InfiniBand.

Eine solche Bewertung erscheint derzeit jedoch verfrüht. InfiniBand besitzt weiterhin erhebliche Vorteile in spezialisierten Hochleistungsumgebungen – insbesondere bei extrem niedrigen Latenzen und hochoptimierter Cluster-Kommunikation.

Gleichzeitig besitzt Ethernet starke strukturelle Vorteile:

• offenes Ökosystem
• breite Marktverfügbarkeit
• Herstellerunabhängigkeit
• Integration bestehender Infrastruktur
• hohe Skalierbarkeit

Wahrscheinlicher erscheint daher aktuell kein vollständiger Technologiewechsel, sondern eine stärkere Differenzierung.

InfiniBand dürfte in hochspezialisierten HPC- und Spitzenleistungsumgebungen relevant bleiben. Gleichzeitig könnte modernes Ethernet – insbesondere mit Ultra Ethernet – in vielen KI-Rechenzentren zunehmend an Bedeutung gewinnen.

Die entscheidende Frage lautet daher vermutlich nicht: Ethernet oder InfiniBand?, sondern vielmehr: Für welchen Workload eignet sich welche Architektur langfristig besser?

Und genau diese Frage verschärft sich weiter, wenn Datenmengen exponentiell wachsen und selbst moderne Netzwerke an physikalische Grenzen stoßen.

Damit rückt die nächste Entwicklung in den Fokus: Warum steigen Ethernet-Geschwindigkeiten inzwischen auf 800 Gigabit und perspektivisch sogar 1,6 Terabit pro Sekunde?

Von 100G zu 800G und 1.6T – Warum Netzwerke explodieren

Wer aktuelle Roadmaps großer Netzwerkhersteller betrachtet, stößt schnell auf beeindruckende Zahlen: 100 Gigabit, 400 Gigabit, 800 Gigabit und perspektivisch sogar 1,6 Terabit pro Sekunde.

Auf den ersten Blick wirkt diese Entwicklung beinahe absurd. Denn viele Unternehmensnetzwerke arbeiten bis heute erfolgreich mit 1 oder 10 Gigabit Ethernet. Selbst moderne Datacenter setzen vielerorts noch auf 25G-, 40G- oder 100G-Infrastrukturen. Warum also scheint die Netzwerkindustrie plötzlich Geschwindigkeiten anzustreben, die vor wenigen Jahren kaum vorstellbar wirkten?

Die einfache Antwort lautet: Weil künstliche Intelligenz Netzwerke in bislang unbekannte Größenordnungen zwingt.

Die eigentliche Erklärung ist jedoch deutlich komplexer. Denn die steigenden Bandbreiten sind weniger Ausdruck technologischer Übertreibung als vielmehr eine direkte Folge fundamentaler Veränderungen moderner Rechenzentren.

Die Ethernet-Roadmap: Von 100G zu 1.6T

Ethernet entwickelte sich über Jahrzehnte evolutionär. Lange Zeit verliefen Geschwindigkeitssprünge vergleichsweise moderat: von Fast Ethernet über Gigabit Ethernet bis hin zu 10G und 40G. Mit dem Aufstieg großer Cloud-Plattformen und Hyperscaler beschleunigte sich diese Entwicklung jedoch erheblich.

Heute dominieren in modernen Rechenzentren zunehmend neue Geschwindigkeitsklassen:

• 100G Ethernet: lange Zeit Standard moderner Datacenter-Uplinks
• 400G Ethernet: zunehmend etabliert in großen Cloud- und KI-Umgebungen
• 800G Ethernet: aktuell im Ausbau größerer AI-Fabrics
• 6T Ethernet: bereits in Entwicklung für zukünftige KI-Cluster

Perspektivisch diskutiert die Branche sogar 3.2 Terabit Ethernet.

Diese Zahlen wirken zunächst wie ein Wettrüsten der Hardwareindustrie. Tatsächlich spiegeln sie jedoch einen grundlegenden Wandel der Kommunikationsanforderungen wider. Denn nicht einzelne Systeme werden schneller – ganze Infrastrukturen kommunizieren intensiver als jemals zuvor.

Warum KI-Netzwerke plötzlich explodieren

Der wichtigste Treiber moderner Netzwerkentwicklung lautet nicht: Mehr Geschwindigkeit um ihrer selbst willen. Entscheidend ist vielmehr die zunehmende Parallelität künstlicher Intelligenz.

Je größer Modelle werden, desto stärker wächst die Kommunikationslast zwischen beteiligten Systemen. Mehrere Faktoren verstärken diesen Effekt gleichzeitig.

Größere Modelle erzeugen mehr Datenaustausch

Frühe Machine-Learning-Modelle arbeiteten häufig noch in überschaubaren Größenordnungen. Große Sprachmodelle bestehen heute dagegen aus Milliarden oder sogar Billionen Parametern. Diese Parameter müssen zwischen GPUs kontinuierlich synchronisiert werden.

Je größer ein Modell wird, desto stärker wächst der interne Kommunikationsaufwand. Der Skalierungsfaktor betrifft damit längst nicht mehr nur Compute-Leistung – sondern zunehmend auch Netzwerkkapazität.

Mehr GPUs erzeugen exponentielle Kommunikationskomplexität

Ein weiterer Faktor liegt in der wachsenden Zahl beteiligter Systeme. Früher trainierten einzelne Server Modelle lokal. Heute arbeiten häufig Tausende GPUs parallel zusammen. Damit steigt nicht nur die verfügbare Rechenleistung. Es wächst zugleich die Anzahl potenzieller Kommunikationsbeziehungen.

Vereinfacht formuliert: Mehr GPUs bedeuten nicht nur mehr Compute – sondern vor allem mehr Koordination. Je größer Cluster werden, desto stärker steigt deshalb der Bedarf an stabiler, hochperformanter Netzwerkkommunikation.

Mehr Synchronisation erzeugt mehr East-West-Traffic

Gerade verteilte Trainingsverfahren erzeugen enorme Mengen horizontalen Netzwerkverkehrs. Trainingszustände müssen synchronisiert, Zwischenergebnisse ausgetauscht und Speicherzugriffe koordiniert werden. Inference-Plattformen bewegen zusätzlich große Datenmengen zwischen Compute-, Storage- und Netzwerkebene.

Die Folge: KI-Netzwerke transportieren längst nicht mehr nur Daten – sie koordinieren Berechnung. Damit wächst East-West-Traffic in Größenordnungen, die klassische Datacenter-Architekturen ursprünglich nie adressieren mussten.

Warum Bandbreite allein die falsche Perspektive ist

Trotz aller beeindruckenden Zahlen wäre es jedoch falsch, moderne KI-Netze ausschließlich über Gigabit- oder Terabitwerte zu bewerten. Denn mehr Bandbreite allein garantiert noch keine bessere Performance.

Ein Netzwerk mit 800 Gigabit pro Sekunde kann ineffizient arbeiten, wenn Überlastsituationen entstehen, Paketlaufzeiten stark schwanken oder Synchronisationsprozesse verzögert werden.

Gerade KI-Cluster reagieren empfindlich auf:

• Latenzen
• Tail Latency
• Congestion
• Paketverluste
• ungleichmäßige Kommunikationspfade

Oder anders formuliert: Geschwindigkeit wird zunehmend zur Grundvoraussetzung – Effizienz bleibt der eigentliche Wettbewerbsvorteil.

Genau deshalb reicht der Ausbau reiner Bandbreite künftig nicht mehr aus. Netzwerke müssen nicht nur schneller, sondern gleichzeitig intelligenter, vorhersehbarer und stabiler werden.

Und damit rückt eine weitere Herausforderung in den Fokus: Wie lassen sich hochperformante KI-Netze überhaupt sinnvoll segmentieren und isolieren, wenn Tausende Systeme gleichzeitig kommunizieren?

VXLAN und EVPN – Warum Segmentierung auch im KI-Datacenter wichtig bleibt

Moderne KI-Rechenzentren benötigen enorme Bandbreiten, hochperformante Kommunikationspfade und möglichst geringe Latenzen. Doch Geschwindigkeit allein reicht nicht aus. Denn mit wachsender Skalierung steigt eine weitere Herausforderung: Wie lassen sich Tausende Systeme effizient organisieren, voneinander trennen und sicher betreiben?

Gerade in KI-Umgebungen teilen sich häufig viele unterschiedliche Workloads dieselbe physische Infrastruktur. Verschiedene Teams trainieren Modelle parallel, externe Kund:innen greifen auf GPU-Ressourcen zu und Cloud-Plattformen stellen Rechenleistung dynamisch bereit. Damit entsteht eine Anforderung, die klassische Netzwerke schnell an Grenzen bringt: skalierbare Segmentierung.

Warum klassische VLANs im KI-Datacenter an Grenzen stoßen

Über viele Jahre bildeten Virtual Local Area Networks (VLANs) die Grundlage logischer Netzwerksegmentierung. Der Ansatz ist bewährt: Unterschiedliche Systeme werden logisch voneinander getrennt, obwohl sie dieselbe physische Infrastruktur nutzen. Sicherheitsrichtlinien lassen sich sauber umsetzen, Broadcast-Domänen begrenzen und Netzwerke übersichtlich strukturieren.

Für klassische Unternehmensumgebungen funktioniert dieses Modell bis heute zuverlässig. In modernen KI-Rechenzentren entstehen jedoch neue Anforderungen.

Skalierung

Klassische VLANs besitzen technische Grenzen. Ein wesentlicher Faktor liegt in der verfügbaren Adressierung: VLANs arbeiten mit einer 12-Bit-VLAN-ID, wodurch theoretisch maximal 4.096 VLANs möglich sind – praktisch stehen aufgrund reservierter Bereiche rund 4.094 nutzbare Segmente zur Verfügung.

Für klassische Unternehmensnetzwerke erscheint diese Zahl zunächst großzügig. In modernen Cloud- und KI-Rechenzentren entstehen jedoch völlig andere Größenordnungen.

Dort wachsen die Anforderungen durch:

• Tausende virtuelle Workloads
• dynamisch bereitgestellte GPU-Ressourcen
• isolierte Entwicklungs- und Trainingsumgebungen
• Multi-Tenant-Architekturen
• verteilte AI-Fabrics über mehrere Cluster hinweg

Zudem koppeln klassische VLANs logische Netzsegmente vergleichsweise eng an physische Infrastrukturen. Workloads lassen sich dadurch nur begrenzt flexibel verschieben oder standortübergreifend konsistent betreiben.

Mit wachsender Größe und Dynamik moderner KI-Plattformen wird die Segmentierungslogik dadurch schnell komplex und schwer skalierbar. Besonders große Cloud- und KI-Umgebungen benötigen deshalb deutlich flexiblere Modelle zur logischen Netzwerksegmentierung.

Multi-Tenant-Umgebungen

Viele moderne GPU-Plattformen arbeiten heute mandantenfähig (Multi-Tenant). Der Hintergrund ist wirtschaftlich naheliegend: Hochleistungs-GPUs zählen zu den teuersten Infrastrukturkomponenten moderner Rechenzentren. Eine dedizierte Umgebung für jedes einzelne Team oder Unternehmen wäre in vielen Fällen wirtschaftlich kaum sinnvoll.

Stattdessen teilen sich unterschiedliche Benutzer:innen dieselbe physische Infrastruktur.

Dabei kann es sich beispielsweise handeln um:

• verschiedene Unternehmen auf einer GPU-as-a-Service-Plattform
• Entwicklungs- und Forschungsteams innerhalb eines Konzerns
• parallel betriebene Trainings- und Inferenzumgebungen
• isolierte Kundenprojekte in Cloud-Umgebungen

Die Herausforderung liegt dabei nicht in der gemeinsamen Nutzung selbst, sondern in der sicheren Trennung. Denn obwohl dieselben Switches, GPU-Cluster und Speichersysteme genutzt werden, dürfen Trainingsdaten, Modelle oder Workloads anderer Mandanten weder sichtbar noch beeinflussbar sein.

Netzwerke müssen deshalb zwei scheinbar gegensätzliche Anforderungen gleichzeitig erfüllen: gemeinsame physische Infrastruktur ermöglichen – und zugleich strikte logische Isolation sicherstellen.

Hinzu kommt eine weitere Komplexität: KI-Workloads sind hochdynamisch. GPU-Ressourcen werden je nach Bedarf verschoben, skaliert oder kurzfristig bereitgestellt. Trainingsumgebungen entstehen temporär und verschwinden nach Abschluss eines Projekts wieder. Statische Segmentierungsmodelle geraten dabei schnell an Grenzen.

Gerade deshalb gewinnen logisch entkoppelte Overlay-Netzwerke wie VXLAN / EVPN in modernen KI-Rechenzentren zunehmend an Bedeutung. Denn sie ermöglichen Mandantenfähigkeit, Isolation und Skalierung, ohne jede Änderung physisch neu planen zu müssen.

GPU-as-a-Service

Besonders sichtbar werden diese Herausforderungen beim Modell GPU-as-a-Service (GPUaaS). Ähnlich wie virtuelle Maschinen oder Cloud-Storage werden GPU-Ressourcen dabei nicht mehr zwingend lokal betrieben, sondern bedarfsgerecht als Dienst bereitgestellt. Unternehmen, Forschungseinrichtungen oder Entwicklungsteams buchen Rechenleistung dynamisch – häufig nur für die Dauer eines Trainingslaufs oder einer Inferenzaufgabe.

Im Hintergrund verteilen Anbieter diese Workloads oft flexibel über mehrere Cluster, Racks oder sogar verschiedene Rechenzentren hinweg. Für Nutzer:innen soll dieser Infrastrukturaufwand jedoch möglichst unsichtbar bleiben. Die Erwartung lautet: eine konsistente, sichere und logisch getrennte GPU-Umgebung – unabhängig davon, wo die zugrunde liegende Hardware tatsächlich betrieben wird.

Genau hier geraten klassische VLAN-Konzepte schnell an praktische Grenzen. Denn GPUaaS-Umgebungen erfordern häufig:

• dynamische Bereitstellung neuer Netzwerksegmente
• standortübergreifende Workload-Mobilität
• sichere Isolation unterschiedlicher Mandanten
• flexible Skalierung über große Spine-Leaf-Fabrics hinweg

Klassische VLANs koppeln logische Netzsegmente jedoch vergleichsweise eng an physische Netzwerkstrukturen. Jede größere Änderung erzeugt zusätzlichen administrativen Aufwand und reduziert die Flexibilität dynamischer Plattformen.

VXLAN- und EVPN-Architekturen lösen dieses Problem deutlich eleganter. Da logische Netzwerksegmente von der physischen Infrastruktur entkoppelt werden, lassen sich GPU-Ressourcen deutlich flexibler bereitstellen, verschieben und skalieren – ohne die darunterliegende Fabric grundlegend verändern zu müssen. Gerade deshalb entwickelt sich GPU-as-a-Service zunehmend zu einem der wichtigsten Praxisbeispiele moderner Overlay-Netzwerke im KI-Rechenzentrum.

Warum VXLAN und EVPN im KI-Datacenter an Bedeutung gewinnen

Genau an dieser Stelle gewinnen VXLAN (Virtual Extensible LAN) und EVPN (Ethernet VPN) zunehmend an Bedeutung. Während VLANs physische Netzwerkgrenzen vergleichsweise eng an Standorte koppeln, ermöglichen VXLAN- und EVPN-Architekturen deutlich flexiblere Modelle. Vereinfacht ausgedrückt: Netzwerke werden logischer – und weniger abhängig von physischer Infrastruktur.

Overlay Networks statt physischer Begrenzung

VXLAN arbeitet mit sogenannten Overlay-Netzwerken. Dabei werden logische Netzwerksegmente über bestehende physische Infrastrukturen gelegt. Systeme können logisch derselben Umgebung angehören, obwohl sie physisch auf unterschiedlichen Hosts, Racks oder sogar Standorten betrieben werden.

Gerade in Spine-Leaf-Architekturen großer Datacenter spielt dieser Ansatz seine Stärken aus. Denn GPU-Cluster müssen häufig dynamisch wachsen, Workloads verschieben oder neue Ressourcen flexibel integrieren können.

Skalierbare Segmentierung

Ein wesentlicher Vorteil moderner Overlay-Netze liegt in ihrer Skalierbarkeit. Während klassische VLANs nur begrenzte Segmentierungsräume bereitstellen, ermöglichen VXLAN-Umgebungen erheblich größere logische Netzwerkstrukturen.

Für große KI-Infrastrukturen wird dies entscheidend. Denn wenn Tausende GPUs, Speichersysteme und KI-Services parallel betrieben werden, genügt klassische Netzsegmentierung oft nicht mehr.

Mandantenfähigkeit in AI Fabrics

Besonders relevant wird VXLAN und EVPN in mandantenfähigen KI-Umgebungen. Unterschiedliche Teams oder Kund:innen sollen dieselbe Infrastruktur nutzen können – ohne sich gegenseitig zu beeinflussen.

Netzwerkisolation wird damit nicht nur Sicherheitsmaßnahme, sondern Geschäftsgrundlage. Gerade Anbieter von GPU-as-a-Service-Plattformen setzen deshalb zunehmend auf VXLAN / EVPN-Fabrics, um logische Trennung, Skalierbarkeit und Flexibilität gleichzeitig zu erreichen.

Praxisbeispiel: GPU-as-a-Service

Die wirtschaftliche Realität moderner KI führt zunehmend zu einem Modell, das an klassische Cloud-Dienste erinnert: Statt eigene GPU-Cluster aufzubauen, beziehen Unternehmen Rechenleistung bedarfsgerecht als Service. Ähnlich wie virtuelle Maschinen oder Cloud-Storage werden GPU-Ressourcen dynamisch bereitgestellt.

Damit dieses Modell funktioniert, müssen Betreiber jedoch mehrere Anforderungen gleichzeitig erfüllen:

• sichere Isolation unterschiedlicher Kund:innen
• flexible Bereitstellung neuer Ressourcen
• dynamische Skalierung
• konsistente Netzwerkperformance

VXLAN- und EVPN-Architekturen schaffen hierfür die notwendige Grundlage. Denn sie erlauben es, physische Infrastruktur flexibel in logisch getrennte Netzräume zu überführen – ohne jede Änderung an der Hardware neu planen zu müssen.

Wer die technische Entwicklung von VLAN zu VXLAN näher nachvollziehen möchte, findet in meinem Beitrag Von VLAN zu VXLAN – Segmentierung im Cisco-Netzwerk im Wandel der Zeit eine ausführliche Einordnung der technologischen Evolution und praktischen Hintergründe.

KI braucht nicht nur Geschwindigkeit – sondern auch Isolation

Die Diskussion um KI-Netzwerke konzentriert sich häufig auf Bandbreite, Latenz oder GPU-Leistung. Diese Perspektive greift jedoch zu kurz. Denn moderne KI-Rechenzentren müssen nicht nur schnell sein – sondern zugleich sicher, skalierbar und flexibel.

Gerade in mandantenfähigen Umgebungen wird Segmentierung deshalb zu einem zentralen Bestandteil der Infrastrukturstrategie. Oder anders formuliert: KI braucht nicht nur Geschwindigkeit – sondern auch kontrollierte Isolation.

Damit rückt zum Abschluss eine entscheidende Frage in den Mittelpunkt: Wie verändert künstliche Intelligenz das Rechenzentrum insgesamt – und welche Architektur dürfte sich langfristig durchsetzen?

KI-Netzwerke: Warum Congestion wichtiger ist als Bandbreite

Wer über moderne KI-Netzwerke spricht, denkt häufig zuerst an immer höhere Geschwindigkeiten. 400 Gigabit, 800 Gigabit oder perspektivisch sogar 1,6 Terabit pro Sekunde scheinen den Eindruck zu vermitteln, dass die Zukunft vor allem eine Frage immer größerer Bandbreite sei.

Diese Perspektive greift jedoch zu kurz. Denn in vielen modernen KI-Rechenzentren liegt das eigentliche Problem nicht primär in zu wenig Bandbreite – sondern in ihrer Verteilung.

Oder vereinfacht formuliert: Nicht fehlende Geschwindigkeit bremst KI aus, sondern schlecht koordinierte Kommunikation.

Gerade in hochgradig parallelen GPU-Clustern entscheidet deshalb nicht allein die maximale Übertragungsrate über die Gesamtleistung, sondern die Fähigkeit eines Netzwerks, Datenverkehr effizient zu organisieren.

Warum Bandbreite allein wenig über Performance aussagt

Auf den ersten Blick erscheint die Rechnung plausibel: Mehr Bandbreite = schnellere Kommunikation = leistungsfähigere KI. In der Praxis funktionieren große KI-Cluster jedoch deutlich komplexer. Denn moderne Trainingsumgebungen erzeugen keine gleichmäßigen Datenströme. Stattdessen entstehen hochdynamische Kommunikationsmuster mit stark schwankenden Lasten, tausenden parallelen Verbindungen und massiven Synchronisationsanforderungen. Selbst extrem leistungsfähige Netzwerke können dadurch an Grenzen geraten.

Das Problem: Viele Datenströme konkurrieren gleichzeitig um dieselben Ressourcen. Dadurch entstehen Überlastsituationen – in der Netzwerktechnik häufig als Congestion bezeichnet. Im Kern bedeutet dies: Das Netzwerk besitzt zwar grundsätzlich genügend Kapazität, verteilt diese jedoch in bestimmten Situationen nicht effizient genug.

Elephant Flows – Wenn Lastverteilung wichtiger wird als Bandbreite

Wie bereits im Zusammenhang mit Ultra Ethernet beschrieben, erzeugen moderne KI-Workloads regelmäßig sogenannte Elephant Flows – große, kontinuierliche Datenströme, die erhebliche Bandbreiten über längere Zeiträume beanspruchen. Gerade in KI-Rechenzentren entstehen solche Verkehrsprofile permanent: bei GPU-Synchronisationen, verteiltem Modelltraining oder umfangreichen Storage-Zugriffen.

Die eigentliche Herausforderung liegt dabei jedoch weniger in der absoluten Datenmenge als in ihrer Verteilung. Treffen mehrere Elephant Flows gleichzeitig auf gemeinsame Netzwerkpfade, entstehen lokale Überlastungen. Einzelne Links oder Switches werden stark beansprucht, während an anderer Stelle weiterhin freie Kapazitäten verfügbar wären. Das Problem: Das Netzwerk besitzt oft genügend Gesamtkapazität – nutzt sie aber nicht gleichmäßig.

Gerade in Spine-Leaf-Architekturen mit vielen parallelen Kommunikationsbeziehungen kann sich dieser Effekt erheblich verstärken. Werden bestimmte Pfade überproportional belastet, entstehen sogenannte Hotspots: lokale Engpässe innerhalb einer eigentlich hochperformanten Fabric. Die Folge sind Warteschlangen, steigende Paketlaufzeiten und zunehmend inkonsistente Kommunikationspfade.

Für klassische Anwendungen bleibt dies häufig unkritisch – KI-Workloads reagieren dagegen empfindlich. Denn synchronisierte Trainingsverfahren warten häufig auf Ergebnisse anderer Systeme. Verzögert sich ein Teil der Kommunikation durch lokale Congestion, kann dies ganze GPU-Verbünde ausbremsen – obwohl die verfügbare Gesamtbandbreite des Netzwerks theoretisch ausreichend wäre.

Oder vereinfacht formuliert: Nicht zu wenig Netzwerkleistung wird zum Problem – sondern ihre ungleichmäßige Verteilung.

Incast und Queueing – Wenn zu viele Systeme gleichzeitig sprechen

Ein weiteres Problem moderner KI-Netzwerke entsteht durch Incast. Dabei senden viele Systeme gleichzeitig Daten an denselben Empfänger – beispielsweise wenn zahlreiche GPUs Ergebnisse an einen gemeinsamen Verarbeitungsschritt zurückmelden.

Während klassische Anwendungen solche Lastspitzen oft tolerieren, können KI-Workloads empfindlich reagieren. Denn plötzlich konkurrieren viele Kommunikationspfade gleichzeitig um begrenzte Pufferkapazitäten in Switches.

Die Folge:

• Warteschlangen (Queueing)
• Verzögerungen
• Paketverluste
• erneute Übertragungen

Besonders kritisch wird dies in synchronisierten Trainingsverfahren. Denn oft genügt bereits ein einzelner überlasteter Kommunikationspfad, um ganze Verarbeitungsschritte zu verzögern.

Warum GPUs aufeinander warten müssen

Gerade große Sprachmodelle arbeiten hochgradig synchronisiert. Viele GPUs berechnen unterschiedliche Teile eines Modells parallel und müssen ihre Ergebnisse anschließend miteinander abgleichen. Erst wenn alle beteiligten Systeme ihren Berechnungsschritt abgeschlossen haben, kann der nächste Trainingszyklus beginnen.

Dadurch entsteht ein häufig unterschätzter Effekt: Nicht die schnellsten Systeme bestimmen die Geschwindigkeit – sondern der langsamste Teilnehmer. Bereits einzelne langsamere Nodes, überlastete Switch-Pfade oder verzögerte Speicherzugriffe können deshalb den gesamten Trainingslauf ausbremsen.

Das Problem ähnelt einer Fertigungslinie: Selbst wenn nahezu alle Produktionsschritte effizient arbeiten, reduziert eine einzige Verzögerung die Geschwindigkeit der gesamten Kette. Je größer ein KI-Cluster wird, desto stärker wirken sich solche Effekte aus.

Moderne Ansätze gegen Congestion

Genau deshalb konzentriert sich moderne Netzwerkentwicklung zunehmend auf intelligentere Verkehrssteuerung. Ziel ist es, Überlastsituationen möglichst früh zu erkennen und Kommunikationsströme dynamisch anzupassen.

Mehrere Verfahren gewinnen dabei an Bedeutung.

ECN – Überlastung erkennen, bevor Pakete verloren gehen

Explicit Congestion Notification (ECN) versucht, Überlastsituationen frühzeitig sichtbar zu machen. Statt Paketverluste erst nachträglich zu kompensieren, signalisiert das Netzwerk drohende Engpässe bereits während der Kommunikation. Systeme können ihre Datenströme dadurch frühzeitig anpassen. Der Vorteil: weniger Retransmits und stabilere Kommunikation.

PFC – Verlustarme Kommunikation in Ethernet-Netzen

Priority Flow Control (PFC) verfolgt einen anderen Ansatz. Bestimmte Datenströme lassen sich priorisieren und bei drohender Überlastung gezielt pausieren, anstatt Pakete zu verwerfen. Gerade in RoCEv2-Umgebungen spielt dies eine wichtige Rolle. Das Ziel: möglichst verlustarme Kommunikation trotz hoher Last.

Adaptive Congestion Control

Moderne KI-Netze reagieren zunehmend dynamisch auf Veränderungen. Anstatt starre Regeln zu verwenden, analysieren Systeme aktuelle Verkehrsprofile und passen Kommunikationsströme laufend an. Damit verschiebt sich der Fokus: weg von statischer Netzwerkkonfiguration – hin zu adaptiver Optimierung.

Sprayed Traffic – Last intelligenter verteilen

Ein weiterer moderner Ansatz liegt in sogenanntem Sprayed Traffic. Anstatt einzelne große Datenströme über wenige feste Pfade zu transportieren, werden Datenpakete intelligenter auf mehrere verfügbare Wege verteilt. Gerade in Spine-Leaf-Fabrics hilft dieser Ansatz dabei, Last gleichmäßiger zu verteilen und lokale Überlastungen zu reduzieren.

Warum KI-Netzwerke neu denken müssen

Die wichtigste Erkenntnis moderner KI-Infrastrukturen lautet deshalb: Mehr Bandbreite allein löst das Problem nicht. Selbst die schnellste Infrastruktur bleibt ineffizient, wenn Kommunikation schlecht verteilt wird oder einzelne Verzögerungen ganze Cluster ausbremsen.

Damit verschiebt sich die Perspektive auf Netzwerke grundlegend. Nicht maximale Geschwindigkeit wird zum entscheidenden Erfolgsfaktor – sondern die Fähigkeit, Kommunikation stabil, vorhersehbar und intelligent zu orchestrieren.

Oder anders formuliert: Das Netzwerk der KI-Zukunft wird nicht nur schneller – sondern vor allem koordinierter.

Fazit: Warum KI das Datacenter neu erfindet

Künstliche Intelligenz verändert Rechenzentren grundlegender, als es viele frühere Technologiewellen getan haben. Virtualisierung veränderte die Serverlandschaft. Cloud Computing verschob Infrastruktur in neue Betriebsmodelle. Containerisierung machte Anwendungen flexibler und verteilter. Doch künstliche Intelligenz greift noch tiefer in die Architektur moderner IT ein. Denn KI verändert nicht nur Anwendungen oder Betriebsmodelle – sie verändert die physikalischen und logischen Grundlagen digitaler Infrastruktur.

Das wird besonders im Netzwerk sichtbar. Über viele Jahre galt Bandbreite als zentrale Messgröße moderner Rechenzentren. Doch KI verschiebt den Fokus deutlich. Entscheidend wird nicht länger allein, wie schnell einzelne Systeme kommunizieren können, sondern wie effizient Tausende Systeme parallel zusammenarbeiten.

Anders gesagt: Künstliche Intelligenz macht das Netzwerk vom reinen Transportweg zur kritischen Rechenressource. Genau daraus entstehen derzeit fundamentale Architekturveränderungen.

Klassische Netzwerkmodelle reichen nicht mehr aus

Die vergangenen Kapitel haben gezeigt, dass traditionelle Datacenter-Architekturen zunehmend an Grenzen stoßen. Klassische Drei-Schichten-Modelle wurden für eine Welt entworfen, in der Anwendungen überwiegend zentral betrieben wurden und Netzwerkverkehr primär zwischen Benutzer:innen und Servern stattfand.

KI-Rechenzentren funktionieren grundlegend anders. Heute dominiert East-West-Traffic: GPU-Cluster synchronisieren Trainingszustände, Speichersysteme liefern kontinuierlich Datenströme und verteilte KI-Workloads erzeugen enorme Mengen horizontaler Kommunikation.

Damit verändert sich die Architektur zwangsläufig. Spine-Leaf-Netzwerke entwickeln sich zunehmend zum Standard moderner KI-Rechenzentren, weil sie vorhersehbare Kommunikationspfade, geringe Latenzen und horizontale Skalierung ermöglichen.

Ethernet erlebt eine unerwartete Renaissance

Lange Zeit galt die Gleichung: Maximale Leistung = InfiniBand. Diese Sichtweise bleibt in vielen spezialisierten HPC- und Hochleistungsumgebungen weiterhin nachvollziehbar. Gerade dort, wo minimale Latenzen und maximal deterministische Kommunikation entscheidend sind, besitzt InfiniBand weiterhin erhebliche Stärken.

Gleichzeitig verändert sich der Markt. Hyperscaler und große KI-Plattformen denken zunehmend in anderen Größenordnungen. Skalierung, Offenheit und wirtschaftliche Betriebsmodelle gewinnen an Bedeutung.

Genau deshalb erlebt Ethernet derzeit eine bemerkenswerte Renaissance. Moderne Ethernet-Fabrics entwickeln sich zunehmend weiter: höhere Bandbreiten, intelligente Verkehrssteuerung, verbesserte Telemetrie und Technologien wie RoCEv2 oder Ultra Ethernet schließen historische Schwächen Schritt für Schritt.

Die eigentliche Frage lautet deshalb heute weniger: Ethernet oder InfiniBand?, sondern vielmehr: Welche Architektur eignet sich langfristig für welche Form von KI-Infrastruktur?

KI verändert Netzwerke stärker als viele frühere Technologiewellen

Vielleicht liegt genau hier die wichtigste Erkenntnis dieses Beitrags: KI erzeugt nicht einfach mehr Verkehr. KI verändert die Regeln. Denn moderne AI-Fabrics benötigen nicht nur hohe Geschwindigkeiten, sondern vor allem:

• konsistente Kommunikation
• möglichst geringe und vorhersehbare Latenzen
• intelligente Lastverteilung
• skalierbare Segmentierung
• hochgradig parallele Kommunikation

Damit wird klar: Das Netzwerk der KI-Zukunft muss nicht nur schneller, sondern vor allem intelligenter werden. Selbst die heute entstehenden Architekturen könnten sich langfristig nur als Zwischenstufe erweisen.

Denn bereits jetzt arbeiten Forschungseinrichtungen, Hyperscaler und Hardwarehersteller an neuen Ansätzen: optische Interconnects, Silicon Photonics, co-packaged optics, verlustärmere Kommunikationsverfahren und zunehmend autonome Netzwerksteuerung.

Die Idee dahinter ist ebenso faszinierend wie ambitioniert: Daten künftig möglichst ohne klassische elektrische Engpässe transportieren. Doch selbst modernste Ethernet-Fabrics könnten langfristig nur ein Zwischenschritt auf dem Weg dorthin sein.

Im dritten Teil dieser Blogserie geht es deshalb um die nächste Evolutionsstufe moderner Netzwerke: Der Traum vom Glas – Warum selbst modernste Netzwerke noch elektrisch denken und wie Photonik die Zukunft verändern könnte.

Quellenangaben

(Abgerufen am 13.06.2026)

KI-Infrastruktur, AI-Native Networking und autonome Netzwerke

• Cullen Jennings (IETF): Agentic AI communications: Identifying the standards we need
• David Simon, Christian Töpfer (Heise): Wie die KI Enterprise-Netzwerke revolutioniert (Webcast)
• HPE: Hewlett Packard Enterprise closes acquisition of Juniper Networks to offer industry-leading comprehensive, cloud-native, AI-driven portfolio
• HPE: Marvis AI
• HPE: Mist AI
• HPE: The next generation of networking: From vision to self-driving reality
• HPE: What is AI-native networking?
• HPE: What Is Intent-Based Networking?
• IBM: From pilot to production: The IBM AI infrastructure story (PDF-Datei)
• IBM: Infrastructure for AI
• Jonathan Rosenberg (IETF): The AI Agent Protocols (aiproto) Working Group
• Juniper Networks: AI-Native NOW: The New Era
• Oğuz Sunay, Pallavi Mahajan (Nokia): When AI becomes physical: The network as a distributed nervous system
• Prashant Kumar (Future Connections): Understanding the rise of AI-native telco
• Scott Robohn (Nokia): Designing the new data center fabric: Nokia SR Linux and Event-Driven Automation
• Stefan Bartels, David Simon, Martin Seiler (Heise): Self-driving Networks – Realität oder Zukunft? (Webcast)
• Toni Arcuri (TM Forum): Intent-based networking: unlocking the full potential of AI in autonomous networks
• Vivek Bagmar (Medium): Intent-Based Networking: Moving from Configuration to Outcomes

Wi-Fi 7, WLAN und drahtlose Infrastruktur

• Benjamin Pfister, Erik Hofmann (Heise): Extreme Networks: Wi-Fi 7, Ruggedized Switches und Fabric-Updates
• Cisco: What is Wi-Fi 7?
• Ernst Ahlers (Heise): Wi-Fi 7: Schlauer funken mit neuem WLAN
• Harald Karcher (Heise): Ratgeber: Enterprise-WLAN für große Wohnungen, Häuser und Schulen
• IEEE: IEEE 802.11-2024
• IEEE: IEEE 802.11be-2024
• IEEE: IEEE 802.11bh-2024
• IEEE: IEEE 802.11bk-2025
• Lawrence Huang (Cisco): Introducing Zero-Friction Wireless for Smarter Workplaces
• Michael John Wood (RTINGS): The Disappointing Truth About Wi-Fi 7
• Ubiquiti: Fundamentals of UniFi WiFi Design

Ethernet, Multi-Gigabit und Netzwerkperformance

• Alissa Irei, Eamon McCarthy Earls (TechTarget): Understanding the evolution of Ethernet
• Arielle Sumits (Cisco): The History and Future of Internet Traffic
• Arun Devadiga (LinkedIn): Network Bandwidth and Capacity Evolution 2000-2025
• Ethernet Alliance: 2026 Ethernet Roadmap (PDF-Datei)
• ETHW: Ethernet
• ETHW: Milestones: Ethernet Local Area Network (LAN), 1973-1985
• ETHW: Oral-History: Robert Metcalfe
• Geoff Huston (ARIN): Internet Evolution: Moore’s Law, Addressing Architectures, and the Future of Internet Scale
• Hadriel Kaplan, Robert Noseworthy (University of New Hampshire): The Ethernet Evolution: From 10 Meg to 10 Gig - How it all Works!
• John Hawkins (Comcast Business): The History of Carrier Ethernet
• Matt Davies Stockton (Medium): The Evolution of Internet Speeds: From Dial-Up to 5G and Beyond
• Max Beckett (Uswitch): History of the internet: A timeline throughout the years
• Michael Deskin (Dresner Group): The Evolution of Internet Speeds Since the 1990s
• Nicholas Watkins (ShowMeCables): History of Ethernet
• W. Tull (Versitron): From Gigabits to Terabits to Ethernet: Exploring the Evolution of Ethernet for High-Speed Internet
• Steve Alexander (Ciena): When Moore Is Not Enough – Why Our Growing Networks Require More Software

Rechenzentren, AI Fabrics und Hochleistungsnetzwerke

• AICPLIGHT (Medium): Analysis of InfiniBand Network
• Amit Thakkar (Celestica): Arrival of 1.6T Ethernet Marks the Beginning of a New Era in AI Data Centers
• Ashkan Seyedi (NVIDIA): Scaling Power-Efficient AI Factories with NVIDIA Spectrum-X Ethernet Photonics
• Bikash Roy Choudhury (SNIA): NextGen Connected Cloud Datacenter with programmable and flexible infrastructure
• Cisco: Building AI/ML Data Center Fabric using VXLAN EVPN for GPUaaS
• Cisco: Cisco ACI Multi-tier Architecture White Paper
• Cisco: Cisco AI Networking for Data Center with NVIDIA Spectrum-X Solution Overview
• Cisco: Cisco Massively Scalable Data Center Network Fabric Design and Operation White Paper
• Cisco: Cisco Networking Platform
• Cisco: Creating Fabrics and Fabric Groups, Release 4.2.1
• Cisco: Preferred Architecture for Cisco Collaboration 14 Enterprise On-Premises Deployments, CVD
• Cisco: Understanding Cisco DNA and Catalyst Software eBook
• Curtis Ballard (SNIA): Storage for AI 103: An Introduction to Storage for AI Inference (PDF-Datei)
• Dan Hanson (DataCenter-Insider): Ethernet schließt locker die Lücke zu Infiniband
• Erik Smith (SNIA): Q&A: 400G and PCIe 8.0 in Next-Gen Interconnects
• Fibre Systems: Ethernet roadmap prioritises 1.6T optics and LPO for AI
• Filipe Pereira Martins, Anna Kobylinska (DataCenter-Insider): Netzwerk ohne Hitzestau: Der Countdown zu 800G
• Fortune Business Insights: Data Center Fabric Market Size, Share, and Industry Analysis
• HPE: Juniper AI Data Center Solutions
• Juniper Networks: Data Center Fabric Blueprint Architecture Components
• Juniper Networks: Introducing the Data Center Fabric Blueprint Architecture
• Keysight: 6T Ethernet in the Data Center
• NADDOD (Medium): A Comprehensive Guide to 800G Ethernet DAC Cables
• NADDOD (Medium): Spectrum-6 Ethernet Switch Deep Dive: SN6810 102.4T and SN6800 409.6T Switch
• NetworkLessons: Data Center Fabric Evolution
• NVIDIA: Die Ethernet-Plattform NVIDIA Spectrum
• NVIDIA: NVIDIA Spectrum-X Ethernet Switches Speed Up Networks for Meta and Oracle
• NVIDIA: The Network Defines the AI Data Center
• Raguraman Sundaram (SNIA): Ethernet in the Age of AI Q&A
• Scot Schultz (NVIDIA): InfiniBand Multilayered Security Protects Data Centers and AI Workloads
• Scott Guthrie (Microsoft): Inside the world’s most powerful AI datacenter
• Teledyne LeCroy: 800GE vs 1.6TE (PDF-Datei)
• Tim Lustig (SNIA): PCIe Q&A
• Tzvika Naveh (DriveNets): InfiniBand vs Ethernet – Why Ethernet fits AI Networking needs
• Ultra Ethernet Consortium: Intersect360 Research White Paper: UEC 1.0: NEW HIGH-PERFORMANCE  STANDARD FOR SCALING HPC-AI (PDF-Datei)
• Ultra Ethernet Consortium: Ultra Ethernet Specification v1.0.2 (PDF-Datei)
• Ultra Ethernet Consortium: Working Groups
• WhiteFiber: Ethernet vs. InfiniBand: The Evolving Landscape of High-Performance Networking

Zero Trust, ZTNA und Netzwerksicherheit

• Fortinet (Heise): Zero Trust zwischen Wunsch und Wirklichkeit (PDF-Datei)
• Sophos (Heise): So sieht die Netzwerksicherheit der Zukunft aus (PDF-Datei)

Predictive Operations, Monitoring und Self-Healing

• Checkit: What is predictive operations? A complete guide to building resilient workflows
• Mordechai Potash (Medium): Reactive to Predictive Operations
• Peter Reynolds (ARC Advisory Group): Predictive Maintenance or Predictive Operations?
• Publicis Sapient: Predictive Operations Are Changing How IT Prevents Failure (PDF-Datei)
• Rob Mora (IBM): What is predictive monitoring and how to make it happen

Glasfaser, Kupfer, Photonik und Übertragungsmedien

• Archway: Fiber vs Copper: Choosing the Right Backbone for Your Business Network
• Baudcom: Copper SFP vs. Fiber SFP: Choosing the Right Transceiver for Your Network
• Christian Rookes (EE Times): Why Fiber Optics is Replacing Copper in Data Centers
• Duke University: Introduction to all-optical switching
• D. Kyriakis-Bitzaros, N. Haralabidis, Y. Moisiadis, Michalis Lagadas (ResearchGate): Comparison of the signal latency in optical and electrical interconnections for interchip links (PDF-Datei)
• com: Fiber Optic Cable vs Twisted Pair Cable vs Coaxial Cable
• Geeks for Geeks: Difference between Fiber optic cable and Copper wire
• Geeks for Geeks: Transmission Media in Computer Networks
• Inneos: The Copper Cliff: Why Fiber Optics Is the Future Beyond 10 Gbps
• James Kruchowski, Vladimir Sokolov, Nathan Harff et al. (arXiv): Comparison of Optical and Electrical Links for HighlyInterconnected Systems
• JHA Tech: What are the differences between electrical port modules and optical modules?
• G. Roberts (IEEE): Beyond Moore's law: Internet growth trends
• Lenovo: What is a data signal?
• Michael Hsu (Zion Communication): Cat6A vs Fiber: Where Copper Ends and Optical Begins
• Olivier Leclerc (ECIO Conference): Optical vs. Electronic in-line Signal Processing in Optical Communication Systems : An exciting challenge for Optical Devices (PDF-Datei)
• Orbray: Optical Switches and their significance in High-speed, Large-Capacity Optical Communications
• Kapur, K. C. Saraswat (IEEE): Comparisons between electrical and optical interconnects for on-chip signaling
• Robyn Laskey (PhotonDelta): What is the difference between photonic and electronic semiconductors?
• Sabine Synkule (all-electronics.de): Sensoren verstehen von der Funktion bis zur Anwendung
• Samuel K. Moore (IEEE Spectrum): AI Data Centers Demand More Than Copper Can Deliver
• SENKO: The Evolution of Data Transmission: Why Fiber is Replacing Copper at the Chip Level
• Tony Lau (Hone Cable): What is the difference between photonic and electronic semiconductors?
• Universität Paderborn: Moderne Signalverarbeitung: Schneller und leistungsstärker durch elektronisch-photonische Systeme

Glasfaser-Ausbau und Infrastrukturpolitik in Deutschland

• Falk Steiner (Heise): Missing Link: Deutschland, eine Kupfer-Geschichte
• Lutz Meier (Capital): Kupferkabel statt Glasfaser – das fatale Erbe von Kohls Postminister
• Martin Feck (AZ Online): Lobbyismus mit Langzeitwirkung (Kommentar)

Nachhaltigkeit, Energieeffizienz und Green Networking

• Diego Lopez, Robert Wilton (IETF): The new GREEN working group gets ready for an energy efficient Internet
• IETF: Getting Ready for Energy-Efficient Networking (green)

Moore’s Law, Datenwachstum und technologische Skalierung

• Carla Tardi (Investopedia): Understanding Moore's Law: Is It Still Relevant in 2025?
• Christoforos Kachris (ResearchGate): Data growth vs. Moore’s law
• imec: Is Moore’s law dead?
• Peter J. Denning, Ted G. Lewis (Communications of the ACM): Exponential Laws of Computing Growth
• Richard A. Lawhern (KevinMD): Understanding Moore’s Law and the exponential growth of technology

Marktberichte, Nachrichten und Infrastrukturtrends

• Achim Sawall (Golem): Von FTTH über DSL bis Starlink: Welche Internetzugänge es in Deutschland gibt
• Carolin Riethmüller (Heise): SoftBank investiert Milliarden in KI-Rechenzentren in Frankreich
• Malte Kirchner (Heise): KI-Rechenleistung aus dem Vorgarten: Start-up setzt auf dezentrale Server
• Malte Kirchner (Heise): KI-Rechenzentren: Flexibler Stromverbrauch soll Netzanschluss beschleunigen
• Oliver Jessner (Golem): KI-Rechenzentren vs. Stromnetz: Wer zahlt die Zeche für den KI-Boom?
• R. Rhesia (Golem): Maschinenträume 1: KI und der Mythos der Emergenz
• Volker Buzek, Tobias Conz, Christian Töpfer (Heise): Die richtige Prozessarchitektur als Basis zur effizienten Verbesserung von SAP-Prozessen (Webcast)
• Zeus Kerravala (Computerwoche): Enterprise-Netzwerke: Modernisierung in 6 Schritten

Weiterlesen hier im Blog

• Cisco ISE, VLAN und 802.1X – Zero Trust in der Praxis
• IPv6-Einstieg – Grundlagen und Adressierung im Überblick
• Von VLAN zu VXLAN – Segmentierung im Cisco-Netzwerk im Wandel der Zeit
• Wenn die Computerkommunikation intelligent wird – Zukunftsarchitekturen, IPv6 und KI im modernen Netzdesign
• Wenn Netzwerke sich selbst heilen – Cisco AI Canvas und AgenticOps
• WLAN richtig konfigurieren und optimieren – Grundlagen, Sicherheit und stabile Performance im Netzwerk