Telefon
+49 4105 770000Fragen? Rufen Sie uns an
Trusted-Shops-Siegel
Trusted ShopsGütesiegel
ISO-9001-Zertifizierung
Zertifizierte QualitätISO-9001:2015-zertifiziertes Unternehmen
Weltweiter Versand
Weltweiter VersandWir versenden weltweit
Kontakt
KontaktEine Nachricht hinterlassen

NVIDIA MIG: GPU-Partitionierung für KI und Rechenzentren

·

Hands holding a smartphone showing the NVIDIA logo on a bright screen.

NVIDIA MIG (Multi-Instance GPU) ist eine Technologie zur hardwarebasierten Partitionierung unterstützter NVIDIA GPUs. Sie ermöglicht es, eine physische GPU in mehrere voneinander isolierte GPU-Instanzen mit eigenen Rechen- und Speicherressourcen aufzuteilen. Für IT-Infrastrukturarchitekten und Rechenzentrumsbetreiber, die NVIDIA Ampere-, Hopper- oder Blackwell-GPUs in mandantengeeigneten Umgebungen einsetzen, bietet NVIDIA MIG einen grundsätzlich anderen Ansatz zur GPU-Nutzung als virtuelle GPU (vGPU) oder Time-Slicing: Die Hardwarepartitionierung schafft echte Fehlerisolation zwischen Workloads bei gleichzeitig vorhersagbarer Performance. Dieser Artikel erklärt, wie NVIDIA MIG auf Hardwareebene funktioniert, welche GPUs es unterstützen, wann es statt anderer Sharing-Methoden einzusetzen ist und welche Infrastrukturentscheidungen es erfordert.

Wie partitioniert NVIDIA MIG eine GPU?

NVIDIA MIG teilt eine einzelne physische GPU in mehrere GPU-Instanzen auf, indem drei zentrale Ressourcen partitioniert werden: Streaming Multiprocessors (SMs), GPU-Speicher und Speicherbandbreite. Jede MIG-Instanz arbeitet gegenüber Betriebssystem und Anwendungen als eigenständige GPU mit eigener Speicherzuteilung, Fehlerisolationsgrenze und Scheduling-Priorität. Die Partitionierung erfolgt auf Hardwareebene. Bei unterstützten GPUs werden SMs, Speicher-Slices und Memory-Controller den jeweiligen GPU-Instanzen auf Hardwareebene zugewiesen. Ein Workload in einer Instanz kann nicht auf Speicher einer anderen Instanz zugreifen, und ein Fehler in einer Instanz — ob Softwarefehler oder hängender Kernel — breitet sich nicht auf andere aus. Diese Hardwareisolation unterscheidet NVIDIA MIG von softwarebasierten GPU-Sharing-Methoden, bei denen alle Workloads weiterhin denselben GPU-Speicherbereich und dieselbe Fehlerdomäne teilen.

Jede MIG-Instanz erhält:

  • Eine feste Anzahl von SMs für Berechnungen
  • Ein dediziertes Speicher-Slice mit eigenen Memory-Controllern
  • Einen garantierten Anteil am L2-Cache
  • Dedizierte GPU-Speicherbandbreite
  • Unabhängige Compute- und Copy-Engines

Die Instanzprofile definieren, wie Ressourcen aufgeteilt werden. Profilnamen folgen dem Muster Xg.YYgb, wobei X den zugewiesenen GPU-Anteil und YY die Speichergröße angibt. Beispielsweise weist 3g.40gb drei Siebtel der GPU-Rechenressourcen und 40 GB Speicher zu. Die Anzahl der Instanzen, die eine GPU hosten kann, hängt davon ab, welche Profile gleichzeitig aktiv sind — kleinere Instanzen erlauben mehr Workloads, jede erhält aber weniger Ressourcen. MIG-Instanzen auf separaten physischen GPUs können über Netzwerke mittels GPUDirect RDMA kommunizieren, abhängig von Konfigurationsvorgaben.

Welche NVIDIA GPUs unterstützen MIG?

NVIDIA MIG ist auf ausgewählten Data Center GPUs der Ampere-, Hopper- und Blackwell-Architekturen sowie auf RTX PRO Blackwell Professional-GPUs. Nicht alle Enterprise-GPUs unterstützen die Funktion — sie erfordert spezifische Hardwarepartitionierungslogik, die mit diesen Generationen eingeführt wurde.

Unterstützte GPUs:

  • A100 (Ampere): Bis zu sieben Instanzen. Verfügbar in 40-GB- und 80-GB-Varianten; das 80-GB-Modell ermöglicht größere Speicherprofile pro Instanz.
  • H100 (Hopper): Bis zu sieben Instanzen. Verfügbar in PCIe- und SXM-Konfigurationen mit 80 GB.
  • H200 (Hopper): Bis zu sieben Instanzen. HBM3e-Speicher erhöht die Kapazität pro Instanz zur Unterstützung größerer Modelle.
  • B200 (Blackwell): Bis zu sieben Instanzen. NVIDIA-Dokumentation bestätigt MIG-Unterstützung; finale Profilspezifikationen hängen von der Speicherkonfiguration ab.
  • RTX 6000 Ada Generation (Professional Workstation): Unterstützt MIG nicht.
  • RTX PRO 6000 Blackwell Server Edition: Bis zu vier Instanzen. Auch weitere RTX PRO Blackwell GPUs unterstützen NVIDIA MIG.

Ältere Architekturen — V100 (Volta), T4 (Turing), A10 — unterstützen NVIDIA MIG nicht. Diesen GPUs fehlt die für Instanzisolation erforderliche Hardwarepartitionierungslogik. Workload-Sharing auf diesen Plattformen erfordert vGPU, Time-Slicing oder containerbasiertes Scheduling, von denen keine Hardwarefehlergrenzen bereitstellt. Die Anzahl verfügbarer Profile unterscheidet sich nach Modell. Eine A100 80 GB kann sieben 1g.10gb-Instanzen oder eine 7g.80gb-Instanz erstellen; Auch Kombinationen unterschiedlicher Instanzprofile sind möglich, sofern die jeweiligen Profil- und Platzierungsregeln der GPU eingehalten werden. Eine H100 bietet ähnliche Flexibilität, aber mit höherem Speicher pro Anteil. Die Plattformspeicherkapazität bestimmt die maximale Profilgröße — eine 40-GB-A100 kann keine 4g.40gb-Instanz erstellen.

NVIDIA MIG: Instanzprofile und Speicherzuteilung

Jedes MIG-Profil weist eine spezifische SM-Anzahl und Speicherkapazität zu. Das Profil bestimmt, welche Workloads in die Instanz passen und wie viele Instanzen koexistieren können.

Gängige Profile bei unterstützten GPUs:

ProfilSM-AnteilSpeicher (A100 80 GB)Typischer Anwendungsfall
1g.10gb1/710 GBInference-Serving, CI/CD-Tests
2g.20gb2/720 GBMittlere Inferenzmodelle, Entwicklung
3g.40gb3/740 GBTraining kleiner Modelle, große Inferenz
4g.40gb4/740 GBGemischtes Training und Inferenz
7g.80gb7/780 GBGesamte GPU als eine MIG-Instanz

Tatsächliche Grenzen hängen von GPU-Modell, Speicherdichte und konfigurierten Profilen ab — eine H200 mit HBM3e unterstützt höheren Speicher pro Instanz als eine A100 bei äquivalenten Profilanteilen.

Die Speicherzuteilung ist exklusiv. Ein Workload, der 12 GB anfordert, kann nicht in einer 1g.10gb-Instanz laufen, selbst wenn andere Instanzen im Leerlauf sind — NVIDIA MIG verteilt Speicher nicht dynamisch zwischen Instanzen um. Administratoren müssen Instanzprofile vor dem Deployment an Workload-Speicheranforderungen anpassen. Überdimensionierung einer Instanz verschwendet Ressourcen; Unterdimensionierung verhindert den Start von Workloads. Die Profilgranularität variiert nach GPU-Generation. Ampere-GPUs teilen sich sauber in Siebtel; einige NVIDIA Hopper GPU Konfigurationen unterstützen je nach Speichersubsystem feinere Aufteilungen. Die RTX PRO 6000 Blackwell Server Edition erstellt bis zu vier Instanzen, was ein anderes Partitionierungsdesign für kleinere Formfaktoren widerspiegelt.

NVIDIA MIG vs. vGPU und Time-Slicing: Was sind die Unterschiede?

GPU-Sharing-Strategien unterscheiden sich in Isolationsgarantien, Performance-Vorhersagbarkeit und operativer Flexibilität. Die richtige Wahl hängt davon ab, ob Workloads Fehlerisolation benötigen, ob sie gleichzeitig laufen und ob Performance-Variabilität akzeptabel ist.

MerkmalMIGvGPUTime-Slicing
HardwareisolationJa — separater Speicher, SMsAbhängig von der vGPU-Konfiguration; MIG-basierte vGPU möglichNein — gemeinsamer GPU-Speicher
FehlerisolationHardwarebasierte Fehlerisolation zwischen GPU-Instanzen<Teilweise — Hypervisor vermitteltKeine MIG-basierte Hardwarefehlerisolation
QoS-GarantieJa — dedizierte RessourcenEingeschränkt — gemeinsame RessourcenNein — scheduling-abhängig
Gleichzeitige AusführungJa — Instanzen laufen simultanJa — VMs laufen simultanZeitliche Aufteilung gemeinsam genutzter GPU-Ressourcen
RekonfigurationErfordert GPU-Reset und InstanzneuanlageAbhängig von Plattform und vGPU-KonfigurationSofort — Scheduling-Policy-Änderung
Geeignet fürCloud-Multi-Tenancy, strikte SLAsVDI, Desktop-VirtualisierungEntwicklung, bursthafte Workloads

NVIDIA MIG einsetzen, wenn:

  • Nicht vertrauenswürdige oder unabhängige Mandanten-Workloads laufen, bei denen ein Ausfall andere nicht stören darf
  • Service-Level-Agreements garantierte Rechen- und Speicherkapazität erfordern
  • Mehrere Kubernetes-Namespaces oder Teams gleichzeitigen GPU-Zugriff mit Isolation benötigen
  • Inference-Serving-Workloads vorhersagbare Latenz ohne Interferenz benötigen
  • CI/CD-Pipelines dedizierte GPU-Ressourcen für Tests ohne Konkurrenz erfordern

vGPU einsetzen, wenn:

  • Desktop-Workloads oder VDI-Deployments virtualisiert werden, bei denen Live-Migration wichtig ist
  • GPU-Zuteilung auf VM-Ebene über bestehende Hypervisor-Tools verwaltet wird
  • Workloads gemeinsamen Speicher und gelegentliche Scheduling-Verzögerungen tolerieren
  • Windows- oder nicht containerisierte Anwendungen GPU-Beschleunigung benötigen

Time-Slicing einsetzen, wenn:

  • Entwicklungs- oder Prototyping-Umgebungen, in denen Isolation nicht kritisch ist
  • Workload-Aufkommen bursthaft ist und gleichzeitige Ausführung selten
  • Infrastruktur keine MIG-fähigen GPUs besitzt, aber grundlegendes GPU-Sharing benötigt
  • Operative Einfachheit und null Rekonfigurationsoverhead Prioritäten sind

NVIDIA MIG bietet Determinismus: Eine 3g.40gb-Instanz erhält exakt ihre zugewiesenen SMs und Speicher unabhängig von Aktivität in anderen Instanzen. Time-Slicing bietet Flexibilität: Ein Workload kann die volle GPU nutzen, wenn andere im Leerlauf sind, wird aber unterbrochen, wenn Konkurrenz entsteht. Der Kompromiss besteht zwischen garantierter Kapazität und opportunistischer Performance.

Was sind die praktischen Einschränkungen von MIG?

Die Hardwareisolation von NVIDIA MIG führt Beschränkungen ein, die bei Voll-GPU- oder Time-Slicing-Konfigurationen nicht existieren. Diese Grenzen betreffen Workload-Kompatibilität, operative Flexibilität und Performance für bestimmte Anwendungsfälle.

Statische Partitionierung: Sobald Instanzen erstellt sind, können Ressourcen nicht zwischen ihnen verschoben werden. Eine 2g.20gb-Instanz kann keinen Speicher von einer im Leerlauf befindlichen 1g.10gb-Instanz ausleihen. Wenn ein Workload über seine Instanz hinauswächst, muss die betroffene Instanz neu konfiguriert werden. Abhängig von den verfügbaren Ressourcen und Platzierungsregeln können dafür weitere Instanzänderungen erforderlich sein. Dies macht NVIDIA MIG ungeeignet für Workloads mit stark variablem Speicher- oder Rechenbedarf.

Nicht alle Partitionsgrößen sind verfügbar: Die Summe der aktiven Instanzanteile darf die verfügbaren GPU-Ressourcen nicht überschreiten. Nicht alle Profilkombinationen sind zulässig. Administratoren müssen Profilmischungen innerhalb der pro GPU-Modell dokumentierten unterstützten Kombinationen planen.

Instanzübergreifende Kommunikation ist eingeschränkt: MIG-Instanzen können nicht direkt über GPU-Speicher oder NVLink innerhalb derselben physischen GPU kommunizieren. Dies begrenzt die Anwendbarkeit von NVIDIA MIG auf eng gekoppelte parallele Training-Jobs.

Anwendungskompatibilität variiert: Die meisten Inferenz-Frameworks und Single-GPU-Training-Workloads laufen unverändert in MIG-Instanzen. Anwendungen, die GPU-Topologie abfragen, vollen SM-Zugriff annehmen oder auf Unified-Memory-Adressierung angewiesen sind, können auf Probleme stoßen. Tests auf MIG-Instanzen vor Produktionsdeployment sind erforderlich.

Profilgranularität unterscheidet sich nach Modell: Eine A100 bietet Siebenfach-Partitionierung; die RTX PRO 6000 Blackwell Server Edition unterstützt vier Instanzen. Für Siebenfach-Splits auf A100 entworfene Workloads lassen sich möglicherweise nicht sauber auf Vierfach-Splits auf kleineren GPUs übertragen.

Keine dynamische Größenanpassung: Das Ändern eines Instanzprofils erfordert das Beenden der betroffenen Workloads und eine entsprechende Anpassung der Instanzkonfiguration. Ein GPU-Reset ist bei aktiviertem MIG-Modus nicht für jede Instanzänderung erforderlich. Dies bedeutet, dass NVIDIA MIG nicht für Umgebungen geeignet ist, in denen Ressourcenzuteilung sich kontinuierlich an wechselnde Nachfrage anpassen muss.

NVIDIA MIG dimensionieren: Workloads und Ressourcen planen

Die Wahl der richtigen MIG-Konfiguration in professionellen KI-Servern hängt davon ab, wie viele Workloads gleichzeitig laufen, welche Isolation sie benötigen und ob ihre Ressourcenanforderungen im Voraus bekannt sind. Ein Deployment, das zehn Inferenzmodelle bedient, benötigt nicht automatisch zehn Instanzen — falls die Modelle nie gleichzeitig laufen, können weniger größere Instanzen wirtschaftlicher sein.

Die Entscheidung balanciert drei Faktoren:

  • Workload-Konkurrenz: wie viele Aufgaben simultan ohne Interferenz ausgeführt werden müssen
  • Ressourcen-Footprint pro Aufgabe: benötigter Speicher und Rechenaufwand pro Workload
  • Isolationsnotwendigkeit: ob Fehlergrenzen oder QoS-Garantien zwingend sind

Ein Kubernetes-Cluster, der fünfzig Microservices betreibt, die jeweils sporadisch GPU-Ressourcen anfordern, kann von weniger, größeren Instanzen profitieren. NVIDIA unterstützt beispielsweise CUDA MPS auf MIG-Instanzen, sodass sich mehrere Prozesse die Ressourcen einer Instanz teilen können. Umgekehrt erfordert eine Cloud-Plattform, die dreißig verschiedene Mandanten mit strikten SLAs hostet, eine Instanz pro Mandant unabhängig von der Auslastung. Speicherdimensionierung bestimmt die Instanzanzahl. Sieben Inferenzmodelle, die jeweils 8 GB benötigen, passen in sieben 1g.10gb-Instanzen auf einer A100 80 GB. Vier Training-Workloads, die jeweils 35 GB benötigen, können beispielsweise auf vier 3g.40gb-Instanzen verteilt werden. Auf einer A100 80 GB sind maximal zwei dieser Instanzen gleichzeitig möglich. Für vier solche Workloads werden daher mindestens zwei A100-80-GB-GPUs benötigt. Wo Workloads unvorhersehbar variieren, bietet Voll-GPU-Zuteilung oder vGPU mehr Flexibilität als NVIDIA MIG. NVIDIA MIG liefert Nutzen, wo der Workload-Mix stabil ist, Isolation nicht verhandelbar ist und die operativen Kosten der Rekonfiguration akzeptabel sind.

server-hardware.com unterstützt Rechenzentrumsbetreiber, GPU-Hosting-Anbieter, Cloud-Service-Provider und Systemintegratoren bei der Auswahl und Konfiguration leistungsstarker GPU-Server für mandantenfähige KI-Infrastrukturen, Inferenz-Cluster und gemischte Workload-Umgebungen. Individuell konfigurierte GPU-Server ermöglichen die Bereitstellung unterschiedlicher GPU-Instanzprofile mit NVIDIA MIG, wobei CPU, Arbeitsspeicher und Netzwerkanbindung auf die Anforderungen der jeweiligen Workloads abgestimmt werden. Unsere Server-Experten beraten Sie bei der Auswahl geeigneter MIG-fähiger NVIDIA GPUs und unterstützen Sie dabei, GPU-Ressourcen effizient auf mehrere Kunden oder Anwendungen aufzuteilen und für kommerzielle Hosting- und Cloud-Dienste bereitzustellen.

Technische Quellen:

NVIDIA MIG User Guide

Emilia GaedeOnline Marketing Managerin

Haben Sie Fragen?

Unsere Experten unterstützen Sie gerne bei Ihren Fragen rund um Server-Hardware und bieten Ihnen kompetente Lösungen für Ihre Anforderungen.

Kontaktieren Sie uns

Unsere neuesten Artikel

USV-Abkürzung: IT-Techniker am Arbeitsplatz im Serverraum vor Netzwerk-Racks

USV-Abkürzung: Bedeutung und USV-Arten für Server erklärt

Nov. 19, 2026Emilia Gaede

Die USV-Abkürzung steht für „unterbrechungsfreie Stromversorgung“ (englisch: UPS, Uninterruptible Power Supply). Eine USV versorgt Server, Storage-Systeme und Netzwerkkomponenten bei einem Stromausfall aus Batterien weiter, gleicht je nach Bauart Spannungsschwankungen aus und gibt den Systemen Zeit, kontrolliert herunterzufahren. Für Server-Infrastrukturen bestimmt die USV-Art den Schutzgrad – die passende Größe ergibt sich aber erst aus Wirkleistung (Watt), […]

NetzteileServer
Close-up view of modern rack-mounted server units in a data center.

CXL-Memory: RAM-Erweiterung für speicherintensive KI-Workloads

Nov. 16, 2026Emilia Gaede

CXL Memory ermöglicht die Erweiterung des CPU-Arbeitsspeichers kompatibler Server über die Kapazitätsgrenzen herkömmlicher RAM-Steckplätze hinaus. Wenn die maximal unterstützte lokale DDR5-Speicherkapazität eines KI-Servers erreicht ist und speicherintensive KI-Workloads zusätzlichen Arbeitsspeicher benötigen, bietet CXL Memory Expansion eine mögliche Lösung. CXL (Compute Express Link) ist ein PCIe-basierter Interconnect-Standard, über den zusätzliche Speicherkapazität bereitgestellt werden kann. Anders als […]

ArbeitsspeicherKünstliche IntelligenzProzessorenServer
Detailed view of RAM sticks and microprocessors on a motherboard.

RDIMM vs. LRDIMM: Unterschiede, Kompatibilität und Einsatzgebiete

Nov. 12, 2026Emilia Gaede

RDIMM vs. LRDIMM ist eine wichtige Unterscheidung bei der Auswahl und Erweiterung von DDR4-Serverspeicher. Beide Speichermodultypen kommen in professionellen Serverumgebungen zum Einsatz, unterscheiden sich jedoch in ihrer internen Architektur und der elektrischen Belastung des Speichercontrollers. Während RDIMMs eine verbreitete Lösung für Server mit unterschiedlichen Speicheranforderungen darstellen, wurden LRDIMMs insbesondere für hohe Speicherkapazitäten und umfangreiche DIMM-Bestückungen […]

ArbeitsspeicherServer