High-IOPS-SSDs werden zunehmend für KI-Workloads entwickelt, bei denen GPUs selbst Speicherzugriffe auf NVMe-SSDs initiieren. Während herkömmliche Storage-Architekturen I/O-Anfragen überwiegend über die CPU steuern, ermöglichen neue Ansätze wie Big Accelerator Memory (BaM) und NVIDIA SCADA eine GPU-initiierte Datenbereitstellung. Damit verändern sich auch die Anforderungen an SSD-Hardware: Besonders viele kleine, parallele Random-Reads erfordern hohe IOPS, geringe Zugriffslatenzen und eine effiziente Verarbeitung zahlreicher gleichzeitiger Anfragen.
Hersteller wie KIOXIA, Samsung, Micron und Solidigm entwickeln spezialisierte SSD-Hardware oder untersuchen den Einsatz leistungsfähiger Server SSDs in GPU-initiierten Storage-Architekturen. Die KIOXIA GP1-Serie wurde beispielsweise im August 2026 als speziell für GPU-Direktzugriffe optimierte PCIe-6.0-SSD mit bis zu zehn Millionen Random-Read-IOPS angekündigt.
Doch nicht jeder KI-Workload benötigt solche spezialisierten Laufwerke. Entscheidend sind die tatsächlichen Zugriffsmuster, die GPU-I/O-Architektur und die Frage, ob die Datenbereitstellung die GPU-Auslastung begrenzt.
Warum GPU-initiierte KI-Workloads neue High-IOPS-SSDs benötigen
In klassischen Serverarchitekturen werden Speicheroperationen häufig von CPU-seitigen Anwendungen und Betriebssystemdiensten initiiert. Daten werden aus dem Storage gelesen, durch den Host verarbeitet und anschließend für die Berechnung auf der GPU bereitgestellt. Bei datenintensiven KI-Anwendungen kann diese Vorgehensweise zusätzlichen Verwaltungsaufwand verursachen, insbesondere wenn viele kleine, unregelmäßige Datenzugriffe stattfinden. Für die Bewertung einer High-IOPS-SSD ist deshalb der tatsächliche Datenzugriff entscheidend.
Ein Beispiel sind Graph Neural Networks (GNNs). Beim Training solcher Modelle werden Informationen aus großen Graphstrukturen benötigt, deren Knoten und Verbindungen nicht zwangsläufig zusammenhängend gespeichert sind. Die GPU muss wiederholt kleinere Datenbereiche anfordern, um die nächsten Berechnungsschritte auszuführen. Liegen diese Daten außerhalb des GPU-Speichers, können häufige Storage-Zugriffe erforderlich werden.
GPU-initiierte I/O-Architekturen verfolgen deshalb einen anderen Ansatz: GPU-Threads können Speicheroperationen selbst anstoßen, ohne jede einzelne Anfrage über den herkömmlichen CPU-gesteuerten Datenladepfad abzuwickeln. Dadurch lässt sich die CPU-Beteiligung an der I/O-Steuerung reduzieren. Diese Architektur stellt andere Anforderungen an den Storage als ein Workload, der überwiegend große zusammenhängende Dateien liest. Während bei sequenziellen Transfers die Datenrate in GB/s entscheidend sein kann, benötigen viele kleine Random-Reads vor allem eine hohe Zahl abgeschlossener I/O-Operationen pro Sekunde.
Eine High-IOPS-SSD für GPU-initiierte Workloads muss deshalb nicht nur eine hohe maximale Bandbreite erreichen, sondern insbesondere kleine, parallele Zugriffe effizient verarbeiten.
GPU-Initiated Storage: Wie sich der SSD-Zugriff verändert
Der wesentliche Unterschied zwischen klassischem CPU-initiiertem Storage und GPU-Initiated Storage liegt darin, welche Recheneinheit die I/O-Anfragen steuert. Bei CPU-initiierten Zugriffen übernimmt die Hostsoftware die Verwaltung der Speicheroperationen. Die GPU verarbeitet anschließend die bereitgestellten Daten. Bei GPU-initiierten Zugriffen können GPU-Threads dagegen selbst I/O-Anfragen auslösen. Die genaue Umsetzung hängt von der eingesetzten Software, den Treibern und der unterstützten Hardware ab.
| Eigenschaft | CPU-initiierter Storage-Zugriff | GPU-initiierter Storage-Zugriff |
|---|---|---|
| Initiierung der I/O-Anfragen | CPU-seitige Software | GPU-Threads über eine geeignete I/O-Architektur |
| CPU-Beteiligung | CPU steuert die Speicheroperationen | Reduzierte CPU-Beteiligung bei einzelnen I/O-Anfragen |
| Typische Datenbereitstellung | CPU-gesteuerte Datenladepipeline | GPU-gesteuerte Anforderung benötigter Daten |
| Relevante Anforderungen | Abhängig vom Workload: Bandbreite, IOPS und Latenz | Besonders hohe Parallelität und kleine Random-I/O-Anfragen möglich |
| Typische Einsatzbereiche | Klassische Serveranwendungen und KI-Datenpipelines | Ausgewählte datenintensive GPU- und KI-Workloads |
GPU-Initiated Storage bedeutet allerdings nicht, dass jede GPU ohne zusätzliche Voraussetzungen direkt auf beliebige Server NVMe SSDs oder eine High-IOPS-SSD zugreifen kann. Erforderlich sind eine unterstützte Zugriffsarchitektur, geeignete Software und eine kompatible Serverplattform. Die Kompatibilität der einzelnen Komponenten sollte daher vor der Integration geprüft werden. Bei Bedarf unterstützt Server-Hardware.com bei der Auswahl geeigneter Hardware.
Big Accelerator Memory (BaM) und GPU Initiated Direct Storage (GIDS)
Big Accelerator Memory (BaM) ist eine Forschungsarchitektur, die GPU-Threads ermöglicht, I/O-Operationen gegenüber NVMe-SSDs selbst zu verwalten und zu initiieren. Dadurch können Anwendungen große Datenbestände auf SSDs nutzen, ohne diese vollständig im GPU-Speicher vorhalten zu müssen. BaM erweitert jedoch nicht den physischen VRAM beziehungsweise HBM einer GPU. NVMe-SSDs bilden eine zusätzliche, wesentlich langsamere Speicherebene. Daten, die für Berechnungen benötigt werden, müssen weiterhin in geeigneter Form für die GPU bereitgestellt werden.
GPU Initiated Direct Storage (GIDS) baut auf BaM auf und wurde insbesondere für die Datenbereitstellung beim Training von Graph Neural Networks untersucht. Die Architektur nutzt GPU-initiierte I/O-Anfragen und zusätzliche Caching- und Prefetching-Mechanismen, um Daten effizient aus NVMe-SSDs bereitzustellen.
Solidigm untersuchte BaM und GIDS mit der PCIe-5.0-Enterprise-SSD D7-PS1010. In den veröffentlichten Tests wurden die Datenladezeiten gegenüber einem CPU-basierten DGL-mmap-Verfahren beim untersuchten kleineren Graphdatensatz nahezu halbiert. Beim größeren Datensatz berichtete Solidigm eine rund neunfache Beschleunigung. Die Ergebnisse beziehen sich auf einen konkreten GNN-Trainingsbenchmark mit definierten Datensätzen und einer NVIDIA L40S. Sie sind kein allgemeingültiger Nachweis, dass GPU-initiierte I/O-Architekturen sämtliche KI-Anwendungen entsprechend beschleunigen.
NVIDIA GPUDirect Storage (GDS) und SCADA
NVIDIA GPUDirect Storage (GDS) ermöglicht effiziente Datentransfers zwischen Storage und GPU-Speicher, ohne dass die Nutzdaten grundsätzlich den CPU-Arbeitsspeicher als Zwischenstation durchlaufen müssen. Die CPU kann dabei weiterhin für die Initiierung und Steuerung der I/O-Operationen zuständig sein. Auch beim Einsatz einer High-IOPS-SSD ist GDS deshalb nicht mit GPU-initiierten SSD-Zugriffen gleichzusetzen. Ein direkter Datenpfad bedeutet nicht automatisch, dass die GPU selbst die Speicheranfrage auslöst.
Mit NVIDIA SCADA (Scaled Accelerated Data Access) wird dagegen eine Architektur für GPU-initiierte Speicheroperationen bei kleinen Datenblöcken untersucht. SCADA soll die Verarbeitung zahlreicher paralleler I/O-Anfragen ermöglichen und damit insbesondere datenintensive GPU-Anwendungen unterstützen. Micron demonstrierte SCADA mit PCIe-6.0-SSDs der Serie 9650 und weiteren PCIe-6.0-Komponenten. In einer Systemdemonstration wurden 230 Millionen IOPS auf einem Server erreicht. Dieser Wert beschreibt die Leistung der gesamten Testplattform und darf nicht als IOPS-Spezifikation einer einzelnen Micron-SSD interpretiert werden.
Welche Anforderungen stellen GPU-initiierte Zugriffe an High-IOPS-SSDs?
Die Leistung einer SSD lässt sich nicht allein anhand der maximalen sequenziellen Transferrate bewerten. Bei GPU-initiierten Speicherzugriffen können insbesondere Random-IOPS, Blockgröße, Latenz und die Verarbeitung vieler paralleler Anfragen entscheidend sein.
Random-IOPS und kleine Blockgrößen
IOPS (Input/Output Operations per Second) geben an, wie viele einzelne Speicheroperationen ein Laufwerk pro Sekunde abschließt. Die Kennzahl ist unter anderem von der Blockgröße, dem Lese-Schreib-Verhältnis, der Queue-Depth und den Testbedingungen abhängig. Klassische Enterprise-SSD-Spezifikationen verwenden häufig 4-KB-Random-Reads zur Angabe der maximalen Random-IOPS. Neue SSD-Entwicklungen für GPU-initiierte Zugriffe adressieren teilweise deutlich kleinere Datenblöcke.
KIOXIA nennt für die GP1-Serie beispielsweise bis zu zehn Millionen Random-Read-IOPS bei einer Blockgröße von 512 Byte. Diese Angabe beschreibt ein anderes Testprofil als die 4-KB-IOPS-Werte herkömmlicher Enterprise-SSDs. Ein direkter Leistungsvergleich zwischen einer High-IOPS-SSD und herkömmlichen Enterprise-SSDs allein anhand der IOPS-Zahlen wäre daher nicht aussagekräftig. Zur Einordnung: Zehn Millionen IOPS bei 512 Byte entsprechen rechnerisch einer übertragenen Datenmenge von 5,12 GB/s. Bei größeren Blöcken kann dieselbe Anzahl an Operationen eine erheblich höhere Datenrate erfordern. Der Vorteil hoher Random-IOPS liegt folglich nicht zwangsläufig in einer höheren gesamten Datenrate, sondern darin, sehr viele einzelne Datenanforderungen effizient bedienen zu können.
Queue-Depth, Parallelität und Zugriffslatenz
Die Queue-Depth beschreibt die Anzahl gleichzeitig ausstehender I/O-Anfragen. Mit steigender Queue-Depth können SSD-Controller und NAND-Kanäle mehrere Operationen parallel verarbeiten. Die erreichbaren IOPS steigen dabei nur so lange, bis interne Ressourcen oder andere Systemkomponenten die weitere Skalierung begrenzen. GPU-initiierte Architekturen können besonders viele parallele Speicheranfragen erzeugen. Deshalb muss die SSD diese Anforderungen effizient verwalten, ohne dass Warteschlangen und interne Verarbeitungszeiten die Datenbereitstellung übermäßig verzögern. Neben den maximalen IOPS sind die Zugriffslatenz und ihre Schwankungen entscheidend. Eine hohe IOPS-Zahl bei großer Queue-Depth garantiert keine niedrige Latenz für einzelne Anfragen. Für die Bewertung einer High-IOPS-SSD müssen deshalb IOPS, Latenz und Parallelität gemeinsam betrachtet werden.
SSD-Controller, Flash-Speicher und PCIe-Schnittstelle
Spezialisierte High-IOPS-SSDs benötigen eine Hardwarearchitektur, die auf die Verarbeitung vieler kleiner Speicheroperationen ausgelegt ist. Dazu gehören insbesondere leistungsfähige Controller, ausreichende interne Parallelität und Flash-Speicher mit geeigneten Latenzeigenschaften. PCIe 6.0 stellt gegenüber PCIe 5.0 eine höhere Schnittstellenbandbreite bereit. Daraus ergibt sich jedoch nicht automatisch eine proportionale Steigerung der Random-IOPS. Die tatsächlich erreichbare Leistung hängt weiterhin von der SSD-Architektur und dem I/O-Profil ab. KIOXIA setzt bei der GP1-Serie auf XL-FLASH der zweiten Generation und PCIe 6.0. Die Kombination soll hohe Random-IOPS bei kleinen Blockgrößen ermöglichen.
Welche High-IOPS-SSDs werden für GPU-initiierte KI-Workloads entwickelt?
Die Entwicklung GPU-initiierter Speicherarchitekturen beeinflusst zunehmend das Design neuer Enterprise-SSDs. Allerdings muss zwischen Laufwerken unterschieden werden, die ausdrücklich für GPU-Direktzugriffe entwickelt wurden, und leistungsfähigen Enterprise-SSDs, die innerhalb einer entsprechenden Architektur eingesetzt werden.
| Hersteller / Produkt | Technologie | Bedeutung für GPU-initiierte KI-Workloads |
|---|---|---|
| KIOXIA GP1 | PCIe 6.0, XL-FLASH Generation 2, bis zu 10 Mio. Random-Read-IOPS bei 512 Byte | Speziell für GPU-Direktzugriffe optimierte SSD-Hardware |
| Micron 9650 | PCIe 6.0, Integration in NVIDIA-SCADA-Systeme | Enterprise-SSD für GPU-initiierte Storage-Architekturen |
| Solidigm D7-PS1010 | PCIe 5.0, BaM/GIDS-Evaluierung | Enterprise-SSD, deren Einsatz in GPU-initiierten GNN-Workloads untersucht wurde |
| Samsung PM1763 | PCIe 6.0, GPU-Driven-Storage-Untersuchungen | Enterprise-SSD im Umfeld neuer GPU-Storage-Architekturen |
Die Produkte und Untersuchungen unterscheiden sich hinsichtlich Entwicklungsstand, Testmethodik und Leistungsangaben. Insbesondere sind Produkt-IOPS, simulierte SSD-Leistung und vollständige Systembenchmarks nicht direkt vergleichbar.
KIOXIA GP1: Speziell entwickelte High-IOPS-SSD für GPU-Direktzugriffe
Die im August 2026 angekündigte KIOXIA GP1-Serie ist ein konkretes Beispiel für die Entwicklung neuer SSD-Hardware für GPU-initiierte KI-Workloads.
KIOXIA nennt folgende Eigenschaften:
- PCIe 6.0 und NVMe 2.2
- XL-FLASH der zweiten Generation
- Bis zu zehn Millionen Random-Read-IOPS bei 512-Byte-Blockgröße
- E1.S- und E3.S-Bauformen
- Bis zu 50 Drive Writes Per Day (DWPD)
Die SSD-Serie ist für neue Speicherarchitekturen vorgesehen, in denen Flash-Speicher als zusätzliche Ebene unterhalb des GPU-HBM genutzt wird. Dadurch sollen größere Datenbestände GPU-zugänglich bereitgestellt werden können, ohne sämtliche Daten im HBM vorzuhalten. KIOXIA verfolgt darüber hinaus das Entwicklungsziel, in späteren Generationen bis zu 100 Millionen IOPS zu erreichen. Bereits demonstrierte Werte in dieser Größenordnung stammen jedoch aus einer emulierten SSD-Umgebung und dürfen nicht als reale GP1-Produktleistung angegeben werden. Laut der Ankündigung vom August 2026 waren Evaluierungsmuster für ausgewählte Kunden bis Ende 2026 vorgesehen. Eine allgemeine Marktverfügbarkeit lässt sich daraus nicht ableiten.
Micron, Solidigm und Samsung: Weitere Entwicklungen im GPU-Storage
Micron untersucht GPU-initiierte Speicherzugriffe im Zusammenhang mit NVIDIA SCADA und der PCIe-6.0-SSD Micron 9650. Die Herstellerdemonstration verdeutlicht, dass nicht nur die einzelne SSD, sondern auch PCIe-Switches, Serverarchitektur und Software für die erreichbare I/O-Leistung entscheidend sind.
Solidigm verfolgt mit der D7-PS1010 einen anderen Ansatz. Das Unternehmen untersucht, wie sich eine leistungsfähige Enterprise-SSD durch BaM und GIDS für GPU-initiierte Datenladeprozesse einsetzen lässt. Der Schwerpunkt liegt damit auf dem Zusammenspiel vorhandener SSD-Hardware mit einer angepassten I/O-Architektur.
Samsung untersucht mit Accelerator-initiated Storage I/O (AiSIO) ebenfalls GPU-initiierte Speicherzugriffe. Die Architektur unterstützt GPU-initiierte, Peer-to-Peer- und CPU-initiierte I/O-Operationen und soll die direkte Kommunikation zwischen Acceleratoren und Storage effizienter gestalten. Parallel dazu untersucht Samsung die GPU-Driven-Storage-Performance seiner PCIe-6.0-Enterprise-SSD PM1763, unter anderem in einem im Juni 2026 veröffentlichten Whitepaper. Damit adressiert Samsung sowohl neue GPU-I/O-Architekturen als auch deren Zusammenspiel mit leistungsfähiger Samsung Enterprise SSD Hardware. Ob die PM1763 speziell für GPU-initiierte Zugriffe entwickelt wurde, lässt sich daraus jedoch nicht ableiten.
Diese Beispiele zeigen zwei parallele Entwicklungen: Einerseits entstehen speziell optimierte High-IOPS-SSDs. Andererseits werden vorhandene Enterprise-NVMe-SSDs mit neuen GPU-I/O-Architekturen kombiniert.
Welche KI-Anwendungen profitieren von GPU-initiierten SSD-Zugriffen?
Nicht alle KI-Anwendungen stellen dieselben Anforderungen an den Storage oder profitieren gleichermaßen von einer High-IOPS-SSD. Besonders relevant sind GPU-initiierte Zugriffe dort, wo große Datenbestände verarbeitet werden und viele kleine, unregelmäßige Speicheroperationen entstehen.
Graph Neural Networks und unregelmäßige Datenzugriffe
Graph Neural Networks gehören zu den konkreten Anwendungsfällen, für die GPU-initiierte I/O-Architekturen untersucht wurden. Beim Training müssen Informationen aus umfangreichen Graphstrukturen abgerufen werden. Die benötigten Daten liegen häufig nicht zusammenhängend vor. Wenn GPU-Threads diese Daten selbst anfordern können, lässt sich der Verwaltungsaufwand eines CPU-gesteuerten Datenladepfads reduzieren. Der Solidigm-Benchmark mit BaM und GIDS demonstriert einen solchen Ansatz. Die Ergebnisse zeigen jedoch auch, dass die tatsächliche Beschleunigung vom Datensatz, den Caching-Mechanismen und dem gesamten Trainingsablauf abhängt.
KI-Inferenz und GPU-zugängliche Speichererweiterung
Bei großen KI-Modellen können neben den Modellgewichten weitere Datenstrukturen erhebliche Speicherkapazität beanspruchen. Dazu gehören beispielsweise KV-Caches bei Transformer-Modellen. Neue GPU-Storage-Architekturen untersuchen deshalb, wie sich SSDs als zusätzliche Speicherebene unterhalb des GPU-HBM einsetzen lassen. Dadurch können größere Datenbestände außerhalb des begrenzten GPU-Speichers vorgehalten und bei Bedarf bereitgestellt werden. Die SSD ersetzt dabei nicht den HBM. Zugriffe auf Flash-Speicher besitzen deutlich andere Latenz- und Bandbreiteneigenschaften als Zugriffe auf GPU-Arbeitsspeicher. Ob eine Anwendung davon profitiert, hängt deshalb insbesondere von Datenlokalität, Zugriffshäufigkeit, Caching und der unterstützten Softwarearchitektur ab. Hohe Random-IOPS können die Bereitstellung kleiner Datenblöcke unterstützen. Sie garantieren jedoch weder eine bestimmte Tokens-pro-Sekunde-Leistung noch eine allgemeine Beschleunigung der KI-Inferenz.
Datenintensive KI-Pipelines
Auch Vektordatenbanken, Graphanalysen und ausgewählte datenintensive KI-Pipelines können von einer effizienteren Bereitstellung kleiner Datenbereiche profitieren. Der Vorteil einer High-IOPS-SSD entsteht jedoch nur, wenn die Anwendung tatsächlich durch ihren Storage-I/O-Pfad begrenzt wird. Sind GPU-Rechenleistung, HBM-Bandbreite oder andere Systemkomponenten der Engpass, führt eine höhere SSD-IOPS-Leistung nicht automatisch zu einer schnelleren Verarbeitung.
Wann sind spezialisierte High-IOPS-SSDs sinnvoll?
Eine spezialisierte High-IOPS-SSD ist vor allem dann interessant, wenn der Workload sehr viele kleine, unregelmäßige Datenzugriffe erzeugt und eine unterstützte GPU-initiierte I/O-Architektur diese Anfragen effizient an den Storage weitergeben kann. Anders sieht es bei KI-Anwendungen aus, die überwiegend große zusammenhängende Datenmengen übertragen. Hier kann die sequenzielle Bandbreite wichtiger sein als die maximale Anzahl kleiner Random-I/O-Operationen.
Auch klassisches KI-Training mit großen Datenbatches profitiert nicht automatisch von einer SSD, die auf extrem kleine Random-Reads optimiert wurde. Je nach Datenformat, Caching und Ladeverfahren können herkömmliche Enterprise-NVMe-SSDs bereits ausreichende Leistung bereitstellen.
| Anforderung | Besonders relevante SSD-Eigenschaft |
|---|---|
| Viele kleine, unregelmäßige GPU-initiierte Zugriffe | Hohe Random-IOPS, geringe Latenz und Parallelität |
| Große sequenzielle Trainingsdaten | Hohe sequenzielle Leserate |
| Checkpointing großer Modellzustände | Hohe anhaltende Schreibbandbreite und geeignete Endurance |
| Große, selten benötigte Datenbestände | Kapazität, Kosten und effiziente Speicherhierarchie |
| Gemischte KI-Workloads | Ausgewogene Random-/Sequential-Performance und vorhersehbare Latenz |
Die Auswahl einer High-IOPS-SSD sollte deshalb nicht allein auf der höchsten veröffentlichten IOPS-Zahl beruhen. Entscheidend ist, ob die jeweilige SSD-Architektur zum tatsächlichen Zugriffsmuster der Anwendung passt. Durch unsere langjährige Erfahrung in der Konfiguration und Bereitstellung zahlreicher KI-Server unterstützen wir Unternehmen bei der Auswahl geeigneter Storage-Komponenten und deren Abstimmung auf die gesamte Serverarchitektur.
Welche KI-Anwendungen profitieren von GPU-initiierten SSD-Zugriffen?
Besonders relevant sind GPU-initiierte SSD-Zugriffe für KI-Anwendungen, die große Datenbestände verarbeiten und dabei viele kleine, unregelmäßige Speicherzugriffe erzeugen. Dazu gehören insbesondere Graph Neural Networks (GNNs), die beispielsweise in der Betrugserkennung bei Banken und Finanzdienstleistern sowie in Empfehlungssystemen von E-Commerce- und Streaming-Anbietern eingesetzt werden. Bei der Betrugserkennung analysieren GNNs komplexe Beziehungen zwischen Konten und Transaktionen. Empfehlungssysteme untersuchen dagegen Verbindungen zwischen Nutzern, Produkten und Interaktionen. Liegen die umfangreichen Graphdaten auf SSDs, müssen GPUs während der Berechnung häufig kleine, verstreute Datenbereiche nachladen.
Spezialisierte High-IOPS-SSDs können diese Random-Read-Anfragen parallel verarbeiten. In Verbindung mit GPU-initiierten Storage-Architekturen wie BaM/GIDS lassen sich benötigte Daten mit geringerer CPU-Beteiligung anfordern. Dadurch können sich Datenladezeiten verkürzen und die GPU-Auslastung sowie die Trainingsleistung verbessern, sofern die Anwendung durch den Storage-Zugriff begrenzt wird.
Wie könnten KI-Hosting-Anbieter und Rechenzentren von High-IOPS-SSDs profitieren?
Für KI-Hosting-Anbieter und Rechenzentren steht neben der Datenladeleistung eine weitere Anforderung im Vordergrund: große KI-Modelle und Datenbestände effizient bereitzustellen, wenn die verfügbare GPU-Speicherkapazität nicht ausreicht. Bei ausgewählten KI-Inferenzarchitekturen können beispielsweise Teile von Modellgewichten oder KV-Caches auf NVMe-SSDs ausgelagert werden. Die SSDs dienen dabei als zusätzliche Speicherebene unterhalb des GPU-HBM. Benötigte Daten werden bei Bedarf nachgeladen, ohne dass sämtliche Daten dauerhaft im GPU-Speicher liegen müssen.
High-IOPS-SSDs können insbesondere dann sinnvoll sein, wenn GPUs während der Verarbeitung gleichzeitig zahlreiche kleine Datenblöcke von diesen SSDs nachladen müssen. Eine hohe Random-IOPS-Leistung kann die Datenbereitstellung beschleunigen und Wartezeiten reduzieren. Unterstützte GPU-initiierte Storage-Architekturen können zusätzlich die CPU-Beteiligung an einzelnen I/O-Anfragen verringern. Ob dadurch auch die Inferenzleistung steigt, hängt von der eingesetzten Speicherarchitektur, den Zugriffsmustern und der Softwareunterstützung ab. Liegen die benötigten Modellgewichte und Zwischenspeicher vollständig im GPU-HBM, bietet eine höhere SSD-IOPS-Leistung während der eigentlichen Berechnung in der Regel keinen unmittelbaren Vorteil.
High-IOPS-SSDs für GPU-initiierte KI-Server richtig dimensionieren
Die Integration spezialisierter High-IOPS-SSDs erfordert eine Betrachtung des gesamten Serversystems. Neben der SSD-Leistung müssen insbesondere GPU-Unterstützung, I/O-Software, PCIe-Topologie und die zu erwartende Last berücksichtigt werden.
Für die Dimensionierung sind folgende Fragen entscheidend:
- Unterstützt die Anwendung GPU-initiierte I/O-Anfragen? Eine schnelle SSD allein aktiviert weder BaM noch SCADA.
- Welche Blockgrößen und Zugriffsmuster entstehen? Kleine Random-Reads stellen andere Anforderungen als sequenzielle Transfers.
- Wie viele I/O-Anfragen werden parallel erzeugt? Queue-Depth und Parallelität beeinflussen die tatsächlich erreichbaren IOPS.
- Welche PCIe-Topologie steht zur Verfügung? GPU, SSD und gegebenenfalls PCIe-Switches müssen in einer geeigneten Plattformarchitektur zusammenarbeiten.
- Welche Latenzen sind unter Last akzeptabel? Maximale Peak-IOPS ersetzen keine anwendungsbezogene Latenzmessung.
- Wie groß ist der tatsächlich benötigte GPU-zugängliche Datenbestand? Die Speicherkapazität muss gemeinsam mit HBM, Caching und Datenbewegungen dimensioniert werden.
High-IOPS-SSDs und GPU-Server bei Server-Hardware.com
Server-Hardware.com bietet Unternehmen leistungsstarke K-Server, Enterprise-NVMe-SSDs und individuell konfigurierbare Server-Hardware für professionelle KI-Infrastrukturen. Unsere Server-Experten unterstützen Sie bei der Auswahl geeigneter Komponenten und der Zusammenstellung einer Serverkonfiguration, die auf Ihre konkreten Workload-Anforderungen abgestimmt ist. Gerade bei datenintensiven KI-Anwendungen kommt es auf das Zusammenspiel von Server GPU, Server CPU, PCIe-Topologie und Storage an. Ob eine spezialisierte High-IOPS-SSD erforderlich ist oder herkömmliche Enterprise-NVMe-SSDs ausreichen, hängt vom tatsächlichen Zugriffsprofil und der unterstützten I/O-Architektur ab.
Profitieren Sie von persönlicher Fachberatung, individuell konfigurierbaren GPU-Servern und professioneller Server-Hardware für KI-Training, Inferenz und HPC. Kontaktieren Sie unsere Server-Experten, um die passende Hardware für Ihre KI-Infrastruktur auszuwählen.
GPU-initiierte SSD-Performance in der Zielplattform validieren
Klassische SSD-Benchmarks wie fio (Flexible I/O Tester) eignen sich zur Untersuchung von Random-IOPS, Blockgrößen, Queue-Depth und Latenz. Sie ersetzen jedoch keinen Test der vollständigen GPU-initiierten I/O-Architektur. Eine SSD kann in einem CPU-initiierten Benchmark hohe Random-IOPS erreichen, während die tatsächliche Leistung einer GPU-Anwendung zusätzlich von Software, Caching, PCIe-Topologie und der I/O-Implementierung abhängt. Deshalb sollten sowohl die SSD-Eigenschaften als auch die anwendungsbezogene Leistung der Zielplattform überprüft werden. Relevant sind beispielsweise die Datenladezeit, GPU-Auslastung, Latenzverteilung und die Verarbeitungsgeschwindigkeit des jeweiligen KI-Workloads.
High-IOPS-SSDs als neue Hardwareklasse für GPU-initiierte KI-Workloads
GPU-initiierte Speicherzugriffe verändern die Anforderungen an die SSD-Hardware professioneller KI-Infrastrukturen. Statt ausschließlich große Datenmengen über CPU-gesteuerte I/O-Pfade bereitzustellen, können neue Architekturen zahlreiche kleine Speicheranfragen direkt durch GPU-Threads initiieren lassen. Technologien wie BaM, GIDS und NVIDIA SCADA zeigen, wie sich GPU-initiierte I/O-Operationen umsetzen lassen. Mit der KIOXIA GP1 entstehen zugleich SSDs, die ausdrücklich für diese Zugriffsmuster und besonders hohe Random-IOPS entwickelt werden.
High-IOPS-SSDs für GPU-initiierte KI-Workloads sind jedoch keine universelle Alternative zu herkömmlichen Enterprise-NVMe-SSDs. Ihr Nutzen hängt davon ab, ob die Anwendung von kleinen, parallelen Random-I/O-Anfragen geprägt ist und die eingesetzte GPU-Storage-Architektur diese Zugriffe unterstützt. Für die Planung professioneller KI-Server bedeutet das: Nicht die maximale SSD-Spezifikation allein entscheidet, sondern das Zusammenspiel aus Enterprise GPU, Storage-Hardware, Software und tatsächlichem Workload. Eine anwendungsbezogene Dimensionierung bleibt daher die Grundlage für die Auswahl geeigneter High-IOPS-SSDs.
Technische Quellen:
KIOXIA – GP1-Produktankündigung vom 4. August 2026
Solidigm – Performance of Solidigm SSDs with BaM and GIDS




