Edge AI mit NVIDIA Blackwell: Integrierte Plattform oder modulare GPU-Architektur?

28. Oktober 2026, 10:22 Uhr · Quelle: Pressebox

Bei Edge-AI-Projekten entscheidet die Systemintegration über den passenden Ansatz.

Puchheim, 28.10.2026 (PresseBox) - Bei Edge-AI-Projekten entscheidet nicht nur die verfügbare Rechenleistung. Mindestens ebenso wichtig ist, wie diese Leistung in das Gesamtsystem integriert wird.

NVIDIA Blackwell gibt es unter anderem in integrierten Jetson-Thor-Plattformen und als diskrete MXM-GPUs. Dahinter stehen zwei grundlegend unterschiedliche Systemkonzepte, und welches davon passt, hängt weniger vom GPU-Chip ab als von der Anwendung.

Ein neuer autonomer Roboter stellt andere Anforderungen als eine bestehende Inspektionsmaschine, die um KI-Funktionen erweitert werden soll. Dieser Beitrag zeigt, worin sich beide Ansätze unterscheiden und welche Fragen bei der Plattformwahl helfen.

Zwei Architekturen, unterschiedliche Systemgrenzen

NVIDIA hat im Juli 2026 die Jetson-Module T3000 und T2000 auf Basis der Thor-Architektur angekündigt. Die Verfügbarkeit ist für das erste Quartal 2027 geplant. Der T3000 kombiniert eine Blackwell-GPU mit einem 8-Core-Arm-Neoverse-Prozessor sowie 32 GB LPDDR5X-Speicher mit 273 GB/s Speicherbandbreite. Der T2000 bringt die Thor-Architektur in ein breiteres Spektrum von Edge-AI-Systemen [1].

Blackwell-GPUs werden zudem als diskrete Embedded-GPU-Module angeboten. ADLINK bietet mit der EGX-MXM-BW-Serie MXM-3.1-Module der Typen A und B an. Laut Hersteller umfasst die Serie Leistungskonfigurationen von 35 bis 150 W. Das Spitzenmodell EGX-MXM-BW5000 verfügt über 24 GB GDDR7 und eine PCIe-Gen5-x16-Schnittstelle [2].

Ein inhaltvoller Vergleich zwischen Jetson T2000/T3000 und Host-System mit Blackwell MXM-GPU in tabellarischer Darstellung sehen Sie bitte die 2. Abbildung.

Die Tabelle dient der architektonischen Einordnung und nicht als Leistungsvergleich. Beim Jetson gehören CPU und Systemspeicher zum Modul. Ein MXM-Modul ist dagegen ausschließlich der GPU-Beschleuniger; Host-Prozessor, Arbeitsspeicher und deren Leistungsaufnahme kommen beim Gesamtsystem hinzu.

Jetson: Integrierte AI-Plattform im Zentrum des Systems

Bei NVIDIA Jetson befinden sich CPU, GPU und Speicher auf einer voll integrierten Compute-Plattform.

Ein typisches System besteht aus dem Jetson-Modul, einem Carrier Board sowie den für die Anwendung benötigten Schnittstellen und Peripheriegeräten. Dazu kommt das NVIDIA-Software-Ökosystem mit JetPack, CUDA und TensorRT. Für Robotik-Anwendungen stehen zusätzlich Technologien aus dem NVIDIA-Isaac-Ökosystem zur Verfügung.

Dieser Ansatz ist besonders interessant, wenn ein neues System von Grund auf entwickelt wird und KI-Funktionen eine zentrale Rolle übernehmen.

Ein autonomer mobiler Roboter ist ein typisches Beispiel. Sensorverarbeitung, KI-Inferenz und weitere Funktionen müssen dort innerhalb eines kompakten Systems zusammenarbeiten. NVIDIA positioniert die neuen Thor-Module für Robotik, Visual AI und weitere Edge-Workloads auf kompakten, energieeffizienten Systemen [1].

In so einem Fall ist die hohe Integration ein klarer Vorteil.

Host-System plus MXM: KI als separater Beschleuniger

Eine MXM-GPU übernimmt eine andere Rolle.

MXM bezeichnet kein vollständiges Computersystem, sondern einen standardisierten Formfaktor für diskrete GPU-Module. Host-Prozessor, Arbeitsspeicher, I/O und die übrige Systemlogik befinden sich außerhalb des GPU-Moduls.

Eine typische Architektur kann beispielsweise so aussehen:

Intel- oder AMD-Prozessor auf x86-Basis + industrielle Host-Plattform mit MXM-Steckplatz + MXM-GPU

Der x86-Host übernimmt Maschinensteuerung, HMI, Kommunikation oder klassische Applikationslogik. Die MXM-GPU beschleunigt Aufgaben wie klassische Bildverarbeitung, Computer Vision sowie die Inferenz von KI-Modellen.

Das kann besonders interessant sein, wenn bereits eine x86-basierte Anwendung vorhanden ist und zusätzliche KI-Leistung integriert werden soll, ohne die Hardware- und Softwarearchitektur grundlegend zu ändern.

Armoder x86 kann die Entscheidung früh beeinflussen

Die Prozessorarchitektur ist dabei mehr als ein Hardwaredetail.

Jetson basiert auf Arm-Architektur und nutzt mit JetPack einen Linux-basierten Software-Stack. Viele industrielle PC-Anwendungen wurden dagegen über Jahre für x86-Plattformen, Windows oder spezifische Linux-Umgebungen entwickelt.

Ein Wechsel auf Jetson betrifft daher nicht nur den Anwendungscode. Betriebssystem, Treiber, Bibliotheken, Middleware und proprietäre Komponenten müssen ebenfalls betrachtet werden.

Bei einer bestehenden x86-Applikation kann dieser Migrationsaufwand ein wesentliches Entscheidungskriterium sein.

Bei einem neuen Robotik- oder Edge-AI-System besteht dagegen deutlich mehr Freiheit bei der Wahl der Prozessorarchitektur.

Auch die Speicherarchitektur unterscheidet sich

Ein weiterer wichtiger Unterschied liegt im Datenpfad.

Bei Jetson greifen CPU und GPU auf den gemeinsamen Systemspeicher des Moduls zu. Daten müssen deshalb nicht grundsätzlich zwischen separatem Host-RAM und GPU-Speicher über eine externe PCIe-Verbindung übertragen werden.

In einem x86-System mit MXM-GPU sind Host-Arbeitsspeicher und GPU-Speicher dagegen getrennt. Die GPU verfügt über eigenen GDDR7-Speicher, und Daten zwischen Host und GPU werden über PCIe übertragen.

Die aktuelle ADLINK-Blackwell-MXM-Serie unterstützt laut Hersteller PCIe Gen5 [2]. Ob die volle Gen5-Bandbreite tatsächlich zur Verfügung steht, hängt von PCIe-Generation und Lane-Anzahl der Host-Plattform ab.

Bei Anwendungen mit mehreren Kamerastreams, großen Modellen oder hohen Datenraten sind daher nicht nur GPU-Leistung und Speichergröße relevant. Auch Datenübertragungsrate und GPU-Host-Kommunikation sind zu beachten.

Zwei Anwendungen, zwei sinnvolle Architekturen

Nehmen wir zwei Systeme mit KI basierter Bildverarbeitung.

System A ist ein neuer autonomer Roboter. Hardware-Plattform und Software werden neu entwickelt. Bauraum und Energieeffizienz sind wichtige Randbedingungen. Sensorverarbeitung, KI-Inferenz und Robotiksoftware sollen eng zusammenarbeiten. Hier kann eine Jetson-basierte Architektur gut passen.
System B ist eine bestehende industrielle Inspektionsmaschine. Maschinenkommunikation, HMI und Applikationssoftware laufen bereits auf einer x86-Plattform. Nun sollen mehrere Kamerastreams zusätzlich mit KI-Modellen analysiert werden. In diesem Fall kann eine x86-Plattform mit diskreter MXM-GPU sinnvoll sein. Die bestehende x86-Software bleibt nutzbar, während die GPU die KI-Workloads übernimmt. Voraussetzung ist eine Host-Plattform mit MXM-Steckplatz sowie passender Stromversorgung und Kühlung. Bei Bestandsrechnern ohne MXM-Unterstützung erfordert der MXM-Ansatz in der Regel eine neue Host-Plattform innerhalb der x86-Welt, aber keinen Wechsel der Softwarearchitektur. Das KI-Modell kann in beiden Systemen ähnlich sein, die passende Systemarchitektur muss es nicht.

Entscheidungshilfe: Fünf Fragen vor der Plattformwahl

[*]Wird ein neues System entwickelt oder eine bestehende Anwendung erweitert?
Bei einem Greenfield-Projekt besteht mehr Freiheit bei der Wahl einer integrierten Architektur. Bei bestehenden Anwendungen kann die vorhandene Software- und Host-Architektur ein entscheidender Ausgangspunkt sein.
[*]Welche Softwarearchitektur ist bereits vorhanden?
Läuft die Anwendung auf x86 oder Arm[Ga1] [Ga2] ? Welche Betriebssysteme, Treiber, Bibliotheken und proprietären Komponenten müssen weiterverwendet werden?
[*]Wie eng müssen CPU und GPU zusammenarbeiten?
Nutzen beide Komponenten häufig dieselben Daten oder übernimmt die GPU klar abgegrenzte Beschleunigungsaufgaben?
[*]Welche Anforderungen stellen Modellgröße, Leistungsaufnahme und Thermik?
Speicherbedarf, parallele Streams und thermisches Budget können die Architektur stärker beeinflussen als ein einzelner Leistungswert. Bei MXM-Systemen ist dabei die Leistungsaufnahme von GPU und Host gemeinsam zu betrachten.
[*]Wie soll sich das System über seinen Lebenszyklus weiterentwickeln?
Soll die Plattform als Einheit weiterentwickelt werden oder sollen Host-Prozessor und GPU möglichst unabhängig dimensioniert werden können?

Modularität schafft Optionen, aber keine Upgrade-Garantie

Eine MXM-basierte Architektur bietet zusätzliche Freiheitsgrade bei der Kombination von Host-Prozessor und GPU.

Das bedeutet jedoch nicht, dass ein MXM-Modul später beliebig gegen eine neue GPU ausgetauscht werden kann.

Schnittstelle, BIOS-Unterstützung, Leistungsversorgung, Kühlung und mechanisches Design müssen zur jeweiligen GPU passen.

Modularität schafft zusätzliche Optionen, ersetzt aber keine sorgfältige Systemauslegung.

Umgekehrt ist die stärkere Integration einer Jetson-Plattform nicht automatisch eine Einschränkung. Bei kompakten Edge-AI- und Robotiksystemen kann sie genau der gewünschte Vorteil sein.

Sie prüfen aktuell eine Edge-AI-Architektur?

Aaronn unterstützt Unternehmen bei der Auswahl und Integration von Embedded- und Edge-AI-Plattformen. Dabei betrachten wir nicht nur die GPU, sondern das gesamte System mit Host-Architektur, Software, Schnittstellen, Thermik und mechanischer Integration.

Ob eine Jetson-basierte Plattform, ein x86-System mit diskreter GPU oder eine andere Embedded-Architektur sinnvoll ist, hängt von der konkreten Anwendung ab.

Sie haben bereits einen konkreten KI-[Ga3] Workload oder ein Plattformkonzept? Sprechen Sie mit unseren Embedded-Experten und lassen Sie uns die passende Architektur gemeinsam prüfen.