TÜV SÜD und QuantPi bündeln Kompetenzen für sichere KI
Kooperation verbindet KI-Tests mit belastbaren Nachweisen

12. Oktober 2026, 10:21 Uhr · Quelle: Pressebox
Die Partnerschaft schafft statistisch belastbare Nachweise für die Konformitätsbewertung von KI-Systemen in regulierten Anwendungen.

München/Frankfurt am Main, 12.10.2026 (PresseBox) - TÜV SÜD und QuantPi arbeiten künftig bei der Prüfung und Bewertung von KI-Systemen zusammen. Als weltweit erstes CARAT-Partnerlabor von TÜV SÜD bringt QuantPi seine Technologie für statistisch abgesicherte KI-Tests in die Kooperation ein. Gemeinsam schaffen die Unternehmen damit einen strukturierten Weg zu nachvollziehbaren Testnachweisen für die Konformitätsbewertung und Zertifizierung von KI-basierten Produkten – insbesondere im Bereich Physical AI und autonomer Maschinen.

Regulatorische Anforderungen treffen auf neue technologische Realität
Mit dem EU AI Act und der neuen Maschinenverordnung (EU) 2023/1230 steigen die Anforderungen an den Nachweis der Sicherheit KI-basierter Funktionen. Insbesondere wenn KI als Sicherheitskomponente eingesetzt wird oder Sicherheitsfunktionen übernimmt, müssen Hersteller nachweisen, dass die Systeme zuverlässig funktionieren. Für KI-Systeme in regulierten Produkten sieht der EU AI Act entsprechende Anforderungen an die Konformitätsbewertung vor.

Eine zentrale Herausforderung liegt dabei in der Erzeugung belastbarer und nachvollziehbarer Testnachweise. Für KI-basierte Systeme existieren bislang nur begrenzt etablierte Verfahren, die Testergebnisse mit statistischer Aussagekraft, reproduzierbarer Methodik und durchgängiger Nachvollziehbarkeit für eine Konformitätsbewertung nutzbar machen. Gleichzeitig werden internationale Standards für die Verbindung von künstlicher Intelligenz und funktionaler Sicherheit derzeit weiterentwickelt. Dazu gehört unter anderem die ISO/IEC-22440-Reihe, die sich mit Anforderungen und Leitlinien für KI in sicherheitsrelevanten Anwendungen befasst.

Statistische Nachweise statt reiner Benchmark-Werte
Hier setzt die Zusammenarbeit von QuantPi und TÜV SÜD an. Die QuantPi-Plattform ermöglicht es, das Verhalten von KI-Systemen mit statistischen Garantien und definierten Konfidenzgrenzen zu beschreiben. Dadurch entstehen quantifizierbare und reproduzierbare Aussagen über die Leistungsfähigkeit eines KI-Systems, die über klassische Benchmark-Ergebnisse oder qualitative Bewertungen hinausgehen.

Die Methode ist modellunabhängig und erfordert weder Zugriff auf die internen Modellparameter noch auf Trainingsdaten. QuantPi betreibt die Plattform unter einem Qualitätsmanagementsystem, das an ISO/IEC 17025:2017 ausgerichtet ist. Dadurch lassen sich sowohl die Prozesse als auch die erzeugten Ergebnisse nachvollziehen und auditieren. Die Kombination aus statistischer Aussagekraft und einem auditierbaren Prüfprozess schafft damit eine belastbare Grundlage für die Nutzung der Testergebnisse als Nachweis im Rahmen von Konformitätsbewertung und Zertifizierung.

„QuantPi hat die Fähigkeit unter Beweis gestellt, hochwertige und wissenschaftlich belastbare Ergebnisse für KI-Tests zu liefern. Damit ergänzt das Unternehmen unser KI-Test- und Zertifizierungsprogramm in idealer Weise“, sagt Benedikt Pulver, Head of Machine Safety bei TÜV SÜD. „Durch die Zusammenarbeit verbinden wir unsere jeweiligen Kompetenzen, um auch hochkomplexe KI-Systeme zu bewerten und unseren Kunden einen klaren Weg zu einer künftigen Zertifizierung und Konformitätsbewertung zu eröffnen.“

Philipp Adamidis, CEO und Co-Founder von QuantPi, ergänzt: „Unternehmen, die KI-basierte Produkte und Dienstleistungen für regulierte Märkte und sicherheitskritische Anwendungen entwickeln, stehen häufig vor derselben Herausforderung: Ihre Systeme funktionieren wie vorgesehen, doch es fehlen belastbare Nachweise, die den Anforderungen einer Zertifizierungsstelle entsprechen. Mit der formalen Anerkennung der von QuantPi erzeugten Nachweise durch eine für die Maschinenregulierung zuständige Benannte Stelle entsteht für Unternehmen ein klarer und praktikabler Weg, KI-Systeme systematisch zu testen und die Ergebnisse für die Konformitätsbewertung zu nutzen.“

Physical AI stellt KI-Sicherheit vor besondere Herausforderungen
Besonders relevant ist die neue Testmethodik für Physical AI, autonome Maschinen und Robotik. Humanoide Roboter, autonome mobile Roboter (AMR) und andere KI-basierte Maschinen bewegen sich in dynamischen Umgebungen und interagieren mit Menschen. Ihr möglicher Betriebsraum lässt sich nur begrenzt vollständig abbilden und testen.

Statistische Verfahren können hier eine wichtige Grundlage schaffen, um aus einer definierten Zahl von Tests belastbare Aussagen über das Verhalten eines Systems abzuleiten. Dies gewinnt mit der zunehmenden Verbreitung autonomer Systeme weiter an Bedeutung.

Parallel dazu entstehen neue internationale Ansätze, um künstliche Intelligenz und funktionale Sicherheit methodisch miteinander zu verbinden. Die derzeit in Entwicklung befindliche ISO/IEC-22440-Reihe adressiert unter anderem Anforderungen und Leitlinien für den Einsatz von KI in sicherheitsrelevanten Funktionen.

„Die Entwicklung hin zu Physical AI verändert die Anforderungen an Sicherheit grundlegend. KI-Systeme übernehmen zunehmend Aufgaben, die unmittelbar mit der physischen Welt verbunden sind“, sagt Benedikt Pulver. „Für Hersteller wird es deshalb entscheidend sein, Sicherheit messbar, nachvollziehbar und über den gesamten Bewertungsprozess hinweg belastbar nachweisen zu können.“

Gemeinsamer Rahmen für KI-Tests und Zertifizierung
Mit ihrer Zusammenarbeit bündeln QuantPi und TÜV SÜD ihre jeweiligen Kompetenzen zu einem umfassenden Rahmenwerk für die effiziente, robuste, transparente und nachvollziehbare Bewertung von KI-Systemen. Das Framework unterstützt sowohl die strukturierte Durchführung von KI-Tests als auch die Vorbereitung der Ergebnisse auf eine anschließende Konformitätsbewertung und Zertifizierung.

Der erste Schwerpunkt liegt auf Physical AI und regulierten industriellen Anwendungen. In diesem Bereich treffen die zunehmende Marktreife KI-basierter Produkte und Robotik auf besonders hohe Anforderungen an Sicherheit und Nachweisführung.

Die Zusammenarbeit ist zugleich in das wachsende internationale Ökosystem für Physical-AI-Sicherheit eingebettet. TÜV SÜD und QuantPi sind Mitglieder des NVIDIA Halos-Ökosystems. Halos ist eine umfassende Safety-Plattform für Physical AI und stellt mit dem AI Systems Inspection Lab ein ANAB-akkreditiertes Inspektionsprogramm für AI Functional Safety in Physical AI bereit. Das Ziel besteht darin, die Bewertung von Sicherheitssystemen zu strukturieren und den Weg zur Prüfung durch unabhängige Stellen zu ebnen.

Damit entsteht ein zunehmend geschlossenes Ökosystem: KI-Systeme werden entwickelt, systematisch getestet, ihre Ergebnisse statistisch abgesichert und für die anschließende unabhängige Bewertung vorbereitet.

Vertrauen in KI wird messbar
Mit dem zunehmenden Einsatz von KI verlagert sich die Frage nach Sicherheit und Vertrauen zunehmend in die technische Infrastruktur von Produkten. Für Hersteller wird es somit immer wichtiger, die Leistungsfähigkeit und das Verhalten ihrer KI-Systeme mit belastbaren Daten nachweisen zu können. TÜV SÜD und QuantPi schaffen hierfür einen konkreten Ansatz: KI-Sicherheit wird messbar, nachvollziehbar und somit für regulierte Märkte besser nutzbar. Dies kann insbesondere für europäische Hersteller von Bedeutung sein, die KI-basierte Produkte sicher, konform und skalierbar in internationale Märkte bringen wollen.

Über QuantPi
QuantPi validiert KI im Unternehmenseinsatz. Die QuantPi-Plattform zeigt Kunden, was ein KI-System tatsächlich tut, bei jedem Modell, jeder Modalität, agentisch oder physisch, und das ohne Zugriff auf Modellinterna oder Trainingsdaten. Zugleich beziffert QuantPi, wie belastbar das Ergebnis ist: statistische Konfidenzintervalle für jeden Messwert, erzeugt in der Umgebung des Kunden. QuantPi ist eine Ausgründung des CISPA Helmholtz-Zentrums für Informationssicherheit und von TÜV SÜD als Prüflabor für KI anerkannt. Das Unternehmen hat seinen Sitz in Saarbrücken. quantpi.com

Weitere Informationen:
• tuvsud.com/de-de/dienstleistungen/produktpruefung-und-produktzertifizierung/eu-ai-act 
• tuvsud.com/de-de/themen/kuenstliche-intelligenz 

Software / Künstliche Intelligenz / TÜV SÜD / QuantPi / EU AI Act / Maschinenverordnung / Physical AI
[pressebox.de] · 12.10.2026 · 10:21 Uhr
[0 Kommentare]
Zehn Jahre Exzellente Lernorte: Herbstklausur zwischen Bewährtem und neuen Anforderungen
Walsrode, 07.11.2026 (lifePR) - Zehn Jahre Zusammenarbeit sind ein guter Anlass, nicht nur zurückzublicken, sondern auch Gewohntes zu hinterfragen. Genau darum ging es bei der Jubiläums-Herbstklausur der Exzellenten Lernorte im Hotel und Restaurant Heyligenstaedt in Gießen. Für das ANDERS Hotel Walsrode nahmen Geschäftsführer Reimer Eisenberg und die […] (00)
vor 7 Stunden
Euroscheine (Archiv)
Berlin - Im laufenden Jahr sind von vorgesehenen 1,22 Milliarden Euro bisher nur 7,2 Millionen Euro des Sondervermögens in die Bildungs-, Betreuungs- und Wissenschaftsinfrastruktur geflossen. Das berichtet die "Rheinische Post" unter Berufung auf Antworten des Bundesfinanzministeriums auf eine schriftliche Frage der stellvertretenden Grünen- […] (00)
vor 30 Minuten
Hilary Duff hat versprochen, nach dem Erfolg ihres diesjährigen Comeback-Albums 'luck… or something' ein weiteres Album aufzunehmen.
(BANG) - Hilary Duff hat versprochen, nach dem Erfolg ihres diesjährigen Comeback-Albums 'luck… or something' ein weiteres Album aufzunehmen. Die 'So Yesterday'-Interpretin erreichte mit dem lang erwarteten Nachfolger ihres Albums 'Breathe In. Breathe Out.' von 2015 die Chartspitze in Kanada und Australien sowie die Top 5 in Großbritannien und den USA. […] (00)
Freitag um 18:00
Hackerangriff auf Italiens Außenminister Antonio Tajani
Rom (dpa) - Italiens Außenminister Antonio Tajani wird nach eigenen Angaben seit Tagen von Hackern angegriffen, die sensible persönliche Daten seiner Person und seiner Familie im Darknet veröffentlichten. «Dadurch setze ich mich neuen Bedrohungen und Einschüchterungsversuchen aus. Sie beziehen auch meine Familie mit ein und sind bereit, für weitere […] (00)
vor 4 Stunden
Nintendo setzt auf Erfahrung statt Entlassungen: Zelda-Chef erklärt warum
Nintendo hält erfahrene Entwickler bewusst langfristig im Unternehmen. Zelda-Produzent Eiji Aonuma erklärte gegenüber GameSpot.com, dass dadurch wichtiges Wissen zwischen Projekten erhalten bleibt. Langjährige Mitarbeiter kennen Abläufe und Entscheidungen und können dieses Wissen an neue Kollegen weitergeben. Gerade bei The Legend of Zelda bleibe […] (00)
vor 2 Stunden
«Everest Dark»: 3sat zeigt Dokumentation über die Schattenseiten
Der Film von Jereme Watt und Michael Bodnarchuk begleitet den nepalesischen Bergsteiger Mingma Tsiri Sherpa bei einer gefährlichen Bergungsmission. Der Mount Everest gilt als Sehnsuchtsort für Bergsteiger aus aller Welt. Doch hinter den spektakulären Gipfelbildern verbirgt sich eine Geschichte von Tod, Ausbeutung und religiösen Konflikten. Am Dienstag, 8. Dezember 2026, zeigt 3sat um 22.00 Uhr […] (00)
vor 11 Stunden
Grand Prix von Brasilien
São Paulo (dpa) - In der Chaos-Qualifikation von São Paulo ist Vorjahresweltmeister Lando Norris zur Pole Position gerast. Nach einer XXL-Unterbrechung wegen starken Regens und bei einbrechender Dunkelheit sicherte sich der McLaren-Mann zum 20. Mal in seiner Karriere den besten Startplatz. Es war seine vierte Pole Position in dieser Saison. Auf Rang […] (00)
vor 2 Stunden
bitcoin, coin, money, electronic money, currency, imitation, draft, internet, transfer, cash
Zcash hat einen bedeutenden Meilenstein im Protokoll erreicht. Das NU7-Netzwerk-Upgrade wurde Anfang November bei Blockhöhe 3.543.405 aktiviert und bringt ein schnelleres Ziel für Blockintervalle sowie Änderungen in der Ökonomie zukünftiger Blockbelohnungen mit sich. Die Zcash Foundation hat in ihren Zebra 7 Release Notes die gleiche Mainnet- […] (00)
vor 39 Minuten
 
Gewandhausorchester Leipzig: Auftakt zur Porträtreihe
Essen, 06.11.2026 (lifePR) - Einem der international führenden Orchester widmet die […] (00)
Wechsel in der Geschäftsführung der prokiba
Heidelberg, 06.11.2026 (lifePR) - Nach sieben Jahren endet für Ingo Strugalla, […] (00)
Bio-Qualität – aus Verantwortung und Überzeugung
München, 06.11.2026 (lifePR) - Wer Lebensmittel kauft, entscheidet nicht nur über […] (00)
Isaak Herzog (Archiv)
Jerusalem - Israels Staatspräsident Isaak Herzog hat beschlossen, den bisherigen […] (02)
RB Leipzig - FC Augsburg
Leipzig (dpa) - Trotz eines frühen Rückstandes hat der RB Leipzig gegen den FC […] (01)
Streamingdienste, Cloud-Angebote, Softwarelizenzen und Gaming-Services: Digitale […] (00)
cryptocurrency, finance, blockchain, money, currency, bitcoin, coin, gold bar, monetary, payment
Inmitten der Marktschwankungen halten sich vier Restaurant- und Snack-Aktien besser […] (00)
«Quiztopia»: Netflix macht eine Quizshow zum Albtraum
In der japanischen Netflix-Serie entscheidet eine Fernsehsendung über Reichtum, Freiheit und […] (00)
 
 
Suchbegriff