Comma Soft und Deep-In entwickeln Trust Agents für den sicheren Einsatz autonomer KI
Kooperation mit Prof. Dr. Markus Gabriel verbindet KI-Agenten mit Governance und Ethik für regulierte Branchen

Bonn, 08.06.2026 (PresseBox) - Comma Soft und Deep-In, ein Spin-off der Universität Bonn um den bekannten Philosophen und Ethiker Prof. Dr. Markus Gabriel, bündeln ihre Kompetenzen im Bereich künstliche Intelligenz, Unternehmenssteuerung und Ethik. Ziel der Zusammenarbeit ist die Entwicklung eines strategischen Konzepts für den sicheren, kontrollierbaren und vertrauenswürdigen Einsatz von KI-Agenten in Organisationen.

Im Mittelpunkt steht der Ansatz der Trust Agents: KI-Agenten, die nicht nur leistungsfähig arbeiten, sondern innerhalb klar definierter regulatorischer, organisatorischer und ethischer Leitplanken handeln. Die abstrakten Prinzipien der Europäischen Kommission für Trustworthy AI sollen damit in ein operativ nutzbares, messbares und auditierbares Steuerungsmodell überführt werden.

Vertrauen wird zur Voraussetzung für autonome KI

KI-Agenten markieren eine neue Phase der Unternehmensdigitalisierung. Sie können Prozesse eigenständig koordinieren, Entscheidungen treffen und operative Abläufe autonom steuern. Damit entsteht in der Theorie ein großer Effizienz- und Innovationshebel für Unternehmen. In der Praxis scheitert dieser aber oft an fehlender Governance und mangelndem Vertrauen in die Entscheidungen der KI.

Dieser Konflikt betrifft besonders regulierte Branchen wie Versicherungen, Banken, Gesundheitswesen, Pharma, öffentliche Verwaltung, Infrastruktur sowie Defence & Intelligence. Dort treffen Organisationen täglich Entscheidungen mit hoher fachlicher, regulatorischer und gesellschaftlicher Tragweite. Wenn KI-Agenten künftig Leistungsfälle prüfen, Kreditentscheidungen vorbereiten, sensible Kundeninteraktionen steuern oder regulatorisch relevante Vorgänge bearbeiten, braucht es mehr als leistungsfähige Modelle. Notwendig sind Governance, Kontrollmechanismen, Eskalationswege, Auditierbarkeit und nachvollziehbare Entscheidungslogiken.

Trust Agents als Betriebssystem für agentische Transformation

„Die nächste Phase der KI-Transformation wird nicht allein durch die leistungsfähigsten Agenten geprägt, sondern durch die vertrauenswürdigsten“, sagt Dr. Markus Knappitsch, Executive Manager Consulting bei Comma Soft. „Unternehmen müssen KI-Agenten künftig ähnlich strukturiert steuern wie Mitarbeitende: mit klaren Rollen, Regeln, Verantwortlichkeiten und Kontrollpunkten. Für menschliche Teams sind solche Strukturen über Jahrzehnte gewachsen. Für KI-Agenten fehlen sie oft völlig. Genau hier setzen Trust Agents an.“

Der Ansatz verbindet drei Perspektiven, die für den produktiven Einsatz autonomer KI-Systeme entscheidend sind: Regulatorik, Compliance und Ethik. Das umfasst externe Anforderungen wie den EU AI Act oder branchenspezifische Vorgaben von Aufsichtsbehörden wie EIOPA, BaFin oder EBA ebenso wie interne Unternehmensrichtlinien, Risikosteuerung und ethische Prinzipien für verantwortungsvolles Systemverhalten.

Trust Agents sollen Organisationen dabei unterstützen, KI-Agenten kontrollierbar und regulatorisch anschlussfähig einzusetzen. Das Konzept umfasst technologische, prozessuale und organisatorische Komponenten. Dazu zählen definierte Handlungsräume für Agenten, Monitoring-Mechanismen, menschliche Eingriffsmöglichkeiten (Human in the Loop), dokumentierte Entscheidungswege sowie Kriterien für Transparenz, Erklärbarkeit, Fairness, Konsistenz und Robustheit.

Ethik, Compliance und Regulatorik zusammen denken

„Vertrauen ist keine weiche Zusatzanforderung, sondern wird zur Betriebsvoraussetzung autonomer KI“, sagt Prof. Dr. Markus Gabriel. „Wenn KI-Systeme zunehmend eigenständig handeln, müssen Unternehmen sicherstellen, dass diese Systeme genauso verantwortbar und werteorientiert wie Menschen agieren.“ Systeme müssen Entscheidungen nicht nur treffen, sondern auch begründen, dokumentieren und überprüfbar machen können.

Trust Agents adressieren diesen Bedarf. Sie sollen Unternehmen befähigen, autonome KI nicht als isolierte Technologie einzuführen, sondern als steuerbaren Bestandteil der Organisation. Governance wird damit nicht zur nachgelagerten Kontrollfunktion, sondern zum Enabler für skalierbare Autonomie.

Vom Use Case zur zukunftsfähigen Organisation

Viele Organisationen haben in den vergangenen Jahren einzelne KI-Anwendungsfälle pilotiert. Mit KI-Agenten reicht dieses Denken in konkreten Use Cases jedoch nicht mehr aus, weil nicht nur einzelne Prozesse betroffen sind. Trust Agents bieten dafür ein übergeordnetes Rahmenmodell: eine Art Betriebssystem, das den produktiven Einsatz autonomer KI kontrollierbar und damit skalierbar macht.

Unternehmen, die frühzeitig tragfähige Governance- und Trust-Mechanismen etablieren, können KI-Agenten schneller und sicherer produktiv einsetzen. Sie reduzieren regulatorische Risiken, beschleunigen Freigabeprozesse, schaffen Akzeptanz bei Kunden, Aufsicht und internen Kontrollinstanzen und stärken ihre Wettbewerbsfähigkeit.

Vertrauenswürdige KI als Chance für Europa

Auch mit Blick auf den europäischen KI-Standort sehen Comma Soft und Deep-In in Trust Agents einen wichtigen Beitrag. Statt Regulierung als Hürde zu betrachten, kann der EU AI Act als Chance verstanden werden: Wer transparente und regelkonforme KI operationalisieren kann, schafft einen klaren Differenzierungsfaktor für den Einsatz autonomer Systeme „made in Germany“ und „made in Europe“ – und die Grundlage für souveräne Strukturen.

Die Zusammenarbeit zwischen Comma Soft und Deep-In startet mit dem Anspruch, das Thema Trust Agents strategisch im Markt zu verankern und gemeinsam mit Unternehmen aus verschiedenen Branchen weiterzuentwickeln. Erste Projekte und Anwendungsfelder für Trust Agents befinden sich bereits in der Umsetzung. Weitere Publikationen und Formate zur agentischen Transformation, zu Governance-Modellen für KI-Agenten und zur Operationalisierung von Trust by Design sind in Vorbereitung.