Unternehmen erwägen vermehrt AI-Risiken: Governance im Fokus

Navrina Singh, Beraterin des Weißen Hauses für Künstliche Intelligenz (KI) und Gründerin sowie CEO von Credo AI, einem Anbieter von Software für KI-Governance, sprach kürzlich mit Josh Lipton über die Regulierungsanforderungen im Bereich der Künstlichen Intelligenz. Singh betonte im Gespräch mit Yahoo Finance, dass immer mehr Unternehmen KI als erhebliches Risiko identifizieren. "Aktuell haben 56% der Fortune 500 Unternehmen KI in ihren Jahresberichten als Risikofaktor aufgeführt, was nahezu eine Steigerung von 50% im Vergleich zu 2022 darstellt." Ein Grund für diese Entwicklung sei die zunehmende Allgegenwart von KI-Technologien, die in Produktivitätstools für das Programmieren, Betrugsmodelle und weit verbreitete Systeme integriert seien, welche potenziell Falschinformationen verbreiten könnten. Singh betonte, dass angesichts solch mächtiger Systeme Unternehmen und Gesetzgeber gleichermaßen gefordert seien, Schutzmaßnahmen zu etablieren. "Hier zeigt sich das interessante Zusammenspiel zwischen öffentlichem und privatem Sektor," erläuterte Singh. Kaliforniens Gouverneur Gavin Newsom hat jüngst drei Gesetze unterzeichnet, die den Missbrauch von KI-gestützten Inhalten einschränken sollen, um Wahl-Desinformationen entgegenzuwirken. Singh ist der Ansicht, dass die Debatte um Newsoms KI-Politik den Fokus darauf lenkt, wie ein gutes Governance-Rahmenwerk aussehen könnte. Unternehmen, die mächtige Basis-Modelle entwickeln und sich den Herausforderungen massiver Desinformationsbedrohungen oder Cyberangriffe stellen, müssten darüber nachdenken, wie man technische Schutzmaßnahmen implementiert. Singh prognostiziert, dass KI in der kommenden Präsidentschaftswahl zu einem der zentralen Themen avancieren wird, unabhängig davon, wer die Wahl gewinnt. "Das wird eine Kernagenda für alle legislativen Gremien weltweit sein," so Singh. Für Investoren sei eine gute KI-Governance von Bedeutung, da ein sicherer und verantwortungsvoller Rahmen zu einer Rendite der AI-Investitionen führt. "Wir sehen tagtäglich, wie Unternehmen und Konzerne unsere Software nutzen, Vertrauen aufbauen und dadurch nicht nur schneller neue Kunden gewinnen, sondern auch bestehende Kunden halten können." Weitere Experteneinblicke und aktuelle Marktgeschehnisse finden Sie in der gesamten Episode von Asking for a Trend.