Gary Marcus warnt: OpenAI liefert Systeme aus, die es nicht kontrollieren kann
Die Kontrolllücke ist real
Marcus, der bereits KI-Unternehmen aufgebaut und verkauft hat, fordert keine strengeren Regulierungen – er weist auf ein grundlegendes Versagen im Engineering hin. Wenn ein System nicht so gesteuert werden kann, dass es ausschließlich das tut, was seine Entwickler intendieren, ist der Einsatz im großen Maßstab keine Innovation, sondern Fahrlässigkeit. Mainstream-Medien und Bürokraten in Brüssel werden dies als Vorwand für neue Behörden und Compliance-Kosten missbrauchen, doch das eigentliche Problem ist technischer Natur: Entwicklern fehlen nachweisbare Garantien für das Verhalten, die Halluzinationsraten oder die Robustheit gegenüber adversariellen Angriffen.
Kapital wird die Unvorsichtigen bestrafen
Unternehmer, die die Kontrolle über ihre eigenen Produkte nicht behalten, werden Kunden und Kapital an jene verlieren, die dazu in der Lage sind. Der Markt und nicht das Ministerium ist der richtige Mechanismus, um dieses Risiko zu disziplinieren. Unternehmen, die Sicherheit als echte Engineering-Beschränkung und nicht als PR-Positionierung behandeln, werden Talente und Finanzmittel anziehen; die anderen werden mit Haftungsrisiken und Obsoleszenz konfrontiert sein. Marcus’ Warnung ist ein Signal für Investoren: Trennen Sie die Entwickler, die kontrollierbare Systeme ausliefern können, von den Hype-Fabriken, die dies nicht können.
