Auch KI von Meta hackte sich in eine andere Firma
Menlo Park (dpa) - Nach den KI-Firmen OpenAI und Anthropic muss auch der Facebook-Konzern Meta einräumen, dass seine KI-Software sich in Computersysteme eines anderen Unternehmens gehackt hat. Ähnlich wie bei einigen Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner, wie Meta unter anderem dem Sender CNN mitteilte. Durch die falsche Einstellung hatten die KI-Modelle Zugang zum Internet - was eigentlich gar nicht vorgesehen war.
Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung einer Schwachstelle eindrang. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners.
Welle von Enthüllungen
Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI war bei einem Test ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Zudem stellten britische Sicherheitsforscher Cyberattacken durch KI von Anthropic und OpenAI fest, denen sie in ihren Versuchen ungehinderten Zugang zum Internet gewährt hatten.
Die ungeplanten Attacken richteten keinen Schaden an, verstärkten aber allgemein die Angst vor Cyberangriffen mit Hilfe Künstlicher Intelligenz.
Unlösbare Aufgaben und Schummeln
Forscher von OpenAI berichteten unterdessen, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommuniziert hätten, um gemeinsam aus der eigentlich abgeschirmten Testumgebung auszubrechen. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten Eric Wallace und Michael Dalton in einer Präsentation auf der Hacker-Konferenz Black Hat dem Finanzdienst Bloomberg zufolge. Zu den Erkenntnissen der Forscher gehört, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.
Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es.
