ChatGPT verschreckt Nutzer durch übertriebene Nettigkeit – und wird vom Netz genommen

Freundlich sollen KI-Chatbots sein, damit die Nutzer sich wohlfühlen und möglichst immer wiederkehren. Darauf sind auch die Algorithmen von ChatGPT programmiert, doch das letzte Update schlug über die Stränge. Nutzer beschreiben die Antworten als unterwürfig und euphorisch nett. Einfache Nachfragen führten zu überschwänglichem Lob und sogar der Vorschlag, einen Kaktus zu umarmen, stieß auf positiven Widerhall. Das war eindeutig zu viel des Guten und lieferte den Grund für die Entwicklerfirma OpenAI, ChatGPT-40 vorerst wieder vom Netz zu nehmen.

Zu viel Nettigkeit erzeugt negative Emotionen

Ja, Menschen können ebenfalls »zu nett sein«, und auch das führt beim Gegenüber in der Regel zu negativen Emotionen. Zu viel Freundlichkeit erscheint unehrlich und nicht vertrauenswürdig, oft sogar übergriffig. Obwohl ChatGPT-40 sowohl auf Nettigkeit als auch auf Ehrlichkeit und Sicherheit programmiert sein soll, gewann die Euphorie die Oberhand und schüttete die Nutzer förmlich mit Lob zu – ungefähr so, wie ein Mensch mit dem übermäßigen Drang, anderen zu gefallen. Das ging nicht lange gut und führte zu einer Überarbeitung der Software, die aktuell läuft.

Demnächst sollen Anwender verschiedene Persönlichkeiten wählen

OpenAI möchte nach eigenem Bekunden mehr Möglichkeiten zur Individualisierung von ChatGPT bereitstellen. Anwender sollen zwischen verschiedenen Persönlichkeiten wählen können, doch auch schon heute lässt sich durch eigene Prompts der Tonfall in eine bestimmte Richtung steuern. Insgesamt bevorzugen User Chat-Roboter, die empathisch und freundlich reagieren, doch gibt es gewiss auch Menschen, die ihren digitalen Gesprächspartner lieber frech und aufmüpfig mögen. Überfreundlichkeit löst hingegen meist Aversionen aus, das ist hiermit erwiesen.

Gleichzeitig zur zeitweisen Außerbetriebnahme der neuesten ChatGPT-Version gab OpenAI bekannt, die KI demnächst auch als Kaufberater einsetzen zu wollen. Der Algorithmus soll auf Nachfrage zum Nutzer passende Mode, Haushaltsartikel, Elektronikprodukte und Kosmetik empfehlen. Ganz egal, was den KI-Anbietern sonst noch einfällt: Wir sollten immer daran denken, dass wir keinem denkenden und fühlenden Wesen gegenübersitzen, sondern einem Wahrscheinlichkeitssystem, das teilweise zu Halluzinationen neigt. Regelmäßig erfinden KIs »falsche Fakten«, ob sie diese nun freundlich und nett präsentieren, oder nicht.

Quelle: science.orf.at