Kalifornien treibt Regulierung von KI-Chatbots voran
Ein Meilenstein in der KI-Gesetzgebung: Die kalifornische State Assembly hat einen wichtigen Schritt in Richtung Regulierung von KI-Begleiter-Chatbots gemacht und den Gesetzentwurf SB 243 verabschiedet. In einem bemerkenswerten Akt bipartisaner Unterstützung bewegt er sich nun zur endgültigen Abstimmung in den Staats-Senat. Sollte Gouverneur Gavin Newsom das Gesetz unterzeichnen, würde es ab dem 1. Januar 2026 in Kraft treten und Kalifornien zum Vorreiter in der Verpflichtung von Betreibern von KI-Chatbots zur Umsetzung von Sicherheitsprotokollen machen.
Der Gesetzentwurf zielt speziell darauf ab, Begleiter-Chatbots, die adaptive und menschliche Reaktionen bieten und die sozialen Bedürfnisse der Nutzer erfüllen können, daran zu hindern, Gespräche über suizidale Gedanken, Selbstverletzungen oder explizite sexuelle Inhalte zu führen. Zudem verpflichtet er Plattformen, regelmäßige Warnhinweise an die Nutzer zu senden – bei Minderjährigen alle drei Stunden –, um sie daran zu erinnern, dass sie mit einem KI-Chatbot und nicht mit einer realen Person kommunizieren.
Die Gesetzgebung hat vor allem nach dem tragischen Tod des Teenagers Adam Raine an Fahrt gewonnen, der sich nach längeren Gesprächen mit OpenAI's ChatGPT das Leben nahm. Diese besorgniserregenden Entwicklungen führten zu verstärkter Überprüfung durch US-Gesetzgeber, einschließlich der Federal Trade Commission, die plant, die Auswirkungen von KI-Chatbots auf die psychische Gesundheit von Kindern zu untersuchen.
Die Debatte um den Gesetzentwurf und die öffentliche Aufregung haben dazu geführt, dass einige der anfänglichen strengen Anforderungen abgeschwächt wurden. Experimentelle Funktionen, die eine übermäßige Bindung an die Chatbots fördern könnten, wurden jedoch aus dem endgültigen Gesetzentwurf entfernt. SB 243 spiegelt die wachsende und dringend benötigte Diskussion über die ethischen und gesellschaftlichen Implikationen von KI-Technologien wider.
