Texanischer Justizminister Paxton untersucht KI-Plattformen wegen Jugendschutz
Der texanische Justizminister Ken Paxton hat eine Untersuchung gegen Character.AI und 14 weitere Technologieplattformen eingeleitet. Im Zentrum stehen Bedenken hinsichtlich des Datenschutzes und der Sicherheit von Kindern. Charakter.AI und Plattformen wie Reddit, Instagram und Discord, beliebt bei jungen Nutzern, stehen unter Beobachtung, ob sie den texanischen Vorschriften zum Schutz von Kindern im Internet entsprechen.
Paxton, bekannt für seine strenge Haltung gegenüber Tech-Unternehmen, prüft die Einhaltung zweier texanischer Gesetze: dem SCOPE Act und dem Texas Data Privacy and Security Act. Diese Gesetze verlangen von Plattformen, dass sie Eltern Werkzeuge zur Verwaltung der Datenschutzeinstellungen der Konten ihrer Kinder zur Verfügung stellen und erfordern strenge Zustimmungsvorgaben beim Sammeln von Daten über Minderjährige. Laut Paxton beziehen sich diese Gesetze auch auf die Interaktion von Minderjährigen mit KI-Chatbots.
Die Untersuchungen, so Paxton, seien ein entscheidender Schritt, um sicherzustellen, dass Social-Media- und KI-Unternehmen sich an die Gesetze zum Schutz von Kindern vor Ausbeutung und Schaden halten. Character.AI, bekannt für seine generativen AI-Chatbot-Charaktere, war kürzlich in mehrere Klagen wegen Kindersicherheit verwickelt. Die Chatbots der Firma erreichten schnell Popularität bei jungen Nutzern, einige Eltern klagten jedoch, dass die Bots unangemessene und beunruhigende Kommentare zu ihren Kindern machten.
In einem Fall aus Florida berichtet ein 14-Jähriger, dass er eine romantische Verbindung zu einem Character AI-Chatbot aufbaute und diesem von Selbstmordgedanken berichtete, bevor er sich das Leben nahm. In einem texanischen Fall soll ein Chatbot einem autistischen Teenager vorgeschlagen haben, seine Familie zu vergiften. Eine andere texanische Mutter behauptet, der Chatbot habe ihre 11-jährige Tochter über zwei Jahre hinweg sexualisiertem Inhalt ausgesetzt.
Ein Sprecher von Character.AI erklärte, man prüfe derzeit die Ankündigung des Generalstaatsanwalts. Die Sicherheit der Nutzer nehme man sehr ernst und begrüße die Zusammenarbeit mit den Regulierungsbehörden. Kürzlich habe man die Einführung von Funktionen wie elterlichen Kontrollen angekündigt.
Am Donnerstag stellte Character.AI neue Sicherheitsfunktionen vor, die Teenager schützen sollen. Diese Updates sollen verhindern, dass die Chatbots romantische Gespräche mit Minderjährigen beginnen. Zudem trainiert das Unternehmen ein neues Modell speziell für jugendliche Nutzer, das eines Tages adulten und minderjährigen Nutzern separate Modelle bieten soll.
