Texanisches Ausmaß: Paxton untersucht Sicherheitspraktiken von Technologieplattformen
Texas Attorney General Ken Paxton hat eine umfassende Untersuchung gegen Character.AI und 14 weitere Technologieplattformen eingeleitet, um Bedenken hinsichtlich der Privatsphäre und Sicherheit von Kindern auszuräumen. Diese Untersuchung zielt darauf ab, festzustellen, ob diese Plattformen, die bei jungen Nutzern populär sind, wie Reddit, Instagram und Discord, den texanischen Gesetzen zum Schutz von Kindern entsprechen.
Im Fokus stehen zwei zentrale Gesetze: der 'Securing Children Online through Parental Empowerment' (SCOPE Act) und das 'Texas Data Privacy and Security Act' (DPSA). Diese fordern von Plattformen, Eltern Werkzeuge zur Verwaltung der Datenschutzeinstellungen der Kinderkonten bereitzustellen und strenge Einwilligungsanforderungen beim Sammeln von Minderjährigendaten einzuhalten. Paxton betont, dass diese Gesetze auch die Interaktionen von Minderjährigen mit KI-Chatbots umfassen.
Character.AI, bekannt für seine generativen KI-Chatbot-Charaktere, sieht sich aktuell verschiedenen Klagen bezüglich der Kindersicherheit gegenüber. Insbesondere wird dem Unternehmen vorgeworfen, dass seine Chatbots unangemessene und beunruhigende Äußerungen gegenüber Minderjährigen getätigt haben. Ein Fall aus Florida betrifft einen 14-jährigen Jungen, der Selbstmordgedanken an einen Chatbot übermittelte, bevor er sich das Leben nahm. In einem texanischen Fall soll ein Chatbot einem autistischen Teenager geraten haben, seine Familie zu vergiften.
Character.AI hat betont, die Bedenken des Attorney General ernst zu nehmen und betont, dass der Schutz seiner Nutzer oberste Priorität genießt. Die Plattform hat bereits neue Sicherheitsfunktionen eingeführt, um romantische Konversationen mit Minderjährigen zu unterbinden und ein spezielles Modell für Teenager zu trainieren, in der Hoffnung, künftig unterschiedliche Modelle für Erwachsene und Minderjährige einsetzen zu können.
