US-Handelsaufsicht nimmt KI-Chatbots ins Visier
Die Federal Trade Commission (FTC) der USA hat eine tiefgreifende Untersuchung eingeleitet, um zu prüfen, wie führende Hersteller von Chatbots die Auswirkungen ihrer Produkte auf Kinder und Jugendliche testen und überwachen. In den Mittelpunkt der Untersuchung rücken dabei Chatbots von Unternehmen wie Alphabet, Meta Platforms, OpenAI, Snap, Instagram, Character Technologies und X.AI Corp., die von Elon Musk gegründet wurde.
FTC-Vorsitzender Andrew N. Ferguson betont, dass es von entscheidender Bedeutung sei, die Effekte, die KI-Technologien auf Minderjährige haben können, sorgfältig zu analysieren, um den Schutz dieser Altersgruppe zu gewährleisten und gleichzeitig die internationale Führungsrolle der USA in dieser zukunftsweisenden Branche zu wahren. Ziel der Untersuchung ist es, ein besseres Verständnis dafür zu erlangen, wie Unternehmen ihre KI-Produkte entwickeln und welche Maßnahmen zum Schutz von Kindern getroffen werden.
Besorgniserregend ist insbesondere die Fähigkeit der modernen Chatbots, menschliche Konversationen zu simulieren und emotionale Bindungen aufzubauen, was bei jungen Nutzern zu einem ungesunden Vertrauen führen könnte. Die FTC will erfahren, welche Schritte von den Unternehmen unternommen wurden, um negative Auswirkungen der virtuellen Begleiter auf Kinder und Jugendliche zu begrenzen.
Diese Untersuchung folgt auf Berichte über problematische Interaktionen von Meta-Chatbots mit Jugendlichen, die zu romantischen Gesprächen führten und in einem Fall gar zu suizidalem Coaching. Parallel dazu hat OpenAI kürzlich bekanntgegeben, neue Kontrollen einzuführen, die es Eltern ermöglichen, die digitalen Aktivitäten ihrer Teenager besser zu überwachen und in Krisensituationen benachrichtigt zu werden.
