Robotik-Expertin warnt vor Benachteiligung von Frauen durch KI
Berlin (dts) - Die Robotik-Expertin Kenza Ait Si Abbou hat vor einer Benachteiligung von Frauen und Minderheiten durch künstliche Intelligenz (KI) gewarnt. Neben vielen Chancen und mehr Bequemlichkeit für Gesellschaft und Konsumenten steckten in von Menschen trainierten KI-Systemen auch Risiken der Ungleichbehandlung, sagte sie den Zeitungen der Funke-Mediengruppe (Freitagausgaben). "Zum Beispiel die Gesichtserkennung, die bei dunkelhäutigen Menschen weniger gut funktioniert. Spracherkennung, die bei Frauen schlechter funktioniert. Kreditwürdigkeit, die abhängig vom Geschlecht entschieden wird."
Die Expertin für KI und Robotik wies darauf hin, dass künstliche Intelligenz nicht per se neutral oder fair sei, sondern in vielen Fällen etwa Frauen und Minderheiten benachteilige. Die Expertin und Buchautorin gehört zu den wenigen sichtbaren Frauen in der IT-Branche. Sie fordert mehr Diversität und einen stärkeren Einfluss von Frauen. "Wir Frauen müssen die Entwicklung der KI mitbestimmen. Momentan wird diese Technologie sehr einseitig entwickelt. Das können wir nicht zulassen", sagte Ait Si Abbou. Ein Grund für die Fehlentwicklung: KI-Systeme bauten auf bestehenden Daten aus der Vergangenheit auf. "Diese Daten beinhalten in der Regel bereits Diskriminierungen. Denn unsere Gesellschaft ist nicht gerecht, das müssen wir einfach mal akzeptieren." Die KI lerne also die Diskriminierungen und wiederhole sie. "Außerdem werden die Systeme meistens von den männlichen Entwicklern getestet." Die Benachteiligung durch selbstlernende KI könne aber jeden treffen, so die IT-Expertin: "Lebe ich in einem bestimmen Postleitzahlenbezirk, kann ein KI-System mich unter Umständen bei der Kreditwürdigkeit benachteiligen. In Berlin-Neukölln zum Beispiel kann das auch weiße Männer treffen." Das sei wichtig zu betonen, damit sich die ganze Gesellschaft dafür interessiere und das verändern wolle. Die Entwicklung hin zu einer digitalen Gesellschaft und Arbeitswelt müsse sich auch in den Schulen bemerkbar machen, sagte Ait Si Abbou. "Die Zukunft wird digitaler und automatisierter. Unsere Kinder sollen das mitgestalten, und es nicht nur konsumieren oder sich gar als Opfer sehen und meinen, Roboter werden sowieso ihre Jobs übernehmen. Sie sollten nicht auf Berufe der Vergangenheit ausgebildet werden, sondern in der Zukunft arbeitsfähig sein."
Die Expertin für KI und Robotik wies darauf hin, dass künstliche Intelligenz nicht per se neutral oder fair sei, sondern in vielen Fällen etwa Frauen und Minderheiten benachteilige. Die Expertin und Buchautorin gehört zu den wenigen sichtbaren Frauen in der IT-Branche. Sie fordert mehr Diversität und einen stärkeren Einfluss von Frauen. "Wir Frauen müssen die Entwicklung der KI mitbestimmen. Momentan wird diese Technologie sehr einseitig entwickelt. Das können wir nicht zulassen", sagte Ait Si Abbou. Ein Grund für die Fehlentwicklung: KI-Systeme bauten auf bestehenden Daten aus der Vergangenheit auf. "Diese Daten beinhalten in der Regel bereits Diskriminierungen. Denn unsere Gesellschaft ist nicht gerecht, das müssen wir einfach mal akzeptieren." Die KI lerne also die Diskriminierungen und wiederhole sie. "Außerdem werden die Systeme meistens von den männlichen Entwicklern getestet." Die Benachteiligung durch selbstlernende KI könne aber jeden treffen, so die IT-Expertin: "Lebe ich in einem bestimmen Postleitzahlenbezirk, kann ein KI-System mich unter Umständen bei der Kreditwürdigkeit benachteiligen. In Berlin-Neukölln zum Beispiel kann das auch weiße Männer treffen." Das sei wichtig zu betonen, damit sich die ganze Gesellschaft dafür interessiere und das verändern wolle. Die Entwicklung hin zu einer digitalen Gesellschaft und Arbeitswelt müsse sich auch in den Schulen bemerkbar machen, sagte Ait Si Abbou. "Die Zukunft wird digitaler und automatisierter. Unsere Kinder sollen das mitgestalten, und es nicht nur konsumieren oder sich gar als Opfer sehen und meinen, Roboter werden sowieso ihre Jobs übernehmen. Sie sollten nicht auf Berufe der Vergangenheit ausgebildet werden, sondern in der Zukunft arbeitsfähig sein."
