Sorge um UnitedHealthcare: Verleugnet die KI menschliche Expertise?
Der kürzliche Vorfall in New York City, bei dem der ehemalige CEO von UnitedHealthcare, Brian Thompson, erschossen wurde, lenkt den Fokus intensiv auf das Unternehmen und seine Praktiken. Während die genauen Hintergründe der Tat noch im Dunkeln liegen, zieht das Ereignis vermehrt Aufmerksamkeit auf die Abläufe innerhalb der Gesundheitsbranche und deren Digitalisierung.
Berichten zufolge erhielt Thompson, ein anerkannter Experte im Bereich der Krankenversicherung, im Vorfeld der Tat Drohungen, die jedoch als branchenüblich abgetan wurden. Während die Suche nach dem Täter andauert, blicken Medienvertreter näher auf die Rolle von UnitedHealthcare, die als Versicherungssparte von UnitedHealth fungiert.
Ein besonders brisantes Thema ist der Einsatz von Künstlicher Intelligenz (KI) zur Optimierung von Prozessen. Seit dem Start von ChatGPT im Jahr 2022 ist der Ansturm auf KI-Lösungen ungebremst. Für UnitedHealthcare scheinen sich jedoch Schwierigkeiten zu ergeben, die gravierende Folgen für alle Beteiligten haben könnten.
Einen Monat vor Thompsons Tod verzeichneten Krankenhäuser eine Zunahme abgelehnter Versicherungsansprüche, die möglicherweise auf fehlerhafte KI-Modelle zurückzuführen sind. Hinterbliebene von Patienten, denen UnitedHealthcare die Kostenübernahme verweigerte, haben daraufhin rechtliche Schritte eingeleitet.
Am 14. November 2023 reichte eine Gruppe eine Sammelklage gegen UnitedHealth Group und seine Tochtergesellschaften UnitedHealthcare und Navihealth ein. Der Vorwurf: Die Unternehmen hätten wissentlich KI-Technologie benutzt, um älteren Patienten die Versorgung zu verweigern, und seien sich eines Fehlerquotienten von 90 % bewusst gewesen. Die Entscheidungskompetenz der behandelnden Ärzte wurde demnach von der KI überstimmt, was weitreichende Bedenken hinsichtlich des ethischen Gebrauchs von Technologie in der Patientenversorgung aufwirft.
Die Klage argumentiert, dass die Geschäftsführung trotz Kenntnis der Fehlerhaftigkeit des KI-Systems das Modell weiter einsetzte, wohlwissend, dass nur ein Bruchteil der Versicherten – schätzungsweise 0,2 % – gegen die Ablehnung ihrer Ansprüche Einspruch erheben würden.
