Daten schützen, Daten nützen

Die Norm in der Medizin ist der weiße Mann. Die sogenannte Gender Data Gap (wir haben es auch im Deutschen: Geschlechterdatenlücke) bezeichnet fehlende und unterrepräsentierte Datenerhebungen eines Geschlechts. Ein bekanntes Problem, das im Rahmen der Digitalisierung neuen Brennstoff erhält: „Wichtig wird dies auch für die KI, die eine große Chance, aber auch Gefahr darstellen kann, wenn Daten nur ein Teil der Bevölkerung repräsentieren“, sagte Ephsona Shencoru, Fachärztin für Dermatologie an der Charité SZ Dossier. Sie diskutiert heute auf einer Veranstaltung des Hans-Bredow-Institut zu Diskriminierung in medizinischen Datensätzen (Digitaler Salon: Invisible Patient - Hans-Bredow-Institut für Medienforschung)

Diskriminierende KI: Werden Algorithmen auf Basis verzerrter Daten trainiert, etwa von männlichen und weißen Körpern, ist die Gefahr etwa, dass sie gewisse Krankheiten nicht erkennen. Es braucht also inklusive Datensätze. In Deutschland trainieren Forschende KI aber nicht selten mit Gesundheitsdaten aus dem Ausland, wenn hierzulande nicht ausreichend Datensätze verfügbar sind — wir Deutschen lieben den Schutz unserer persönlichen Daten ein bisschen zu sehr für den Geschmack von manchen Forscherinnen und Forschern.