Artikel • Vorbelastete Datenlage
Diskriminierung vorprogrammiert? KI und die Geschlechterlücke
Technologien auf der Grundlage Künstlicher Intelligenz (KI) gelten als der Inbegriff modernen Fortschritts. Doch die Daten, aus denen KI-Algorithmen ihre Schlüsse ziehen, sind überholt.
Bericht: Karoline Laarmann
Sie vernachlässigen die Dimensionen sowohl von biologischem als auch soziokulturellem Geschlecht und deren Beitrag zu Gesundheits- und Krankheitsunterschieden zwischen Individuen. Auf diese Weise reproduzieren denkende Maschinen nicht nur diskriminierende Vorurteile, sondern es entstehen auch suboptimale bis fehlerhafte Ergebnisse. Deutsche Expertinnen diskutierten "Das Gender-Problem der Künstlichen Intelligenz in der Medizin" im Rahmen des Econ Forum by TK auf der virtual.MEDICA 2020.
Bildquelle: Ärztekammer Nordrhein / © Jochen Rolfes
Die durchgehend weibliche Besetzung der Diskussionsrunde machte es deutlich: Es sind größtenteils Frauen, die sich mit der Geschlechterfrage beschäftigen. Nicht nur auf Seiten der Redner, sondern auch der Zuhörerschaft, bestätigte Dr. Christiane Groß, Vorsitzende des Ärztlichen Beirates Telematik Nordrhein-Westfalen und Präsidentin des Deutschen Ärztinnenbundes: "Ich erlebe oft, dass in Fortbildungen zu Genderthemen viele Frauen sitzen. Nennen Sie es aber Männer-Medizin, ist der Männer- und Frauenanteil 50/50." Der Begriff "gender" wird immer noch allzu oft als frauenspezifische Nische wahrgenommen, obwohl geschlechtsspezifische Unterschiede alle Menschen gleichermaßen betreffen. Allerdings haben Männer weniger Gründe, sich von der Medizinwissenschaft exkludiert zu fühlen, sind sie doch auf allen Ebenen überrepräsentiert. So stellen sie beispielsweise auch die Mehrheit der Teilnehmer an medizinischen Studien, was dazu führt, dass die Trainingsdaten, mit denen KI-Systeme gefüttert werden, entweder männlich geprägt oder geschlechterundifferenziert sind.
Wenn Maschinen wie Männer denken
"Der Gender Bias in der Medizin ist seit Jahren bekannt, aber die Forschung dazu hat wie so oft erst verzögert eingesetzt", so Brigitte Strahwald vom Lehrstuhl für Public Health und Versorgungsforschung der Ludwig-Maximilians-Universität München. Bei der KI-Entwicklung würde auf die vorhandenen historischen Datenbestände zurückgegriffen, die den geschlechtsbezogenen Verzerrungseffekt von der analogen in die digitale Welt weitertragen. "Das liegt auch an einem Gender Gap insgesamt in der KI-Forschung und -Entwicklung", meinte Strahwald. Algorithmen sind eben nicht nur das Produkt der Datensätze, auf denen sie basieren, sondern auch der Menschen, die sie programmieren – und das sind hauptsächlich Männer. Da die meisten medizinischen KI-Anwendungen nicht zwischen Geschlechtern unterscheiden, ist davon auszugehen, dass die verantwortlichen IT-Profis diesen Aspekt entweder für unwichtig halten oder gar nicht erst bedenken.
Gendern als Erfolgsfaktor
Foto: Techniker Krankenkasse
Das ist nicht nur ein Problem der Benachteiligung von Frauen, sondern untergräbt auch die Nützlichkeit der KI. Ein Beispiel sind die digitalen Gesundheitsanwendungen, kurz DiGAs, die mit dem Inkrafttreten des Digitalen Versorgungsgesetzes am 6. Oktober 2020 von den Krankenkassen übernommen werden. In diesem Zusammenhang kritisierte die frühere Gesundheitsministerin von Nordrhein-Westfalen und heutige Leiterin der Landesvertretung NRW der Techniker Krankenkasse, Barbara Steffens, dass "gleichgemachte Apps" am Ende weder Frauen noch Männern helfen und nur Kosten verursachen würden. "Wir haben fünf Bereiche der ersten Apps, die zugelassen sind, bei denen wir klar wissen, es gibt eine unterschiedliche Betroffenheit bei Männern und Frauen, aber auch unterschiedliche Empfindungen und Krankheitsverläufe". So sind etwa mehr Männer von einem chronischen Tinnitus betroffen als Frauen, letztere erleben die Beschwerden aber intensiver. Es ist also davon auszugehen, dass der Erfolg einer Tinnitus-App auch davon abhängen wird, ob Inhalte geschlechtersensibel aufbereitet und kommuniziert werden. Das ist zurzeit nicht der Fall.
Dieser Artikel könnte Sie auch interessieren
Artikel • Digitale Gesundheitsanwendungen (DiGAs)
Ersetzt die App auf Rezept gängige Therapien und Hilfsmittel?
Die „App auf Rezept“ wurde mit dem Inkrafttreten des Digitalen Versorgungs-Gesetzes eingeführt. Gesetzlich Krankenversicherte haben seitdem Anspruch auf eine Versorgung mit digitalen Gesundheitsanwendungen (DiGAs). „Bei manchen Erkrankungen werden wir mit DiGAs neue Wege gehen und analoge Hilfsmittel komplett ersetzen können“, ist sich Prof. Dr. Reinhard Busse von der TU Berlin sicher.
Das Geschlecht ist und bleibt eine Unbekannte, nicht nur im Bereich der Digitalisierung des Gesundheitswesens, sondern auch an der Basis, also in der medizinischen Lehre, Weiterbildung und Forschung. Dabei gäbe es eine einfache Möglichkeit, ein stärkeres Bewusstsein für die Gender-Medizin zu schaffen, glaubt Dr. Christiane Groß: "Wenn wir es schaffen, die Männer mit ins Boot zu holen, sind wir einen Riesenschritt weiter."
11.01.2021
