Vorbelastete Datenlage

Diskriminierung vorprogrammiert? KI und die Geschlechterlücke

Technologien auf der Grundlage Künstlicher Intelligenz (KI) gelten als der Inbegriff modernen Fortschritts. Doch die Daten, aus denen KI-Algorithmen ihre Schlüsse ziehen, sind überholt.

Bericht: Karoline Laarmann

Sie vernachlässigen die Dimensionen sowohl von biologischem als auch soziokulturellem Geschlecht und deren Beitrag zu Gesundheits- und Krankheitsunterschieden zwischen Individuen. Auf diese Weise reproduzieren denkende Maschinen nicht nur diskriminierende Vorurteile, sondern es entstehen auch suboptimale bis fehlerhafte Ergebnisse. Deutsche Expertinnen diskutierten "Das Gender-Problem der Künstlichen Intelligenz in der Medizin" im Rahmen des Econ Forum by TK auf der virtual.MEDICA 2020.

portrait of Christiane Gross
Dr. Christiane Groß

Bildquelle: Ärztekammer Nordrhein / © Jochen Rolfes

Die durchgehend weibliche Besetzung der Diskussionsrunde machte es deutlich: Es sind größtenteils Frauen, die sich mit der Geschlechterfrage beschäftigen. Nicht nur auf Seiten der Redner, sondern auch der Zuhörerschaft, bestätigte Dr. Christiane Groß, Vorsitzende des Ärztlichen Beirates Telematik Nordrhein-Westfalen und Präsidentin des Deutschen Ärztinnenbundes: "Ich erlebe oft, dass in Fortbildungen zu Genderthemen viele Frauen sitzen. Nennen Sie es aber Männer-Medizin, ist der Männer- und Frauenanteil 50/50." Der Begriff "gender" wird immer noch allzu oft als frauenspezifische Nische wahrgenommen, obwohl geschlechtsspezifische Unterschiede alle Menschen gleichermaßen betreffen. Allerdings haben Männer weniger Gründe, sich von der Medizinwissenschaft exkludiert zu fühlen, sind sie doch auf allen Ebenen überrepräsentiert. So stellen sie beispielsweise auch die Mehrheit der Teilnehmer an medizinischen Studien, was dazu führt, dass die Trainingsdaten, mit denen KI-Systeme gefüttert werden, entweder männlich geprägt oder geschlechterundifferenziert sind.

Wenn Maschinen wie Männer denken

"Der Gender Bias in der Medizin ist seit Jahren bekannt, aber die Forschung dazu hat wie so oft erst verzögert eingesetzt", so Brigitte Strahwald vom Lehrstuhl für Public Health und Versorgungsforschung der Ludwig-Maximilians-Universität München. Bei der KI-Entwicklung würde auf die vorhandenen historischen Datenbestände zurückgegriffen, die den geschlechtsbezogenen Verzerrungseffekt von der analogen in die digitale Welt weitertragen. "Das liegt auch an einem Gender Gap insgesamt in der KI-Forschung und -Entwicklung", meinte Strahwald. Algorithmen sind eben nicht nur das Produkt der Datensätze, auf denen sie basieren, sondern auch der Menschen, die sie programmieren – und das sind hauptsächlich Männer. Da die meisten medizinischen KI-Anwendungen nicht zwischen Geschlechtern unterscheiden, ist davon auszugehen, dass die verantwortlichen IT-Profis diesen Aspekt entweder für unwichtig halten oder gar nicht erst bedenken.

Gendern als Erfolgsfaktor

portrait of Barbara Steffens
Barbara Steffens

Foto: Techniker Krankenkasse

Das ist nicht nur ein Problem der Benachteiligung von Frauen, sondern untergräbt auch die Nützlichkeit der KI. Ein Beispiel sind die digitalen Gesundheitsanwendungen, kurz DiGAs, die mit dem Inkrafttreten des Digitalen Versorgungsgesetzes am 6. Oktober 2020 von den Krankenkassen übernommen werden. In diesem Zusammenhang kritisierte die frühere Gesundheitsministerin von Nordrhein-Westfalen und heutige Leiterin der Landesvertretung NRW der Techniker Krankenkasse, Barbara Steffens, dass "gleichgemachte Apps" am Ende weder Frauen noch Männern helfen und nur Kosten verursachen würden. "Wir haben fünf Bereiche der ersten Apps, die zugelassen sind, bei denen wir klar wissen, es gibt eine unterschiedliche Betroffenheit bei Männern und Frauen, aber auch unterschiedliche Empfindungen und Krankheitsverläufe". So sind etwa mehr Männer von einem chronischen Tinnitus betroffen als Frauen, letztere erleben die Beschwerden aber intensiver. Es ist also davon auszugehen, dass der Erfolg einer Tinnitus-App auch davon abhängen wird, ob Inhalte geschlechtersensibel aufbereitet und kommuniziert werden. Das ist zurzeit nicht der Fall.

Dieser Artikel könnte Sie auch interessieren

Photo

Digitale Gesundheitsanwendungen (DiGAs)

Ersetzt die App auf Rezept gängige Therapien und Hilfsmittel?

Die „App auf Rezept“ wurde mit dem Inkrafttreten des Digitalen Versorgungs-Gesetzes eingeführt. Gesetzlich Krankenversicherte haben seitdem Anspruch auf eine Versorgung mit digitalen Gesundheitsanwendungen (DiGAs). „Bei manchen Erkrankungen werden wir mit DiGAs neue Wege gehen und analoge Hilfsmittel komplett ersetzen können“, ist sich Prof. Dr. Reinhard Busse von der TU Berlin sicher.

Das Geschlecht ist und bleibt eine Unbekannte, nicht nur im Bereich der Digitalisierung des Gesundheitswesens, sondern auch an der Basis, also in der medizinischen Lehre, Weiterbildung und Forschung. Dabei gäbe es eine einfache Möglichkeit, ein stärkeres Bewusstsein für die Gender-Medizin zu schaffen, glaubt Dr. Christiane Groß: "Wenn wir es schaffen, die Männer mit ins Boot zu holen, sind wir einen Riesenschritt weiter."

11.01.2021

Mehr aktuelle Beiträge lesen

Verwandte Artikel

Photo

Health IT Forum auf der Medica 2021

Blick in die Zukunft der digitalisierten Medizin

„Virtual Care & Digital Therapeutics”, „Medical Artificial Intelligence & Robotics”, „Fields of Innovation" und „Societal aspects of digitized healthcare“ sind die Themen…

Photo

Jahrestagung von GMDS und TMF

Digitale Baustellen in der Medizin: ePA, KI, Datenzugang

670 Wissenschaftler diskutierten anlässlich der gemeinsamen Jahrestagung der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie e.V. (GMDS) und der Technologie- und…

Photo

Verwendung von Gesundheitsdaten

eAkte: Geht Datenschutz vor Patientenwohl?

Eigentlich lautete der Titel des Vortrags von Prof. Dr. Ferdinand M. Gerlach bei der Medica 2020 „EU-weite Verwendung von Gesundheitsdaten – Chancen und Risken“, doch in der anschließenden…

Verwandte Produkte

Agfa - Smart XR

Accessories/ Complementary Systems

Agfa - Smart XR

Agfa HealthCare
Beckman Coulter – Remisol Advance

LIS, Middleware, POCT

Beckman Coulter – Remisol Advance

Beckman Coulter, Inc.
Canon - Advanced Intelligent Clear-IQ Engine for CT

Artificial Intelligence

Canon - Advanced Intelligent Clear-IQ Engine for CT

Canon Medical Systems Europe B.V.
Canon – Advanced intelligent Clear-IQ Engine for MR

Artificial Intelligence

Canon – Advanced intelligent Clear-IQ Engine for MR

Canon Medical Systems Europe B.V.
Canon - Aquilion Exceed LB

Oncology CT

Canon - Aquilion Exceed LB

Canon Medical Systems Europe B.V.
Canon - HIT Automation Platform

Artificial Intelligence

Canon - HIT Automation Platform

Canon Medical Systems Europe B.V.
Newsletter abonnieren