KI und Big Data in der Medizin: Enormes Potenzial – doch ein kritischer Blick auf die Art der Verwendung lohnt, sagt Bart de Witte.

Bildquelle: Shutterstock/Igor Kyrlytsya

News • Zwischen Datenkolonialismus und sozialem Fortschritt

Experte warnt vor Privatisierung medizinischer KI

"Whitewashing", Reinwaschen – aus dem Blickwinkel der Ethik lässt sich so zusammenfassen, wie Google und weitere Internetriesen große Datenmengen für Zwecke der Künstlichen Intelligenz (KI) "zum Gemeinwohl" nutzen. So positioniert sich Bart de Witte im Vorfeld der Xpomet zum Thema.

Der Gründer der HIPPO AI Foundation, Referent und Berater sieht KI als Technologie mit dem größten Hebel für Transformation in der Medizin. Sie erleichtert den Zugang zu Diagnostik und Therapie und bringt so enorme Vorteile für das Gemeinwohl. "Wenn wir eine Privatisierung der medizinischen KI zulassen, riskieren wir, zur 'dümmsten' Generation seit Gutenbergs Erfindung zu werden", warnt der Experte.

portrait of bart de witte
Bart de Witte
Quelle: Xpomet

Als Beispiel nennt de Witte das Projekt von Google zur Erkennung der diabetischen Retinopathie im indischen Aravind Eye Hospital. Patienten werden hier untersucht und bekommen Zugang zu medizinischem Expertenwissen, das nicht weit verbreitet ist in Indien. "An sich klingt das zuerst einmal gut, weil die Bevölkerung diesen Zugang erhält. Betrachtet man dieses Model aber genauer, wirft dieses typische Geschäftsmodell viele ethische Fragen auf. Zuerst einmal hat der Patient keine andere Wahl, keine Kontrolle über seine Daten. Google-Health-Projekte mit dem englischen NHS haben gezeigt, dass Google persönliche Daten nutzt und weiter verwertet."

Für den Experten ist das Sammeln und Analysieren großer Mengen an persönlichen Daten keine natürliche Form sozialer Wissenssammlung, sondern vielmehr eine "kommerziell getriebene Aktivität, die von privatwirtschaftlichen bzw. regierungsseitigen Interessen getrieben wird". So hat der Londoner Medienprofessor Nick Couldry kürzlich einen Artikel über Datenkolonialismus verfasst. Einer seiner Kernsätze lautet: “So wie der Kolonialismus der Industrialisierung den Weg bereitete, bereitet der Datenkolonialismus heute den Boden für eine neue Stufe des Kapitalismus, deren Eigenschaften wir bislang nur unscharf erkennen – die Unterwerfung des Lebens dem Kapitalismus ohne Grenzen. Kein Teil des menschlichen Lebens, keine Ebene unserer Existenz wird sich der Nutzung für kommerzielle Interessen entziehen können. Die menschliche Existenz wird dem Datenschürfen durch Unternehmen ausgesetzt, und die Regierungen schauen wohlwollend zu. Dieser Trend zum allumfassenden Kapitalismus schafft die Basis für ein Sozial-Arrangement mit hohen Ungleichheiten – für eine Sozialordnung, die äußerst unvereinbar ist mit menschlicher Freiheit und Autonomie“.

Bei der ethischen Diskussion sollten wir das Thema Datenmonetarisierung und Wissensprivatisierung stärker in den Vordergrund stellen

Bart de Witte

Und der US-Menschenrechtler Nathaniel Raymond formulierte zur KI in der Medizin "Wir finden uns in einem menschlichen Experiment, dem wir nicht zugestimmt haben – mit den schutzbedürftigsten Menschen zum schlimmsten Zeitpunkt ihres Lebens“. Seine Beschreibung passt zu den beschriebenen Aktivitäten von Google Verily in Indien. Raymond: Hier oktroyiert eine soziale Gruppe den anderen ungleiche, oft außerrechtliche Machtverhältnisse.“

Abschließend appelliert de Witte: "Bei der ethischen Diskussion sollten wir das Thema Datenmonetarisierung und Wissensprivatisierung stärker in den Vordergrund stellen. Die aktuellen Entwicklungen führen zu weiteren Informationsasymmetrien und mittel- bis langfristig zu einer Welt, in der Ungleichheiten innerhalb der Bevölkerung weiterhin zunehmen."


Quelle: Xpomet

08.10.2019

Mehr zu den Themen:

Verwandte Artikel

Photo

Artikel • Debatte zu Deep Learning

Nachhaltige KI in der Medizin: zwischen Datenriesen und Ethik-Paradoxa

Ausgefeilte medizinische KI-Modelle liefern mittlerweile beeindruckende Ergebnisse – allerdings häufig auf Kosten einer miserablen Umweltbilanz. Auf der Medica 2024 betrachteten Experten die…

Photo

News • Zukunfts-Dialog in Essen

Digitalisierungs-Forum steckt Gesundheitswesen von morgen ab

Medizinische KI und Interoperabilität jenseits von Datensilos – so lautet der Schlüssel für eine zukunftsfähige Gesundheitsversorgung, zeigten sich Experten auf einem Fachforum überzeugt.

Photo

Interview • Sprachbarrieren, Bias und mehr

Generative KI in der Medizin: Das Entscheidende sind die Daten

Reinhard Heckel, Professor für Maschinelles Lernen an der Technischen Universität München, spricht über die Bedeutung von Daten für Large Language Models und bildgebende Verfahren in der Medizin.

Verwandte Produkte

Newsletter abonnieren