Medizininformatik

Mensch oder KI – wer hat die Kontrolle über radiologische Daten?

Wird irgendwo über Für und Wider der Künstlichen Intelligenz (KI) gesprochen, ist eine Diskussion über Kontrolle und Kontrollverlust fast so sicher wie der Neustart nach dem Systemupdate. Gute Voraussetzungen für Prof. Dr. Peter van Ooijen, der bei seinem Vortrag zur Datenkontrolle in Zeiten der KI auf dem ECR in Wien ein merklich interessiertes Publikum vorfand. Der Experte für Medizininformatik von der Reichsuniversität Groningen erklärte, warum es für Menschen kaum noch möglich ist, die Datenflut in der Radiologie zu kontrollieren – und wie Computer dabei helfen können, ohne selbst zum Problem zu werden.

Bericht: Wolfgang Behrends

Photo
Peter van Ooijen

Wer beim Begriff KI als erstes an massige Supercomputer denkt, wird vom Niederländer überrascht: „Wenn man die gängigen Definitionen anwendet, ist auch das Navi in Ihrem Auto eine Künstliche Intelligenz. Es übernimmt eine komplexe Aufgabe, für deren Erfüllung ein Mensch seine Intelligenz einsetzen müsste. Früher hat der Beifahrer dafür in eine Straßenkarte geschaut, aber heute ist diese Technik für uns so alltäglich geworden, dass wir sie nicht mehr als KI ansehen.“

So weit, so amüsant: Wer sich zu sehr auf sein Navi verlässt, ihm gewissermaßen die volle Kontrolle über die Fahrtrichtung überlässt, landet im schlimmsten Fall wie ein unbedarfter Tourist im Kanal statt auf der Fähre. Wenn man den Gedanken jedoch weiterspinnt und statt der Routenplanung die medizinische Diagnostik als Beispiel nimmt, bekommt die Angst vor Kontrollverlust eine ganz neue Dimension.

Photo
Van Ooijen_navigation: Auch das handelsübliche Navi im Auto ist im Grunde eine Künstliche Intelligenz.
Quelle: Pixabay/PhotoMIX-Company

„Ein großes Problem ist, dass KI Lösungen anbietet, die der Mensch nicht mehr nachvollziehen kann“, gibt van Ooijen zu bedenken. In einer Zeit, in der viele Experten den Algorithmen in absehbarer Zukunft nicht nur Befundungen, sondern sogar die Steuerung ganzer Sozialsysteme zutrauen, ist das ein Grund zur Besorgnis. Wenn eine KI nicht mit den Grundwerten unserer Gesellschaft kompatibel ist, wird diese Technik großen Schaden anrichten, warnt der IT-Experte. „Das lässt sich meiner Meinung nach auch auf die Radiologie übertragen.“

Wenn die Shoppingtour außer Kontrolle gerät

Die KI fällt Entscheidungen über uns, die wir nicht verstehen und nicht mehr beeinflussen können

Peter van Ooijen

Welche Auswirkungen unkontrollierte KI-Systeme haben können, zeigt van Ooijen am Beispiel von Shoppingportalen im Internet: „Bei Amazon & Co. laufen im Hintergrund automatisierte Auswertungs-Tools, die Nutzerdaten sammeln und an Drittanbieter weitergeben. Der Nutzer hat im Grunde keine Chance zu kontrollieren, welche Daten über ihn erhoben werden und wer Zugriff auf sie erhält.“ Diese Nutzerprofile, die im Zweifelsfall kein Mensch mehr zu Gesicht bekommt, können dazu führen, dass den Kunden völlig absurde Produkte angeboten werden – weil der Algorithmus errechnet hat, dass sie das interessieren könnte. „Die KI fällt Entscheidungen über uns, die wir nicht verstehen und nicht mehr beeinflussen können.“ Vom harmlosen Onlineshopping bis zu Portalen zu Medizinthemen und sensiblen Gesundheitsdaten ist es da nur ein kleiner Gedankensprung.

Die Unzuverlässigkeit solcher KI-basierten Entscheidungen ergibt sich auch aus ihrer Datengrundlage: „Wir haben zwar eine enorme Menge an Daten – 2020 werden wir voraussichtlich 44 Zettabytes* erzeugen – aber ein Großteil davon ist für automatisierte Auswertung völlig unbrauchbar“, betont van Ooijen. Oft liegen die Daten im falschen Format vor, sind nicht verifiziert oder ihnen fehlt der Kontext, um sie richtig einzuordnen. Und selbst wenn sie mit großem Aufwand KI-freundlich aufbereitet würden, wäre derzeit bestenfalls ein Drittel als Entscheidungsgrundlage geeignet. Bei hochspezifischen Aufgaben, etwa für die Radiologie, sogar noch deutlich weniger.

Quelle: Pixabay/user1518572209

Geteilte Verantwortung zwischen Mensch und Maschine

Was bedeutet das für Radiologen? „Sie sollten sich unbedingt mit den Möglichkeiten und Limitationen der Künstlichen Intelligenz befassen, denn sie wird sicherlich in Zukunft eine wichtige Rolle in der Radiologie spielen“, rät der Experte. „Einfache, klar spezifizierte Aufgaben erfüllen KI-Systeme schon jetzt erheblich besser als Menschen, aber je komplexer die Regeln werden, desto schlechter schneidet der Computer ab.“ Bei einer anspruchsvollen Aufgabe wie der radiologischen Bildanalyse können Algorithmen daher nur eingesetzt werden, wenn die Daten gut aufbereitet sind und die Aufgabe spezifisch genug ist. „Schon aus rechtlicher Sicht wird der Mensch in absehbarer Zukunft nicht zu ersetzen sein. Ich denke, es läuft auf eine geteilte Verantwortung hinaus: Das Datenmanagement, also die Analyse und Auswertung, sollten wir der KI überlassen, allerdings weiterhin unter menschlicher Aufsicht der Ergebnisse. Der Mensch sollte außerdem die Kontrolle darüber behalten, wer Zugriff auf welche Daten erhält.“

*1 Zettabyte = 1 000 000 000 000 000 000 000 (1021) Bytes oder eine Billion Gigabytes


Profil:

Dr. ir. Peter M. A. van Ooijen ist Associate Professor an der medizinischen Fakultät der Reichsuniversität Groningen. Als Experte für Medizininformatik liegt sein Forschungsschwerpunkt in der computergestützten Bildanalyse sowie der Interaktion zwischen Mensch und Computersystemen. Van Ooijen ist Mitglied der Radiological Society of North America (RSNA).

31.03.2018

Mehr aktuelle Beiträge lesen

Verwandte Artikel

Deep Learning & Co.

KI blickt tief in den Tumor hinein

Die großflächige Einführung von Künstlicher Intelligenz (KI) wird die Radiologie – aber auch andere medizinische Fächer – von Grund auf verändern. Die ersten Anwendungen zeigen bereits…

Innovation

KI und Carbon – Carestream startet auf dem Röko durch

Als einer der wenigen Hersteller setzt Carestream künstliche Intelligenz bereits heute in der praktischen Anwendung ein. Vue Imaging Analytics heißt die neue, innovative KI-Software, die gezielt…

Künstliche Intelligenz

Mensch-Maschine-Kollaborationen sind ein Gewinn

Die Entwicklung Künstlicher Intelligenzen (KI) hat in letzter Zeit einen enormen Hype ausgelöst. In die anfänglich ehrfürchtigen Stimmen mischen sich nun zunehmend auch sorgenvolle, die vor den…

Verwandte Produkte

Portal solution

medigration - PraxisPortal

medigration GmbH

DR

Agfa - DX-D 300

Agfa HealthCare

DR

Agfa - DX-D 40 detector

Agfa HealthCare

Mobile RIS/PACS viewer

Agfa - Enterprise Imaging

Agfa HealthCare

Business Intelligence

Agfa - Enterprise Imaging Business Intelligence

Agfa HealthCare