human and robot handshake

Bildquelle: Shutterstock/Willyam Bradberry

News • Künstliche Intelligenz in der Medizin

Studie zeigt großes Potenzial von KI-Kooperation

Künstliche Intelligenz (KI) wird in der Medizin immer öfter zur Unterstützung menschlicher Expertise eingesetzt. Das Potenzial dieser Anwendungen sowie mögliche Gefahren beim Zusammenspiel zwischen menschlicher und künstlicher Intelligenz sind jedoch noch nicht zur Gänze erforscht.

Immer wieder tauchen Befürchtungen auf, dass sich in Zukunft, sobald KI in ausreichender Qualität zur Verfügung steht, der Bedarf an menschlicher Intelligenz und somit Ärzten verringern wird. Diese Ängste werden durch die gängige Darstellung eines „Wettkampfs“ zwischen Mensch und KI zusätzlich geschürt. Eine internationale, von der MedUni Wien geleitete Studie zeigt nun das große Potenzial der Kooperation von menschlicher und künstlicher Intelligenz auf.

Die Studie wurde nun im Fachjournal Nature Medicine veröffentlicht.

Die von Philipp Tschandl und Harald Kittler (Universitätsklinik für Dermatologie der MedUni Wien) und Christoph Rinner (CeMSIIS/Institut für Medizinisches Informationsmanagement der MedUni Wien) geleitete, internationale Studie räumt nun mit diesen Vorurteilen des vermeintlichen Konkurrenzkampfs auf, und zeigt stattdessen das große Potenzial der Zusammenarbeit zwischen menschlicher und künstlicher Intelligenz. Die Arbeit untersucht das Zusammenspiel zwischen Ärzten und KI unter verschiedenen Blickwinkeln und in unterschiedlichen, praktisch relevanten Szenarien. Obwohl sich die Autoren auf die Hautkrebsdiagnose beschränken, lassen sich die Erkenntnisse auch auf andere medizinische Einsatzgebiete künstlicher Intelligenz übertragen, betonen sie.

In einem von den Studienautoren kreierten Experiment mussten 302 Untersucher bzw. Ärzte dermatoskopische Bilder von gutartigen und bösartigen Hautveränderungen zuerst ohne und dann mit Unterstützung von Künstlicher Intelligenz auswerten. Die Auswertung der KI wurde in drei verschiedenen Varianten vermittelt. Im ersten Fall zeigte die KI dem Untersuchenden die Wahrscheinlichkeiten aller möglichen Diagnosen, im zweiten Fall die Wahrscheinlichkeit einer bösartigen Veränderung, und im dritten Fall eine Auswahl ähnlicher Bilder mit bekannten Diagnosen, vergleichbar einer Bildsuche über Google. Das zentrale Ergebnis: Nur im ersten Fall verbesserte die Zusammenarbeit mit der KI die diagnostische Genauigkeit der Untersuchenden, dafür aber deutlich mit einer Zunahme der richtigen Diagnosen von 13 Prozent.

Dieser Artikel könnte Sie auch interessieren

„Interessanterweise profitierten weniger erfahrene Untersuchende mehr von der KI-Unterstützung als erfahrenere. Weniger erfahrene Untersucher vertrauten der KI auch eher als erfahrene. Letztere nahmen die Vorschläge der KI zur Änderung ihrer ursprünglichen Diagnose nur in jenen Fällen, in denen sie selbst unsicher waren“, betonen die Studienautoren. In einem zweiten Experiment konnte gezeigt werden, dass sich alle Untersucher, selbst ausgewiesene Experten, von der KI in die Irre führen lassen, wenn die Ausgabe so verändert wurde, dass falsche Diagnosen anzeigt wurden. „Die Studie zeigt also, dass ein gewisses Vertrauen in die KI nötig ist, um davon zu profitieren, aber dass dieses Vertrauen auch unerwünschte Effekte zur Folge haben kann.“

Nicht der Wettkampf, sondern die Zusammenarbeit zwischen Menschen und KI sollte in den Vordergrund rücken

Tschandl et al.

In einem weiteren Schritt konnten die Autoren zeigen, dass eine gut funktionierende KI in der Lage ist, in einem telemedizinischen Szenario gutartige Hautveränderungen herauszufiltern. Diese Maßnahme könnte die Zahl der Fälle, die von einem menschlichen Experten untersucht werden muss, deutlich verringern. In weiterer Folge konnte an Hand von realen, prospektiv erhobenen Daten demonstriert werden, dass selbst unerfahrene Untersucher mit KI-Unterstützung auf Expertenniveau telemedizinische Diagnosen stellen können. In einem abschließenden Experiment wurde auch gezeigt, dass Menschen lernen können von der KI generierte Konzepte als diagnostische Hinweise zu nutzen, um damit unabhängig von der KI ihre eigenen Fähigkeiten zu verbessern.

Die Conclusio: „Menschliche und künstliche Intelligenz werden sich in Zukunft ergänzen und gemeinsam die Patientenversorgung verbessern. Nicht der Wettkampf, sondern die Zusammenarbeit zwischen Menschen und KI sollte in den Vordergrund rücken.“ Da nicht alle Anwender gleichermaßen von KI-Unterstützung profitieren und da die Form der Unterstützung eine Rolle spielt, sollten KI-basierte medizinische Systeme in der Praxis nicht nur als eigenständige Anwendungen, sondern immer auch im Zusammenspiel mit dem typischen Nutzer getestet werden.


Quelle: Medizinische Universität Wien

24.06.2020

Mehr aktuelle Beiträge lesen

Verwandte Artikel

Photo

News • Transparenter Algorithmus

XAI: Diagnostik-KI für Hautkrebs erklärt ihre Entscheidungen

Wissenschaftler haben ein KI-basiertes Unterstützungssystem für die Hautkrebsdiagnostik entwickelt, das seine Entscheidungen erklärt. Das soll das Vertrauen der Mediziner in die Maschine steigern.

Photo

News • Erkennung therapie-relevanter Genetik

Leukämie: KI hilft bei der Diagnostik

Bestimmte genetische Merkmale sind für die Diagnostik der AML-Leukämie entscheidend. Ein neues KI-basiertes Verfahren kann diese Merkmale aus Aufnahmen von Knochenmarkausstrichen vorhersagen.

Photo

News • Algorithmus erfasst Gefühlslage

KI-Gesichtserkennung als Unterstützung in der Psychotherapie

Eine neue Studie zeigt, dass KI Emotionen von Patienten an deren Gesicht ablesen kann. Das könnte helfen, den Therapieerfolg bei mentalen Erkrankungen wie Borderline vorauszusagen.

Verwandte Produkte

Newsletter abonnieren