Studie zeigt großes Potenzial von KI-Kooperation

Immer wieder tauchen Befürchtungen auf, dass sich in Zukunft, sobald KI in ausreichender Qualität zur Verfügung steht, der Bedarf an menschlicher Intelligenz und somit Ärzten verringern wird. Diese Ängste werden durch die gängige Darstellung eines „Wettkampfs“ zwischen Mensch und KI zusätzlich geschürt. Eine internationale, von der MedUni Wien geleitete Studie zeigt nun das große Potenzial der Kooperation von menschlicher und künstlicher Intelligenz auf.

Die Studie wurde nun im Fachjournal Nature Medicine veröffentlicht.

Die von Philipp Tschandl und Harald Kittler (Universitätsklinik für Dermatologie der MedUni Wien) und Christoph Rinner (CeMSIIS/Institut für Medizinisches Informationsmanagement der MedUni Wien) geleitete, internationale Studie räumt nun mit diesen Vorurteilen des vermeintlichen Konkurrenzkampfs auf, und zeigt stattdessen das große Potenzial der Zusammenarbeit zwischen menschlicher und künstlicher Intelligenz. Die Arbeit untersucht das Zusammenspiel zwischen Ärzten und KI unter verschiedenen Blickwinkeln und in unterschiedlichen, praktisch relevanten Szenarien. Obwohl sich die Autoren auf die Hautkrebsdiagnose beschränken, lassen sich die Erkenntnisse auch auf andere medizinische Einsatzgebiete künstlicher Intelligenz übertragen, betonen sie.

In einem von den Studienautoren kreierten Experiment mussten 302 Untersucher bzw. Ärzte dermatoskopische Bilder von gutartigen und bösartigen Hautveränderungen zuerst ohne und dann mit Unterstützung von Künstlicher Intelligenz auswerten. Die Auswertung der KI wurde in drei verschiedenen Varianten vermittelt. Im ersten Fall zeigte die KI dem Untersuchenden die Wahrscheinlichkeiten aller möglichen Diagnosen, im zweiten Fall die Wahrscheinlichkeit einer bösartigen Veränderung, und im dritten Fall eine Auswahl ähnlicher Bilder mit bekannten Diagnosen, vergleichbar einer Bildsuche über Google. Das zentrale Ergebnis: Nur im ersten Fall verbesserte die Zusammenarbeit mit der KI die diagnostische Genauigkeit der Untersuchenden, dafür aber deutlich mit einer Zunahme der richtigen Diagnosen von 13 Prozent.

„Interessanterweise profitierten weniger erfahrene Untersuchende mehr von der KI-Unterstützung als erfahrenere. Weniger erfahrene Untersucher vertrauten der KI auch eher als erfahrene. Letztere nahmen die Vorschläge der KI zur Änderung ihrer ursprünglichen Diagnose nur in jenen Fällen, in denen sie selbst unsicher waren“, betonen die Studienautoren. In einem zweiten Experiment konnte gezeigt werden, dass sich alle Untersucher, selbst ausgewiesene Experten, von der KI in die Irre führen lassen, wenn die Ausgabe so verändert wurde, dass falsche Diagnosen anzeigt wurden. „Die Studie zeigt also, dass ein gewisses Vertrauen in die KI nötig ist, um davon zu profitieren, aber dass dieses Vertrauen auch unerwünschte Effekte zur Folge haben kann.“

In einem weiteren Schritt konnten die Autoren zeigen, dass eine gut funktionierende KI in der Lage ist, in einem telemedizinischen Szenario gutartige Hautveränderungen herauszufiltern. Diese Maßnahme könnte die Zahl der Fälle, die von einem menschlichen Experten untersucht werden muss, deutlich verringern. In weiterer Folge konnte an Hand von realen, prospektiv erhobenen Daten demonstriert werden, dass selbst unerfahrene Untersucher mit KI-Unterstützung auf Expertenniveau telemedizinische Diagnosen stellen können. In einem abschließenden Experiment wurde auch gezeigt, dass Menschen lernen können von der KI generierte Konzepte als diagnostische Hinweise zu nutzen, um damit unabhängig von der KI ihre eigenen Fähigkeiten zu verbessern.

Die Conclusio: „Menschliche und künstliche Intelligenz werden sich in Zukunft ergänzen und gemeinsam die Patientenversorgung verbessern. Nicht der Wettkampf, sondern die Zusammenarbeit zwischen Menschen und KI sollte in den Vordergrund rücken.“ Da nicht alle Anwender gleichermaßen von KI-Unterstützung profitieren und da die Form der Unterstützung eine Rolle spielt, sollten KI-basierte medizinische Systeme in der Praxis nicht nur als eigenständige Anwendungen, sondern immer auch im Zusammenspiel mit dem typischen Nutzer getestet werden.

Quelle: Medizinische Universität Wien

24.06.2020

• KI (490)
• Kooperation (179)
• Studien (676)