Studienleiter Titus Brinker demonstriert Minister Karl Lauterbach das...
Studienleiter Titus Brinker demonstriert Minister Karl Lauterbach das KI-Dermatoskop im November 2023.

© Anspach/DKFZ

News • Transparenter Algorithmus

XAI: Diagnostik-KI für Hautkrebs erklärt ihre Entscheidungen

Künstliche Intelligenz (KI) kann Hautärzte dabei unterstützen, Hautkrebs zu erkennen. Doch viele Dermatologen misstrauen den für sie nicht nachvollziehbaren Entscheidungen der Algorithmen.

Wissenschaftler im Deutschen Krebsforschungszentrum entwickelten nun ein KI-basiertes Unterstützungssystem für die Hautkrebsdiagnostik, das seine Entscheidungen erklärt. Dabei verwendet das System etablierte Diagnose-Merkmale, die sich auf bestimmte Bereiche der verdächtigen Läsionen beziehen. Die Erklärungen steigerten das Vertrauen der Mediziner in die Entscheidungen der Maschine – sowie auch in ihre eigenen Diagnosen. 

Die Wissenschaftler veröffentlichten ihre Erkenntnisse im Fachjournal Nature Communications

Das Melanom ist weltweit für die meisten hautkrebsbedingten Todesfälle verantwortlich. Melanome im Frühstadium sind jedoch nur schwer von anderen Hauttumoren zu unterscheiden. Jüngste Fortschritte im Bereich der auf künstlicher Intelligenz basierenden Diagnose-Unterstützungssysteme können Hautärzten helfen, Melanome und Muttermale genauer zu diagnostizieren, wenn ihnen digitalisierte Bilder verdächtiger Läsionen gezeigt werden. Ärzte wollen aber verstehen, welche Merkmale das Ergebnis eines KI-Systems bestimmt. „Die letztendliche Verantwortung für eine Diagnose liegt beim Kliniker. Deshalb sind Dermatologen berechtigterweise vorsichtig, KI-basierte Systeme einzusetzen, ohne deren Entscheidungen nachvollziehen zu können", sagt Titus Brinker, Hautarzt und Wissenschaftler am DKFZ. Doch die Systeme neigen dazu, alle korrelierten Merkmale in ihre Entscheidungsfindung einzubeziehen, einschließlich der Scheinkorrelationen. „Unser Ziel war es daher, ein Unterstützungssystem zu entwickeln, das auf die Sichtweise von Dermatologen bei der Melanomdiagnose abgestimmt ist und seine Entscheidungsfindung erklärt", so Brinker. „In Anlehnung an frühere Arbeiten haben wir unsere erklärbare KI (XAI = explainable artificial intelligence) so entwickelt, dass sie Dermatologen-ähnliche Erklärungen liefert, die sich auf die Merkmale bestimmter, einzelner Zonen der Läsion beziehen."

Die europäische Datenschutzgrundverordnung verlangt, dass alle algorithmusbasierten Entscheidungen für die Endnutzer interpretierbar sein müssen

Titus Brinker

Das Team um Brinker untersuchte in einer dreiphasigen Studie die Auswirkungen auf die diagnostische Genauigkeit, die diagnostische Sicherheit und das Vertrauen der Dermatologen in das erklärende System. Die Forschenden wollten außerdem wissen, welche Faktoren das Vertrauen der Ärzte in diese Technik fördern. An der Untersuchung beteiligten sich über hundert Dermatologen aus 33 verschiedenen Ländern. Die Ärzte diagnostizierten ein Testpanel an digitalisierten Aufnahmen verschiedener Läsionen dreimal – allein auf der Basis ihrer Erfahrung, mit Unterstützung eines herkömmlichen KI-Systems und mit der XAI. 

Wie bereits in früheren Studien dokumentiert, steigerte die Nutzung eines KI-Systems die diagnostische Genauigkeit bei der Erkennung von Melanomen, die jedoch durch den Einsatz der XAI nicht weiter gesteigert werden konnte. Auch das Vertrauen der Dermatologen in die eigene Entscheidung verbesserte sich unter KI-Unterstützung – und stieg beim Einsatz des XAI-Systems noch einmal deutlich an. Besonderes Zutrauen zur eigenen Diagnose hatten die Mediziner dann, wenn ihre Entscheidungskriterien mit den von der XAI aufgeführten Kriterien weitgehend übereinstimmten. 

Die Ergebnisse veranschaulichen, dass die XAI die Diagnosesicherheit von Klinikern verbessern kann und das Potenzial hat, die Akzeptanz der Mediziner für den Einsatz von KI-Methoden zu steigern", erklärt Studienleiter Titus Brinker und fügt hinzu: „Die europäische Datenschutzgrundverordnung verlangt, dass alle algorithmusbasierten Entscheidungen für die Endnutzer interpretierbar sein müssen. Unsere Arbeit ist ein wichtiger erster Schritt zur Schließung der Interpretationslücke." 


Quelle: Deutsches Krebsforschungszentrum

18.01.2024

Verwandte Artikel

Photo

News • Pathologie-Datentraining

Neues KI-Tool schließt von häufigen auf seltene Erkrankungen

Seltene Erkrankungen sind eine Herausforderung für die Diagnostik per KI, weil es kaum Trainingsdaten gibt. Ein neues Tool kann nun auch mit Daten von häufigen Befunden diese Krankheiten erkennen.

Photo

News • Nicht-invasive Risikobewertung

Prostatakrebs: KI soll unnötige Biopsien vermeiden

Durch die Kombination von Risikomarkern, systematischer Befundung von MRT-Aufnahmen und KI kann das Risiko für Prostatakrebs präziser als bisher vorhergesagt werden, wie eine neue Studie zeigt.

Photo

News • Diagnose-Fähigkeiten von Large Language Models getestet

Sind KI-Chatbots fit fürs Krankenhaus?

Medizinische Chatbots treffen vorschnelle Diagnosen, halten sich nicht an Richtlinien und würden das Leben von Patienten gefährden – und stecken dennoch voller Potenzial, wie neue Forschung zeigt.

Verwandte Produkte

Newsletter abonnieren