Ein Arzt im weißen Lavorkittel und ein humanoider Roboter stehen mit...

Artikel • Künstliche Intelligenz in der Inneren Medizin

Wie verändert KI das Selbstverständnis von Ärzten?

Künstliche Intelligenz (KI) prägt zunehmend den ärztlichen Berufsalltag. Die Möglichkeiten der neuen Technik sind enorm, doch die Entscheidungen des Algorithmus sind oft undurchschaubar und längst nicht immer frei von Fehlern. Was bedeutet es für einen Arzt, mit einem solchen unperfekten Alleskönner zusammenzuarbeiten? Im Rahmen der Reihe ‚DGIMTalk‘ der Deutschen Gesellschaft für Innere Medizin (DGIM) sprach Dr. Christian Becker darüber, wie sich das ärztliche Selbstverständnis im Zeitalter medizinischer KI verändert.

Artikel: Wolfgang Behrends

Bei Aufgaben wie der Diagnoseunterstützung und Therapieplanung leisten KI-Systeme bereits jetzt wertvolle Hilfestellung, berichtete der Vorsitzende der AG Junge DGIM, der als Facharzt für Kardiologie und Pneumologie an der Universitätsmedizin Göttingen tätig ist. Experten sind sich daher einig, dass der Stellenwert der Technologie in der Medizin weiter zunehmen wird. In der Gesprächsrunde wurde aber auch deutlich, dass KI-Tools bisweilen überzeugend formulierte, aber faktisch falsche, unvollständige oder irreführende Informationen liefern. Diese auch als ‚Halluzinationen‘ bekannten Fehler können in absehbarer Zukunft nicht zuverlässig ausgeschlossen werden, so die Einschätzung der Teilnehmer.

Diese Einschränkung ist aus Sicht Beckers für den Arztberuf besonders relevant, denn dies sei kein Beruf wie jeder andere: Ärzte genießen nicht nur ein hohes gesellschaftliches Ansehen, sie haben durch ihre Tätigkeit auch eine große emotionale Nähe zu ihren Patienten. Damit gehen ein besonderes Vertrauensverhältnis und eine enorme Verantwortung einher, die mit der inhärenten Unzuverlässigkeit von KI kaum vereinbar sei. Zum einen können Fehler oder Ungenauigkeiten der Algorithmen im medizinischen Kontext ernsthafte gesundheitliche Konsequenzen haben, zum anderen könne die KI den Aspekt der emotionalen Intelligenz nur unzureichend abbilden: Zwar kann KI mittlerweile menschliche Emotionen erkennen, indem sie etwa bestimmte Marker im Gesicht analysiert¹, „trotzdem ist es so, dass aktuell kein Chatbot den empathischen Arztkontakt ersetzen kann.“

Eine mögliche Lösung ist der Einsatz sogenannter Explainable AI (XAI): Im Gegensatz zu einem konventionellen KI-Modell legt die XAI offen, woher sie ihre Informationen hat und wie sie zu ihrem Ergebnis gekommen ist. Das helfe Ärzten nicht nur, die Validität der KI-generierten Antworten besser zu beurteilen, sondern auch, die Informationen dem Patienten besser zu vermitteln, erklärte Becker.

Dieser Artikel könnte Sie auch interessieren

News • Transparenter Algorithmus

XAI: Diagnostik-KI für Hautkrebs erklärt ihre Entscheidungen

Wissenschaftler haben ein KI-basiertes Unterstützungssystem für die Hautkrebsdiagnostik entwickelt, das seine Entscheidungen erklärt. Das soll das Vertrauen der Mediziner in die Maschine steigern.

Von einigen Medizinern könne die neue Technik durchaus als Bedrohung in ihrer Kompetenz wahrgenommen werden, sagte Becker: Denn die erstaunlichen Fähigkeiten der KI im Umgang mit Gesundheitsinformationen übertreffen in vielen Fällen menschliche Grenzen.

Doch auch, wenn einige Ärzte das Rad womöglich gerne zurückdrehen würden – die medizinische KI ist in der Welt, ihr Mehrwert in vielen klinischen Anwendungsbereichen belegt. „Daraus ergibt sich die Frage: Dürfen wir in der Versorgung unseren Patienten die KI vorenthalten?“, gab der Kardiologe zu bedenken. Denn ähnlich wie eine Chemotherapie oder eine künstliche Herzklappe könnten viele Patienten vom Einsatz der KI profitieren – sie nicht einzusetzen würde in diesen Fällen im Widerspruch zum ärztlichen Ethos stehen, so seine Argumentation.

Vertrauen durch Expertise schaffen

Die Auswirkungen der Technik erstrecken sich zudem auf das Medizinstudium, etwa durch einen stärkeren Fokus auf Informatik, um die Stärken und Schwächen der KI besser zu verstehen. Die umfangreichen Daten der KI ersetzen aber nicht die Notwendigkeit, medizinisches Wissen selbst zu erlernen: Für das Vertrauen der Patienten sei es unverzichtbar, dass Ärzte medizinische Informationen selbst fundiert bewerten können, betonte Becker. „Aber vielleicht gibt es hier Potenzial, dass die KI gewisse Aufgaben übernehmen kann, sodass wir als Ärzte mehr Ressourcen für andere Dinge haben und dadurch effektiver werden können.“ Zu den großen Chancen durch den Einsatz von KI zählte der Experte die Verbesserung der Wirtschaftlichkeit und den Abbau von Bürokratie, etwa bei der Dokumentation.

Um eine solche Partnerschaft zwischen Mensch und KI einzugehen, die mehr als die Summe ihrer Teile ist, gelte es jedoch, offen gegenüber der neuen Technik zu sein. Dazu gehört auch, dass sich der bisherige Berufsalltag grundlegend ändern könnte. „Wir brauchen eine Akzeptanz dafür, dass unterschiedliche Berufszweige innerhalb der Medizin unterschiedlich stark betroffen sind.“ Dies müsse für alle Fachrichtungen individuell ermittelt werden, um das Potenzial durch KI bestmöglich auszuschöpfen, lautete sein abschließendes Fazit.