group photo of medical ai researchers
Am Graduiertenkolleg KEMAI sind eine Reihe von Wissenschaftlern der Uni Ulm beteiligt.

Bildquelle: Uni Ulm; Foto: Elvira Eberhardt

News • Millionenförderung für Graduiertenkolleg

Wie kann erklärbare KI in der Medizin funktionieren?

Künstliche Intelligenz kommt in der Medizin immer häufiger zum Einsatz. Doch wie kann man sichergehen, dass Diagnosen wirklich genau sind und von Ärzten auch nachvollzogen werden können? Und wer ist verantwortlich, wenn falsch behandelt wird?

Diesen Fragen widmet sich das neue, interdisziplinäre Graduiertenkolleg „Knowledge Infusion and Extraction for Explainable Medical AI“ (KEMAI) der Universität Ulm, an dem ab 2025 insgesamt 27 Promovierende an der Schnittstelle von Informatik, Medizin und Ethik forschen. Die Deutsche Forschungsgesellschaft (DFG) fördert KEMAI über zunächst fünf Jahre mit rund sechs Millionen Euro. 

Computergestützte Verfahren sind bereits seit Jahrzehnten Standard in der Medizin und unterstützen Ärzte bei der Diagnose. Dank Künstlicher Intelligenz und maschinellen Lernens werden insbesondere diagnostische Bildgebungsverfahren immer wichtiger und präziser, aber auch immer komplexer. Im neuen Graduiertenkolleg wird ab dem kommenden Jahr daran geforscht, wie man die Vorteile von wissens- und lernbasierten KI-Systemen für bildbasierte medizinische Diagnosen kombinieren kann. Dabei geht es sowohl um Genauigkeit als auch darum, dass Ärzte die durch KI-Systeme getroffenen Entscheidungen auch nachvollziehen und verstehen können. „Wir hoffen, dass eine bessere Nachvollziehbarkeit den Einsatz und die Akzeptanz von KI in der Medizin deutlich stärkt“, erläutert Professor Timo Ropinski vom Institut für Medieninformatik und Sprecher von KEMAI.

Wir wollen keine Diagnosemaschine, sondern eine Entscheidungsunterstützung. Die Diagnose soll auch weiterhin durch den Arzt gestellt werden

Birte Glimm

In der interdisziplinären Forschungsgruppe werden Wissenschaftler aus Informatik, Medizin, Ethik und Philosophie zusammenarbeiten. „Das ist die große Stärke von KEMAI“, findet Professor Ropinski. Die Forschenden wollen sich Covid-19, Lungenkarzinomen sowie dem Fuchsbandwurm widmen, und zwar mithilfe von Computertomographie- und Positronen-Emissions-Bildgebung sowie weiteren klinischen Bildgebungsverfahren. Doch neben diesen Anwendungsbeispielen geht es auch um ethische Fragestellungen in medizinischen Entscheidungsprozessen: Wann vertraut die Medizinerin, der Mediziner dem KI-System? Wie kann ein solches System auf eine unsichere Entscheidung hinweisen? Wer haftet bei falscher Behandlung? „Es geht um Kommunikation zwischen System und Arzt“, erläutert Co-Sprecherin Professorin Birte Glimm vom Institut für Künstliche Intelligenz. „Wir wollen keine Diagnosemaschine, sondern eine Entscheidungsunterstützung. Die Diagnose soll auch weiterhin durch den Arzt gestellt werden.“ KI-Systeme sollen Medizinern aber bestmöglich erklären können, wie eine Vorhersage zustande gekommen ist. Diese Erklärbarkeit ist auch für die Zertifizierung neuer, KI-gestützter medizinischer Produkte unabdingbar. Damit für diese großen Datenmengen und das maschinelle Lernen auch genügend Rechenpower vorhanden ist, soll an der Uni Ulm zudem im Kontext von KEMAI ein neuer Machine Learning-Cluster aufgebaut werden. 

Das ambitionierte Graduiertenkolleg will die Promovierenden innerhalb von vier Jahren zum Doktortitel führen und ihnen damit auch einen Startvorteil auf dem Arbeitsmarkt verschaffen. Ein strukturiertes Qualifikationsprogramm und innovative Forschung auf höchstem Niveau gehen dabei Hand in Hand. KEMAI wird in die International Graduate School in Molecular Medicine Ulm (IGradU) integriert, die 2007 im Rahmen der Exzellenzinitiative gegründet wurde, und profitiert so von bereits erfolgreich etablierten Strukturen. 


Quelle: Universität Ulm

31.05.2024

Mehr zu den Themen:

Verwandte Artikel

Photo

News • KI-basierte Software

μSAM: Nutzerfreundlicher „Alles-Segmentierer“ für Zellen entwickelt

Ein internationales Forschungsteam hat eine KI-basierte Software neu trainiert, um Bilder von Geweben, Zellen und ähnlichen Strukturen präzise und benutzerfreundlich zu segmentieren.

Photo

News • Forschung zu LLM

FHIR-Starter: KI bringt Struktur in medizinische Daten

Software-Experten entwickeln einen Dienst, der medizinische Daten mithilfe großer Sprachmodelle (LLM) automatisiert strukturiert. Das soll die Versorgung verbessern und Personal entlasten.

Photo

News • Erforschung von Langzeitfolgen mit KI

„EPIC-AI“ geht Post-Covid auf den Grund

Den Langzeitfolgen von Corona mit Künstlicher Intelligenz auf der Spur: Das Forschungsprojekt „EPIC-AI“ will die komplexen Mechanismen hinter Post-Covid mit Hilfe von KI untersuchen.

Verwandte Produkte

Newsletter abonnieren