Bildquelle: TU Darmstadt
News • Ausgezeichnete Forschungsarbeit
KI hilft bei der Bewertung von Hirntumoren
Ein Einsatzgebiet von Künstlicher Intelligenz (KI) ist die Medizin, vor allem die Diagnostik. So können beispielsweise Scans mit Hilfe von Algorithmen maschinell ausgewertet werden.
Ein internationales und interdisziplinäres Team unter Leitung von Forschenden der TU Darmstadt hat kürzlich untersucht, ob sich Aufnahmen von Hirntumoren durch KI besser beurteilen lassen. Für diese Veröffentlichung hat das Team bei der bei der International Conference on Information Systems (ICIS), der weltweit größten Wirtschaftsinformatik-Konferenz, den Best Paper Award gewonnen – und sich damit gegen weit mehr als 1.300 andere Publikationen durchgesetzt.
Die Studie liefert empirische Daten zum Einfluss von maschinell lernenden Systemen (ML-Systemen) auf menschliches Lernen. Zudem zeigt sie, wie wichtig es für Endnutzer ist, ob die Resultate maschineller Lernverfahren nachvollziehbar und verständlich sind. Diese Erkenntnisse sind nicht nur für medizinische Diagnosen in der Radiologie relevant, sondern für alle, die durch die tägliche Nutzung von KI-Tools, wie beispielsweise ChatGPT, selbst zu Reviewern, also Bewertenden von ML-Output werden.
Bildquelle: TU Darmstadt
Das Forschungsprojekt unter Leitung der TU-Forschenden Sara Ellenrieder und Professor Peter Buxmann vom Fachgebiet Wirtschaftsinformatik des Fachbereichs Rechts- und Wirtschaftswissenschaften der TU Darmstadt untersuchte die Nutzung von ML-basierten Entscheidungsunterstützungssystemen in der Radiologie, speziell bei der manuellen Segmentierung von Hirntumoren in MRT-Bildern. Im Fokus stand die Frage, wie Radiologen von diesen Systemen lernen können, um ihre Leistungen und Entscheidungssicherheit zu verbessern. Die Autoren verglichen dabei unterschiedlich leistungsfähige ML-Systeme und analysierten, wie die Erklärung des ML-Outputs die Nachvollziehbarkeit der Ergebnisse für die Radiologen verbesserte. Das Forschungsziel ist es, herauszufinden, wie Radiologen langfristig von diesen Systemen profitieren und diese sicher einsetzen können.
Dazu führte das Projektteam ein Experiment mit Radiologen verschiedener Kliniken durch. Die Mediziner wurden gebeten, Tumore in MRT-Bildern zu segmentieren, bevor und nachdem sie ML-basierte Entscheidungsunterstützung erhalten hatten. Dabei wurden verschiedenen Gruppen unterschiedlich leistungsfähige oder transparente ML-Systeme an die Seite gestellt. Neben der Erfassung quantitativer Leistungsdaten während des Experiments sammelten die Forschenden auch qualitative Daten mittels „Think-Aloud“-Protokollen und anschließenden Interviews.
Die Zukunft der Mensch-KI-Kollaboration liegt in der Entwicklung von erklärbaren und transparenten KI-Systemen, die es insbesondere dem Endnutzer ermöglichen, von den Systemen zu lernen und langfristig bessere Entscheidungen zu treffen
Peter Buxmann
Im Rahmen des Experiments wurden 690 manuelle Segmentierungen von Hirntumoren durch die Radiologen vorgenommen. Die Ergebnisse zeigen, dass Radiologen von den Informationen lernen können, die leistungsstarke ML-Systeme bereitstellen. Durch die Interaktion verbesserten sie ihre Leistung. Allerdings zeigt die Studie auch, dass fehlende Erklärbarkeit von ML-Output bei leistungsschwachen Systemen durchaus zu einem Leistungseinbruch bei den Ärzten führen kann. Besonders interessant ist, dass die Bereitstellung von Erklärungen des ML-Outputs nicht nur die Lernerfolge der Radiologen verbesserte, sondern auch das Lernen fehlerhafter Informationen verhinderte. Tatsächlich konnten einige Mediziner sogar aus Fehlern lernen, die leistungsschwache, aber ihren Output gut erklärende Systeme machten.
„Die Zukunft der Mensch-KI-Kollaboration liegt in der Entwicklung von erklärbaren und transparenten KI-Systemen, die es insbesondere dem Endnutzer ermöglichen, von den Systemen zu lernen und langfristig bessere Entscheidungen zu treffen“, fasst Professor Peter Buxmann die Ergebnisse zusammen.
Quelle: TU Darmstadt
22.12.2023
