Patienten schneller priorisieren mit Hilfe von LLM

Das Verbundprojekt mit Namen Illumination führt technische, rechtliche, mensch-zentrierte und medizinische Perspektiven zusammen, um eine Anwendung für den klinischen Bereich zu entwickeln, die medizinisches Personal dabei unterstützen soll, Patienten in der Notaufnahme schneller zu priorisieren. Dieses Vorhaben fördert das Bundesministerium für Bildung und Forschung über eine Laufzeit von drei Jahren mit insgesamt rund 1,7 Mio. Euro. Unter der Leitung des CISPA Helmholtz-Zentrums für Informationssicherheit kamen die fünf Verbundpartner an der Charité in Berlin für den Projektstart zusammen.

Medizinische Versorgung erfordert umfangreiche Prozesse zur Sprach- und Textverarbeitung: Patientendaten erfassen, Symptome aufnehmen, Krankheitsgeschichten erfragen und Beschwerden einordnen – all das und mehr muss von medizinischem Personal oftmals unter Zeitdruck dokumentiert und ausgewertet werden. Große Sprachmodelle, oder Large Language Models (LLM), sind theoretisch schon jetzt in der Lage, diese Aufgaben weitaus effizienter als Menschen ausführen. In der Praxis birgt das jedoch beträchtliche Risiken für den Datenschutz und die Privatsphäre. Um sensible Patientendaten zuverlässig zu schützen und gleichzeitig die Vorteile von LLMs für die medizinische Versorgung zu nutzen, werden im Rahmen von „Illumination“ gesetzeskonforme Privatsphäremethoden für LLM-basierte Anwendungen entwickelt. 

Im Zentrum des Projekts steht die Entwicklung einer privatsphärefreundlichen LLM-basierten Anwendung, die das medizinische Personal bei der Vortriage von Patienten in der Notaufnahme unterstützt. Über interaktive Chats sollen Patienten ihre Beschwerden mit dem LLM teilen können, welches die Symptome dann auswertet und eine Priorisierung der Patienten vorschlägt. Aufbauend auf dieser Vorarbeit ermittelt das medizinische Personal zusätzliche Vitalparameter und trifft eine Entscheidung über die weitere Behandlung. Franziska Boenisch, Projektkoordinatorin und leitende Wissenschaftlerin am CISPA, erläutert die Zielsetzung des Projekts: „Mithilfe von LLMs wollen wir Ärzte im zeitkritischen Umfeld der Notaufnahmen entlasten. Aufgrund der Privatsphärerisiken war der Einsatz von LLMs in der Vortriage bisher noch nicht möglich.“ 

Große Sprachmodelle können in spezifischen Kontexten nur dann qualitativ hochwertige Vorhersagen liefern, wenn sie für das jeweilige Einsatzgebiet gezielt weitertrainiert worden sind. Für den Einsatz in der Notaufnahme muss das Projektteam seine Anwendung also mit realen Patientendaten aus vorangegangenen Triagevorgängen füttern. Damit diese sensiblen Daten weder an die Betreiber der LLMs noch an die späteren Anwender leaken können, entwickelt das Projektteam Privatsphäremethoden auf Basis der Differential Privacy. Franziska Boenisch erklärt: „Differential Privacy ist ein mathematischer Framework, der garantieren kann, dass die Daten von Individuen auch privat bleiben. Das heißt, dass das LLM zwar aus der Population lernen kann, also aus der Summe aller eingegebenen Trainingsdaten, aber nicht aus den individuellen Daten eines einzelnen Patienten. Umgekehrt wird auch garantiert, dass kein Individuum einen zu großen Einfluss auf das System und seine Vorhersagen hat.“ 

Dieses Vorhaben fördert das Bundesministerium für Bildung und Forschung für knapp drei Jahre mit rd. 1,7 Millionen Euro. Um eine ganzheitliche Sicht auf den Einsatz großer Sprachmodelle im medizinischen Bereich abzubilden, bringt Illumination die Charité – Universitätsmedizin Berlin, die Universität Heidelberg, die Freie Universität Berlin (FU), und das Berliner Startup algonaut unter der Leitung des CISPA zusammen. Die interdisziplinäre Zusammensetzung des Projektteams vereint Expertisen und Perspektiven aus Medizin, Rechtswissenschaft, Human-Centered Computing, LLM-basierter Prototypentwicklung und maschinellem Lernen. 

Quelle: CISPA Helmholtz-Zentrum für Informationswissenschaft

21.10.2024

• Forschung (2753)
• KI (434)
• Patientenmanagement (277)