© Ar_TH – stock.adobe.com
News • Schutz vor Cyberangriffen
Mit KI gegen Datenmanipulation in der Medizin
Künstliche Intelligenz (KI) soll unser Gesundheitssystem noch leistungsfähiger machen. Doch Cyberangriffe können nicht nur die Patientensicherheit gefährden, sondern auch Medizingeräte und die Arbeit von Rettungskräften beeinträchtigen.
Mit dem Projekt „SecureNeuroAI“ wollen Forschende der Universität Bonn, des Universitätsklinikums Bonn und des FIZ Karlsruhe (Leibniz-Institut für Informationsinfrastruktur) sichere, KI-gestützte Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle entwickeln. Die Ergebnisse sollen weit über die Epilepsieanfallserkennung hinaus Anwendung finden. Das Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) fördert das Vorhaben für drei Jahre mit fast 2,5 Millionen Euro.
Besonders im Bereich der KI-gestützten Erkennung medizinischer Notfälle stellt die Manipulationserkennung eine große Herausforderung dar – bedingt durch die Komplexität der relevanten Datenmuster und der begrenzten Datenverfügbarkeit
Elena Demidova
Im Projekt wird es unter anderem darum gehen, Verfahren zur Datenauthentifizierung zu entwickeln, die die KI-Verarbeitung der Daten nicht beeinträchtigen, aber dennoch einen Ursprungsnachweis dieser Informationen erlauben.
Das Vorhaben wird von Prof. Dr. Elena Demidova koordiniert, Leiterin der Arbeitsgruppe „Data Science and Intelligent Systems“ (DSIS) der Universität Bonn, die ein Mitglied in den Transdisziplinären Forschungsbereichen „Modelling“ und „Sustainable Futures“ ist. Elena Demidovas Arbeitsgruppe bringt umfangreiche KI-Expertise in das Projekt ein. An dem Vorhaben beteiligt sind Prof. Dr. Michael Meier, Leiter der Arbeitsgruppe „IT-Sicherheit“ am Institut für Informatik der Universität Bonn, Prof. Dr. Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn, Leiter der Arbeitsgruppe „Personalisierte digitale Gesundheit und Telemedizin“, und Prof. Franziska Boehm vom FIZ Karlsruhe.
Die Forschenden von „SecureNeuroAI“ streben die Entwicklung sicherer, KI-gestützter Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle an. Die Erkennung basiert auf einer umfassenden Analyse und Erfassung multimodaler Sensordaten. Hierfür werden beispielsweise tragbare elektronische Geräte („Wearables“), die Vitalparameter wie Herz- und Atemfrequenz erfassen, sowie klinische Daten von Patienten genutzt.
Aus Studien zur Cybersicherheit wissen wir, dass vernetzte Medizinprodukte selbst, insbesondere aber die begleitenden Infrastrukturen, Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten ermöglichen können
Michael Meier
Die gewonnenen Daten werden durch cybersichere KI-Modelle analysiert, welche Anfälle erkennen und zuverlässig von potenziellen Datenmanipulationen unterscheiden sollen. Parallel dazu definiert das Projektteam technische, organisatorische und rechtliche Maßnahmen, um die Einbindung dieser KI-Methoden in klinische und häusliche Anwendungsfälle zu unterstützen.
Die Arbeitsgruppe von Prof. Dr. Elena Demidova von der Universität Bonn übernimmt eine zentrale Rolle in der Entwicklung von KI-Methoden zur Authentifizierung von Daten sowie bei der Entwicklung von erklärbaren KI-Modellen zur Erkennung von Manipulationen und Anfallsereignissen. „KI-Modelle werden durch Daten angetrieben und sind stark von ihnen abhängig, weshalb die Entwicklung von Schutzmechanismen wie Datenauthentifizierung und Manipulationserkennung von entscheidender Bedeutung ist“, sagt Prof. Dr. Demidova. „Besonders im Bereich der KI-gestützten Erkennung medizinischer Notfälle stellt die Manipulationserkennung eine große Herausforderung dar – bedingt durch die Komplexität der relevanten Datenmuster und der begrenzten Datenverfügbarkeit.“
Das Universitätsklinikum Bonn (UKB) übernimmt eine zentrale Rolle bei der klinischen Validierung und Integration der entwickelten KI-Modelle. Als Anwendungspartner werden in der Klinik und Poliklinik für Epileptologie multimodale Daten zur Anfallserkennung systematisch erfasst und unter klinischen Bedingungen aufbereitet, um eine realitätsnahe Datengrundlage für die KI-Modelle zu schaffen. „Künstliche Intelligenz wird in der Auswertung klinischer Daten eine immer größere Rolle spielen“, sagt Prof. Dr. Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn. „Gerade im Gesundheitsbereich, wo wir mit besonders sensiblen Patientendaten arbeiten, ist ein sicheres Systemdenken unerlässlich – genau hier setzt das Projekt SecureNeuroAI an.“
Die Arbeitsgruppe von Prof. Dr. Michael Meier von der Universität Bonn bringt umfangreiche Erfahrungen in aktuellen IT-Sicherheits-Forschungsthemen ein. „Aus Studien zur Cybersicherheit wissen wir, dass vernetzte Medizinprodukte selbst, insbesondere aber die begleitenden Infrastrukturen, Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten ermöglichen können“, sagt Professor Meier, der auch Mitglied in den Transdisziplinären Forschungsbereichen „Modelling“, „Individuals & Societies“ und „Sustainable Futures“ an der Universität Bonn ist.
Die von Prof. Dr. Franziska Boehm geleitete Forschungsabteilung Immaterialgüterrechte (IGR) beim FIZ Karlsruhe analysiert Datenschutz- und IT-Vorgaben sowie Rechtsfragen der künstlichen Intelligenz. Daraus sollen Empfehlungen für gesellschaftliche Prozesse, die digitale Wissenschaft, einschließlich deren Infrastruktureinrichtungen, abgeleitet werden.
Die Projektergebnisse sollen einen wichtigen Beitrag zur Stärkung der Cybersicherheit von kritischen medizinischen Geräten leisten, die KI-Methoden zur Erkennung von lebensbedrohlichen Zuständen in Echtzeit verwenden. Diese neuen technischen Lösungen sollen es ermöglichen, sowohl KI-Modelle als auch deren zugrunde liegende Daten vor Manipulationen zu schützen. Die Projektergebnisse sollen weit über die Epilepsieanfallserkennung hinaus Anwendung finden. Damit soll das Vorhaben eine technologische Basis für die deutliche Steigerung der Integrität, Verfügbarkeit und Verlässlichkeit von KI-basierten Medizingeräten schaffen.
Quelle: Universität Bonn
02.08.2025