Therapieplan für Krebs als Prompt für ChatGPT? Keine Gute Idee, wie eine neue...
Therapieplan für Krebs als Prompt für ChatGPT? Keine Gute Idee, wie eine neue Studie von US-Forschern nahelegt.

Bildquelle: Adobe Stock/Supatman

News • KI produziert Fehler und Halbwahrheiten

Krebs-Therapieplan vom Chatbot? Noch lange nicht praxisreif

Die intelligente Recherche- und Texterstellungs-Software ChatGPT von OpenAI wartet mit einer Fülle von Fehlern auf, wenn sie darauf angesetzt wird, Krebsbehandlungspläne zu entwickeln.

Das haben Forscher am Brigham and Women's Hospital der Harvard Medical School in Versuchen festgestellt. Der Chatbot vermischte munter richtige und falsche Informationen, die für Laien und auch für Ärzte, die nicht auf die Krebsbehandlung spezialisiert sind, schlecht oder gar nicht auseinanderzuhalten sind. Die Wissenschaftler veröffentlichten ihre Erkenntnisse im Fachjournal JAMA Oncology

Von 104 Plänen, die der Chatbot erstellte, enthielten 98% neben falschen Ratschlägen mindestens eine Behandlungsempfehlung, die den Richtlinien des National Comprehensive Cancer Network (NCCN) entspricht, heißt es in dem Bericht. 34% enthielten jedoch eine oder mehrere Empfehlungen, die nicht mit den Richtlinien übereinstimmen. Eine vollständige Übereinstimmung kam den Forschern zufolge nur in 62% der Fälle vor, was ihrer Meinung nach auf die Komplexität der NCCN-Richtlinien sowie den begrenzten Umfang der ChatGPT-Funktionen zurückzuführen ist.

ChatGPT-Antworten können sehr menschlich klingen und sehr überzeugend sein, auch wenn sie falsch oder gar gefährlich sind

Danielle Bitterman

In 12,5% der Fälle gab ChatGPT Empfehlungen, die an den NCCN-Richtlinien völlig vorbeigehen. Dazu gehörten auch Empfehlungen zu angeblich wirksamen Therapien für nicht heilbare Krebsarten. Die Forscher sagen, dass es sich dabei um "Fehlinformationen" handelt, die falsche Erwartungen an die Behandlung eines Patienten weckten und dessen Beziehung zu Ärzten beeinträchtigen könnten. "ChatGPT-Antworten können sehr menschlich klingen und sehr überzeugend sein, auch wenn sie falsch oder gar gefährlich sind", so Onkologin Danielle Bitterman. 

Dennoch gibt es Bemühungen, KI in das Gesundheitswesen zu integrieren, vor allem zur Rationalisierung administrativer Aufgaben. Anfang dieses Monats ergab eine große Studie, dass der Einsatz von KI zur Früherkennung von Brustkrebs bevorsteht. Dadurch könne die Arbeitsbelastung von Radiologen fast halbiert werden. Allerdings hat der Chatbot hier nicht das letzte Wort. Er gibt lediglich Hinweise, die von erfahrenen Ärzten überprüft werden sollen. 

Dieser Artikel könnte Sie auch interessieren

OpenAI kennt die Schwachstelle seines ChatGPT. Das Unternehmen betont nachdrücklich, dass der Bot nicht für die Bereitstellung medizinischer Informationen konzipiert ist und nicht für Diagnose und Therapie bei schweren Erkrankungen verwendet werden sollte. 


Quelle: Brigham and Women’s Hospital/pressetext 

28.08.2023

Verwandte Artikel

Photo

News • Präzisionsonkologie

„Weiße Flecken“ in der Krebsversorgung im Fokus

Haben alle Patienten mit fortgeschrittenen oder seltenen Krebserkrankungen gleichermaßen Zugang zu präzisionsonkologischer Versorgung? Eine neue Untersuchung zeigt Gefälle auf.

Photo

News • Studie zeigt Grenzen von LLM auf

KI in der Krebstherapie: Menschen treffen die besseren Entscheidungen

Berliner Forscher haben untersucht, ob generative Künstliche Intelligenz (KI), wie sie etwa bei ChatGPT zum Einsatz kommt, bei der personalisierten Behandlung von Krebs helfen kann.

Photo

News • Medikamentenforschung

Deep learning soll Krebstherapie vereinfachen

Forschende haben mit MFmap (Model Fidelity Map) ein Software-Tool entwickelt, das bei der Suche nach der geeigneten Zelllinie helfen soll.

Verwandte Produkte

Newsletter abonnieren