KI-„Zweitmeinung“ untergräbt Vertrauen in den Arzt

Das Team setzte einen KI-Chatbot ein, der die Rolle eines menschlichen Arztes spielte, und untersuchte, wie Patienten Mediziner wahrnehmen, wenn sie glauben, dass der „menschliche“ Arzt während einer psychologischen Beratung ein KI-System zur Einholung einer Zweitmeinung hinzuzieht. Dabei zeigte sich: Wenn das KI-System der Empfehlung des Arztes zustimmte, empfanden die Patienten dessen Beurteilung als glaubwürdiger. Widersprach die KI jedoch der Einschätzung des menschlichen Arztes, empfanden die Patienten die medizinische Unsicherheit als größer und den Arzt als nachlässiger. 

Die Forscher veröffentlichten ihre Erkenntnisse im International Journal of Human-Computer Studies. 

„Wenn ein Arzt einem Patienten früher sagte, er könne gerne eine Zweitmeinung einholen, meinte er damit: ‚Gehen Sie zu einem anderen Arzt‘“, erläuterte S. Shyam Sundar, Professor an der Pennsylvania State University (Evan-Pugh-Universitätsprofessor und James-P.-Jimirro-Professor für Medienwirkung). „Heute können Ärzte jedoch noch während derselben Sitzung einen KI-Assistenten nutzen, um eine Zweitmeinung abzugeben. Wir haben uns gefragt, wie dies die Patientenwahrnehmung von Ärzten beeinflussen könnte. Dabei haben wir festgestellt, dass die Glaubwürdigkeit des Arztes und seine medizinische Zuverlässigkeit als besser oder schlechter wahrgenommen werden, je nachdem, ob der KI-Assistent der Diagnose zustimmt oder nicht.“ 

Den Forschern zufolge war es für die Untersuchung nicht praktikabel, echte Ärzte zu instruieren, Dutzende oder Hunderte von Patienten in einem kontrollierten Versuchsumfeld eine einheitliche Behandlung in Bezug auf medizinische Praxis, Kommunikationsstil und Interaktionsmuster zu bieten. Daher entwickelten sie einen KI-gestützten Chatbot für personalisierte Gespräche mit Patienten und gaben ihm die Anweisung, in die Rolle eines Arztes namens „Dr. Alex“ zu schlüpfen. 

Anschließend rekrutierten die Forscher 135 Testpersonen und boten ihnen eine Online-Therapiesitzung mit Dr. Alex an, um Stressfaktoren in ihrem Alltag zu ermitteln und zu besprechen. Dr. Alex führte eine kurze psychotherapeutische Sitzung nach dem Ansatz der kognitiven Verhaltenstherapie (KVT) durch und kam zu dem Schluss, dass die KVT ein geeigneter Ansatz für den Patienten sei. Dr. Alex bot den Teilnehmern zudem die Möglichkeit, eine Zweitmeinung von einem KI-Assistenten namens CareBot einzuholen. Dieser Assistent stimmte der Empfehlung von Dr. Alex dann entweder zu oder lehnte sie ab. 

Nach der Sitzung beantworteten die Teilnehmer Fragen zur Empfehlung des Arztes, ihren Eindrücken und ihrem Vertrauen gegenüber dem Arzt. Das Forschungsteam stellte fest, dass Übereinstimmungen zwischen Dr. Alex und dem KI-Chatbot das Vertrauen der Patienten in die Empfehlung des Arztes stärkten. Bei unterschiedlichen Meinungen trat der gegenteilige Effekt ein: Die Patienten empfanden die medizinische Einschätzung als unsicherer und den Arzt als nachlässig. Eine weitere Rolle bei den beobachteten Ergebnissen spielte der Anthropomorphismus – also die Frage, wie menschlich der KI-gestützte Arzt wirkte: Die positiven Effekte bei Übereinstimmung der KI und die negativen Effekte bei Meinungsverschiedenheiten traten nur dann auf, wenn der Arzt als besonders menschlich wahrgenommen wurde. 

Die Ergebnisse haben laut den Forschern wichtige Auswirkungen auf Leistungen wie Telemedizin sowie app-basierte und andere medizinische Online-Beratungen. „Mehr als die Hälfte der Teilnehmer unserer Studie empfand den KI-simulierten Arzt als menschenähnlich, was die Fähigkeiten der KI unterstreicht, das professionelle Verhalten menschlicher Ärzte nachzuahmen – zumindest was die Gesprächsführung betrifft“, sagte Erstautorin Cheng „Chris“ Chen, Assistenzprofessorin für neue Medien und Technologien an der Oregon State University, die ihren Doktortitel an der Penn State erworben hat. „Dies kann Ärzte vor Herausforderungen stellen, die Online-Dienste anbieten, bei denen ihre tatsächliche Identität nicht sichtbar ist oder nicht eindeutig kommuniziert wird. Patienten könnten in solchen Fällen KI als Mensch oder einen Menschen als KI wahrnehmen.“ 

Besonders stark wirkte sich der Widerspruch der KI auf die wahrgenommene medizinische Kompetenz bei Personen aus, die der Ansicht sind, Maschinen wie KI arbeiteten genauer, objektiver und präziser als Menschen, stellten die Forscher fest. Diese Ergebnisse deuten darauf hin, dass KI einen enormen Einfluss darauf haben kann, Zweifel in den Köpfen der Patienten zu säen, sagte Sundar. 

Das Team schlug zudem Strategien vor, wie Widersprüche der KI vermittelt werden können, ohne das Vertrauen der Patienten in ihre Ärzte zu untergraben. „Ein Arzt könnte solche Meinungsverschiedenheiten mit der KI auf implizite Weise kommunizieren“, erklärte Chen. „Beispielsweise, indem er sagt, eines der von ihm verwendeten Tools habe einige Punkte hervorgehoben, die möglicherweise einer genaueren Untersuchung bedürfen, und anbietet, diese gemeinsam zu erörtern.“ 

Darüber hinaus könne die Erläuterung möglicher Gründe für Uneinigkeit mit der KI dazu beitragen, medizinische Unsicherheit und den Eindruck von Nachlässigkeit zu verringern, fügte Sundar hinzu. „Indem Ärzte bewusst darauf hinweisen, dass es Uneinigkeit gibt, und gleichzeitig deutlich machen, dass sie die Situation dennoch im Griff haben, können sie den Eindruck von Nachlässigkeit verringern“, sagte er. „Wenn der Arzt dann noch näher auf die Gründe für die medizinische Unsicherheit eingeht – beispielsweise, dass das KI-System Daten aus einer überwiegend weißen, westlichen Bevölkerungsgruppe verwendet, der Patient jedoch nicht aus dem westlichen Kulturkreis stammt, sodass die Ergebnisse möglicherweise nicht auf ihn zutreffen –, vermittelt dies die Eigeninitiative des Arztes.“ 

Quelle: Pennsylvania State University 

20.07.2026

• Forschung (3127)
• KI (595)
• Patientenmanagement (341)
• Psychologie (137)