Ersetzt KI die Ärzte?

Die Mutter war verzweifelt. Nach Konsultationen bei 17 Ärzten wusste Courtney immer noch nicht, an was ihr vierjähriger Sohn litt. Dieser hatte starke Schmerzen und hörte auf zu wachsen. Dann fragte die Amerikanerin ChatGPT, was die Symptome bedeuten könnten. Die Künstliche Intelligenz (KI) lieferte die richtige Antwort, der Vierjährige litt an einer Anomalie im Rückenmark, wie «Business Insider» berichtet.

Courtney ist nicht alleine. Seit dem Aufschwung von KI fragen immer mehr Leute ChatGPT nach Rat, wenn sie krank sind. Sie geben die Symptome ein und erwarten von der KI eine Diagnose. Diese ist zwar ein Sprachmodell, das Text erzeugt, kann aber auch Einschätzung zu Krankheitsbildern liefern. Claudia Witt, Ärztin, Professorin und Direktorin der Digital Society Initiative an der Universität Zürich sagt: «Studien belegen, dass ChatGPT durchaus richtig liegen kann.» Doch sie warnt, ChatGPT sei kein Medizinprodukt. Es gebe Diagnose-Apps, bei denen die Qualität gesichert sei. Bei KI-Programmen komme es drauf an, wie man die Symptome eingebe, und ohne die Einschätzung einer medizinischen Fachperson bestehe immer die Unsicherheit, ob das Tool richtig liegt. Man könne ChatGPT gut als Ideengeber gebrauchen, doch der Gang zum Arzt ersetze es nicht. «Bei einfachen Beschwerden wie zum Beispiel einer laufenden Nase oder leichten Kopfschmerzen ist KI durchaus hilfreich, doch bei schwerwiegenden Problemen sollte unbedingt eine Fachperson gefragt werden.» Witt meint, auch beim Datenschutz entstehe bei KI-Diagnosen ein Problem, denn diese lernt von einer grossen Menge an personalisierten Gesundheitsdaten. Man wisse nicht immer, was mit den Daten passiere. Dies müsse von den Anbietern transparent gemacht werden.

Laut Witt sei es wichtig, der KI nicht blind zu vertrauen. «Die Antworten müssen kritisch hinterfragt werden.» ChatGPT selbst will sich nicht haftbar machen, wenn es um Gesundheitsfragen geht. So antwortet die App: «Ich bin kein Arzt und habe keine medizinische Ausbildung. Ich kann Informationen über medizinische Themen bereitstellen, allgemeine Ratschläge geben und Fragen beantworten, aber ich kann keine medizinischen Diagnosen stellen oder professionelle medizinische Beratung bieten. Bei gesundheitlichen Problemen oder Fragen solltest Du immer einen Arzt oder einen qualifizierten Gesundheitsdienstleister konsultieren.»

Mehr Vertrauen in Ärzte

Eine Umfrage aus Deutschland, die vom Digitalindustrieverband Bitkom durchgeführt wurde, zeigt, dass die Nutzung von KI in der Medizin selbstverständlich geworden ist. Wie das Gesundheitsportal «Medinside» berichtet, kann sich rund die Hälfte der 1140 Befragten vorstellen, eine medizinische Zweitmeinung von ChatGPT einzuholen. 6 Prozent haben dies schon einmal gemacht. 51 Prozent können sich vorstellen, künftig eine KI nach Rat zu bitten. 47 Prozent glauben, dass KI in bestimmten Fällen bessere Diagnosen stellen als ein Mensch.

Doch eine zweite Studie zeigt, dass ein deutlicher Widerspruch besteht zwischen diesen allgemeinen Aussagen und der Bereitschaft, diese Aussagen auch im eigenen Alltagsleben gelten zu lassen. Zwei Psychologen der Universität Würzburg haben den 2280 Teilnehmern identische medizinische Ratschläge gegeben, einmal angeblich von einem Arzt und einmal von einer KI. Es resultierte, dass die meisten dem ärztlichen Rat vertrauten und dem Chatbot-Tipp misstrauten. Die Teilnehmer waren weniger bereit, dem Rat der KI zu folgen, als den Empfehlungen, die auf menschlich-ärztlicher Expertise basierten.

KI macht Fehler

Auch Stadtrat Andreas Hauri meinte in seiner kürzlich erschienenen Kolumne im «Tagblatt» vom 23. April, dass KI zwar Daten analysieren und Muster erkennen könne, doch sie übernehme keine Verantwortung, sie sei kein Gegenüber. Und doch könne man mit der Unterstützung von KI in der Medizin viel erreichen. So schildert er den Fall eines jungen Mannes, der mit Verdacht auf Schlaganfall ins Triemlispital eingeliefert wurde und dank der Technologie innert Minuten stabilisiert wurde. «Unsere Spezialisten beurteilen diese Ergebnisse immer persönlich, KI ergänzt den ärztlichen Blick», sagt Thi Dan Linh Nguyen-Kim, Chefärztin des Instituts für Radiologie und Nuklearmedizin am Stadtspital Zürich. Zurzeit werde KI vor allem in der Schlaganfallversorgung und in der onkologischen Bildgebung eingesetzt. Dank der schnellen Auswertung von CT-Bildern könne diese innert Sekunden feststellen, ob ein Gefäss im Gehirn verschlossen ist, so dass sofort eine Therapie eingeleitet werden kann. Bei Tumorpatienten erkennt KI Veränderungen automatisch.

Doch Nguyen warnt: KI ersetzt die Ärzte nicht. «Wir setzen KI immer unter fachärztlicher Aufsicht ein, sie dient der Unterstützung – nicht der Entscheidung.» Die Technologie ersetze nicht Ausbildung, Erfahrung, Urteilsvermögen und Empathie einer medizinischen Fachperson. Es könnten in der KI-Auswertung auch Fehler auftreten, etwa wenn die Datenlage unvollständig sei oder der klinische Kontext fehle. Das könne auch bei einer Selbstdiagnose passieren. Die Neugier und das Bedürfnis, Symptome schnell selbst einzuordnen seien verständlich, doch Fehlinterpretationen könnten zu falscher Beruhigung oder unnötiger Beunruhigung führen, gerade weil KI keinen Zugriff auf Laborwerte, Bildgebung, medizinische Vorgeschichte oder körperliche Untersuchung hat. «Eine gute Diagnose braucht mehr als Daten, sie braucht Erfahrung, Zuhören, Verstehen und Verantwortung», sagt Nguyen.