Macht künstliche Intelligenz Ärzte überflüssig?

veröffentlicht am 01.02.2023 von Redaktion krankenkasseninfo.de

Prof. Dr. Stephan Schmitz, FA für Radiologie & Mitglied der Radiologie Initiative Bayern

Künstliche Intelligenz wird in den kommenden Jahren in der Medizin eine immer größere Rolle spielen. heute schon führend dabei ist die Radiologie, wo KI die Ärzte bei der Auswertung von CT und anderen bildgebenden Verfahren unterstützt. Ob KI die ärztliche Expertise ganz ersetzen kann und wer eigentlich für Fehler der KI haftet, fragten wir den Radiologen Professor Dr. Stephan Schmitz.

KI ist derzeit in aller Munde und es scheint kaum etwas zu geben, was man ihr nicht zutrauen könnte. Ist nun auch in der ärztlichen Diagnostik der Wettbewerb Mensch versus Maschine angebrochen?

Der Gedanke ist nicht neu: Schon 2016 forderte der Informatiker Geoffrey Hinton, dass die Ausbildung von Radiologen sofort gestoppt werden sollte, da die künstliche Intelligenz in fünf Jahren besser als menschliche Radiologen sein würde. Inzwischen sind mehr als fünf Jahre vergangen und bisher wurde noch niemand von Maschinen ersetzt.

"Zur Zeit sehen wir die künstliche Intelligenz eher als hilfreiche Ergänzung statt als Gefahr für unsere Jobs."

Aber selbstverständlich ist es ein Gedanke, der meine Kollegen und mich beschäftigt. Viele dieser sich rasant entwickelnden Technologien haben inzwischen Zulassungen erhalten – beispielsweise von der FDA – und kommen bereits am Patienten zum Einsatz. Zur Zeit sehen wir die künstliche Intelligenz allerdings eher noch als hilfreiche Ergänzung statt als Gefahr für unsere Jobs. Aber die Technologie hat ein enormes Potenzial. In den nächsten Jahren wird sicherlich noch viel passieren.

Britische Wissenschaftler testeten vor Kurzem die radiologischen Fähigkeiten einer KI. Zu welchen Ergebnissen kamen die Forscher und wie sind diese einzuordnen?

Die Studie, die im Dezember 2022 im British Medical Journal1 erschien, prüfte, ob künstliche Intelligenz in der Lage ist, die britische Facharztprüfung zu bestehen. Die Wissenschaftler stellten dabei fest, dass die künstliche Intelligenz immerhin zu 80 Prozent richtige Diagnosen stellte und damit dem durchschnittlichen menschlichen Radiologen, der circa 85 Prozent erzielte, noch unterlegen war. Mit 90 Prozent richtiger Antworten bestand die KI immerhin 2 der 10 durchgeführten Probeexamen. Der durchschnittliche Radiologe schaffte vier von zehn Probeexamen. Einschränkend muss man erwähnen, dass nur klassische Röntgenbilder gezeigt wurden, die nur noch eine untergeordnete Rolle in der täglichen Routine von Radiologen spielen. Aber die Untersuchung zeigt, dass die KI auch in der Radiologie schon jetzt sehr gut ist.

Eine Röntgenaufnahme zu erstellen ist ein technischer Vorgang. Aus den Bildern eine Diagnose abzuleiten ist bislang den Ärzten vorbehalten. Worum genau geht es beim möglichen Einsatz von KI in diesem medizinischen Bereich und wo liegen Ihrer Ansicht nach die Grenzen?

KIs bieten sich vor allem für die Bildanalyse an. Da für das menschliche Auge minimale Veränderungen oftmals kaum wahrnehmbar sind, eignen sie sich hervorragend zur Quantifizierung von Krankheiten wie Multipler Sklerose. Beispielsweise messen KIs mithilfe von MRT-Bildern bereits geringste Abweichungen des Hirnvolumens und erkennen und vermessen die entzündlichen Herde der Erkrankung.

Eine KI beantwortet nur exakt die Frage, die ihr gestellt wurde.

Auch Knochenbrüche, Lungenmetastasen und Meniskusrisse können sie sehr gut ermitteln. Bei einem anderen Ansatz wird die KI eingesetzt um zu prüfen, ob ein Normalbefund vorliegt, also wenn ein Patient keinerlei Auffälligkeiten hat. Dieser Ansatz wird beim Brustkrebs-Screening verfolgt. Sobald allerdings Auffälligkeiten vorliegen, muss – noch – ein Arzt die Diagnose übernehmen. Eine KI beantwortet nur exakt die Frage, die ihr gestellt wurde. Hat ein Patient mehrere gesundheitliche Auffälligkeiten, kommt es daher eher zu fehlerhaften oder ungenügenden Auswertungen.

Ärzte sind Menschen und machen Fehler, für die sie im Falle von gravierenden Folgen persönlich zur Verantwortung gezogen werden können. Wie verhält es sich mit der Fehlerquote einer KI und wer haftet eigentlich für Fehldiagnosen durch künstliche Intelligenz?

Eine Gruppe des Deutschen Instituts für Normung entwickelt auf Initiative der EU momentan ein Regelwerk für die Verwendung von KIs in der Medizin. Es soll unter anderem definieren, welche Aufgaben eine KI übernehmen darf und welche Zulassungen dazu erforderlich sein müssen. Macht eine KI Fehler, haften derzeit die jeweiligen Radiologen, denn sie müssen aktuell jede Diagnose prüfen und absegnen. Ich vermute, dass sich das auch nach Fertigstellung des Regelwerks nicht ändern wird und der Mensch weiterhin die letzte Instanz bei jeder Untersuchung bleibt. Spannend wird es jedoch in dem theoretischen Fall, wenn die KI Diagnosen stellt, die das menschliche Auge nicht mehr nachvollziehen kann.“

"Macht eine KI Fehler, haften derzeit die jeweiligen Radiologen, denn sie müssen jede Diagnose prüfen und absegnen"

Auch wenn es derzeit noch deutliche Grenzen für den Einsatz von KI gibt, schreitet die Entwicklung rasant voran. Könnte es eines Tages so weit sein, dass ein gültiger radiologischer Befund ausschließlich durch eine künstliche Intelligenz erstellt wird?

Für diese Vision lässt sich nur sehr schwer ein konkreter Zeitpunkt nennen. Es ist aber durchaus möglich, dass künstliche Intelligenzen schon in den nächsten Jahren sehr umfangreich in der Bildanalyse eingesetzt werden. Die Technik wird schließlich zunehmend weiterentwickelt. Manche Ärzte mögen das momentan als Konkurrenzsituation empfinden und der Einsatz von KIs bedeutet auch, dass die bisherigen Arbeitsweisen in der Medizin zukünftig geändert werden müssten.

"Ich vermute, dass Mensch weiterhin die letzte Instanz bei jeder Untersuchung bleibt."

Aber ich glaube, selbst wenn die lernenden Systeme uns mühsame und umfangreiche analytische Aufgaben abnehmen werden, wird es dennoch immer einen Menschen für die finale Interpretation brauchen. Eine KI lässt sich eher als Assistenz und nicht als Ersatz des Radiologen betrachten. Diese Form der Unterstützung ist auch dringend nötig. Beispielsweise liefern die Geräte für Bildgebungsverfahren heutzutage immer mehr und detailliertere Aufnahmen. Außerdem steigt die Patientenzahl aufgrund der alternden Bevölkerung. Diese exponentiell wachsende Menge an Arbeit wird sich irgendwann nicht mehr nur von Radiologen allein bewältigen lassen.