Wenn der Mensch im Kreislauf das Problem ist
Die medizinische Welt hat einen Reflex, der wie gesunder Menschenverstand klingt: Wenn KI bei einer Diagnose hilft, sollte ein menschlicher Arzt die endgültige Entscheidung treffen. Ein neuer Kommentar im Journal of the American Medical Association argumentiert, dass dieser Reflex bald gefährlich werden könnte.
Der Artikel, verfasst vom Bioethiker Ezekiel Emanuel und dem KI-Gesundheits-Startup-CEO Neal Khosla unter anderen, macht eine pointierte Vorhersage: Bis 2030 wird autonome KI jedes menschlich-KI-Team bei medizinischen Denkaufgaben übertreffen. Wenn Regulierungsbehörden jetzt eine verpflichtende menschliche Überprüfung festschreiben, argumentieren die Autoren, werden sie einen minderwertigen Behandlungsstandard festschreiben, gerade wenn die Technologie ihn überholt.
Die Belege, dass KI bereits vorne liegt
Die JAMA-Autoren stützen ihr Argument auf zwei Säulen. Die erste ist empirisch: Seit 2024 zeigt eine wachsende Zahl von Studien, dass KI Ärzte bei den fünf Kernaufgaben der medizinischen Diagnostik erreicht oder übertroffen hat -- Anamnese, Diagnose, Testauswahl, leitliniengetreue Behandlung und chronische Krankheitsführung.
Eine Studie ergab, dass ChatGPT o3 in 377 komplexen simulierten Fällen in 60 Prozent der Fälle die richtige Erstdiagnose nannte, verglichen mit 15,9 Prozent bei 20 Internisten. Microsofts KI fand unter Budgetbeschränkungen etwa viermal so oft die richtige Diagnose wie Ärzte, zu geringeren Kosten. Die Autoren verwerfen gegenläufige Studien als veraltet oder methodisch schwach, oft weil sie die besten verfügbaren Modelle ausschlossen.
Das zweite Argument ist eine Prognose. KI-Modelle verbessern sich schnell, während Ärzte, die diese Werkzeuge nutzen, durch nachlassende Übung eigene diagnostische Fähigkeiten verlieren -- ein Phänomen namens Automatisierungsatrophie. Sobald die Maschine klar voraus ist, wird der überprüfende Arzt vom Sicherheitsnetz zur Fehlerquelle.
Eine Metaanalyse von 106 Experimenten untermauert dies. Wenn der Mensch der bessere ist, hilft die Kombination. Wenn die KI besser ist, verschlechtert der Mensch das Ergebnis, indem er das System an den falschen Stellen überstimmt. In einer Studie erreichte GPT-4 allein 92 Prozent bei der Diagnosegenauigkeit, während Ärzte mit Zugang zum selben Modell nur 76 Prozent erzielten.
Die Autoren ziehen einen Vergleich zum Schach. Nachdem Deep Blue 1997 Garry Kasparov besiegte, dominierten Mensch-Maschine-Teams jahrelang. Bis 2017 war die KI so stark geworden, dass selbst die besten Teams nicht mehr mithalten konnten. Die Medizin, argumentieren sie, folgt derselben Entwicklung.
Der Interessenkonflikt, der die Botschaft verkompliziert
Der Kommentar enthält eine ungewöhnliche Offenlegung. Emanuel ist ein Schwergewicht in der US-Gesundheitspolitik und einer der Architekten des Affordable Care Act. Khosla ist CEO von Curai Health, einem KI-Telemedizinunternehmen, dessen Geschäftsmodell auf autonomer KI beruht. Sein Vater Vinod Khosla ist Investor bei OpenAI und Curai Health.
Dies entkräftet das Argument nicht, aber es bedeutet, dass zwei der Autoren direkt von der regulatorischen Zukunft profitieren würden, die der Artikel befürwortet. Der Decoder, der zuerst über den JAMA-Kommentar berichtete, wies auf diese Spannung hin. Der Medizinprofessor Robert Wachter, Autor von The Digital Doctor, hat die reine KI-Versorgung als die "Economy Class" der Medizin bezeichnet -- eine Einordnung, die die JAMA-Autoren explizit als unbelegt zurückweisen.
Die Grenzen, die die Autoren einräumen
Der JAMA-Kommentar ist keine uneingeschränkte Befürwortung autonomer KI. Die Autoren räumen ein, dass fast alle Belege aus Simulationen einzelner Aufgaben stammen, nicht aus der realen Patientenversorgung. Die Übergabe von Informationen zwischen Mensch und Maschine ist eine bekannte Schwachstelle. Physische Eingriffe wie Operationen, Geburten und Koloskopien bleiben vorerst beim Menschen, da die Robotik noch nicht ausreicht.
Autonome Systeme versagen auch auf eine Weise, die Menschen nicht tun. Halluzinationen, Internetausfälle und Cyberangriffe sind Risiken, die gegen höhere Genauigkeitsraten abgewogen werden müssen. Die Autoren tun diese Bedenken nicht ab -- sie erkennen sie an und argumentieren, dass die Risikoabwägung dennoch für autonome KI bei kognitiven Aufgaben spricht.
Was dies für die Regulierung bedeutet
Der Artikel kommt zu einem kritischen Zeitpunkt. Regulierungsbehörden in den USA und Europa entwerfen aktiv Regeln für KI im Gesundheitswesen, und die Standardannahme in fast jedem Rahmenwerk ist, dass ein Mensch im Kreislauf bleiben muss. Die JAMA-Autoren argumentieren, dass dies ein Fehler ist, der eine bald überholte Versorgungsform festschreiben könnte.
Haftung, Vergütungsmodelle, medizinische Ausbildung und Zulassung müssten alle überdacht werden, argumentieren sie. Wenn ein Arzt nicht mehr die beste Person für eine Diagnose ist, werden die rechtlichen und finanziellen Strukturen, die von einem stets verantwortlichen Arzt ausgehen, eher zu Hindernissen als zu Sicherheitsvorkehrungen.
Die Frage, die der Artikel offen lässt, ist die schwierigste: Wie vollzieht man den Übergang von einem System, das auf menschlichem Urteil basiert, zu einem, das der KI mehr vertraut, wenn die Belege noch aus Simulationen stammen und die Fehlermodi noch unzureichend verstanden sind? Die JAMA-Autoren haben eine klare Antwort -- beginnen Sie jetzt, bevor die Kluft zwischen dem, was KI kann, und dem, was die Regulierung erlaubt, noch größer wird.
Sources
- The Decoder: As AI beats doctors, regulators shouldn't force a human into the loop, JAMA piece says
- Forbes: Autonomous AI Should Replace Human Doctors, Billionaire's Son Argues
- Medical Economics: When will human physicians start dragging down AI in health care?
- Endpoints News: AI will be better than doctors at some medical tasks, healthcare and VC experts predict
- Penn LDI: How the U.S. Can Regulate AI Without Stifling Health Care Innovation