Wissenschaftliche Fachzeitschriften, öffentliche Medien und Pressemitteilungen von Universitäten versichern uns: KI-gestützte Medizin wird intelligenter, schneller, genauer und sogar ethischer sein als der Mensch.1 Aber ist es wirklich so einfach?
PhD S. Scott Graham hat viel über Kommunikation in der Gesundheitswissenschaft und -politik geschrieben. Er ist Autor von "The Politics of Pain Medicine" (University of Chicago Press, 2015) und zahlreicher Artikel in Fachzeitschriften. In seinem neuen Buch "The Doctor and the Algorithm – Promise, Peril, and the Future of Health AI" zeigt er, dass trotz dieses Enthusiasmus auch zunehmende Evidenz für die Risiken der Künstlichen Intelligenz vorliegt, sowohl innerhalb als auch außerhalb der Medizin.
Sein Buch enthält Fallstudien zu Künstlicher Intelligenz im Gesundheitswesen in den Bereichen automatisierte Diagnostik, algorithmische Schmerzmessung, Todesvorhersage und KI-gesteuerte Arzneimittelentwicklung.1 Das Buch nutzt die Künstliche Intelligenz selbst, um die Grundlagen des maschinellen Lernens und die Verwendung von Werbesprache in der KI-Gesundheitsforschung zu untersuchen.2
Graham geht in diesem Zusammenhang auch der Frage nach, wie diese neuen Technologien menschlichen Bias unter dem Deckmantel der Objektivität vervielfältigen und zu erheblichen unbeabsichtigten Auswirkungen führen können. Denn Gesundheits-KI birgt auch das Potenzial, tiefgreifende systemische Fehler zu verschärfen, wenn sie unkontrolliert bleibt. Graham untersucht die enthusiastischen Versprechungen der Marketingkommunikation für Künstliche Intelligenz im Gesundheitswesen und die Medizin der Zukunft, analysiert aber auch die unausgewogenen Ergebnisse, die neue KI-Technologien oft für bereits marginalisierte Gruppen erzeugen.
Im Klappentext schreibt Graham: "Dabei betrachte ich sowohl, wie die übermäßig enthusiastische Einführung von KI im Gesundheitswesen zu unbeabsichtigten Folgen für Patienten und die öffentliche Gesundheit führen kann, als auch, wie neue Initiativen für ethische und gerechte KI eine bessere Zukunft für die algorithmische Medizin schaffen können. The Doctor & The Algorithm schließt mit Empfehlungen für Verfahren und Rahmenbedingungen, die diese ethischeren und gesünderen KI-Ansätze unterstützen können."2
Prof. Karandeep Singh von der Abteilung für Computational Medicine and Bioinformatics an der Universität Michigan schreibt in seinem Review: "In diesem Buch legt S. Scott Graham akribisch Beispiele für den Einsatz von KI-Modellen in der medizinischen Versorgung dar, untersucht kritisch deren Verwendung und stellt das, was in der wissenschaftlichen Literatur über KI bekannt ist, den Behauptungen von KI-Modellentwicklern, medizinischen Fachleuten und Futuristen gegenüber. Auf diese Weise erweckt Dr. Graham die KI im Gesundheitswesen zum Leben, indem er ein umfassendes Bild davon zeichnet, wie KI entwickelt, erforscht und vermarktet wird, und warum diese Prozesse grundsätzlich Anreize für einen Hype als Kernkomponente der Einführung bieten. Dieses Buch ist erfrischend, weil es Experten für ihre Behauptungen über medizinische KI, die zu extremem Hype oder Zynismus führen, direkt zur Rede stellt. Sowohl für KI-Neulinge als auch für Experten wird dieses Buch ein tiefes Verständnis für die komplexen sozialen Phänomene vermitteln, die dem Lebenszyklus von KI-Modellen von der Entwicklung bis zur Anwendung zugrunde liegen."1
Singh ist Nephrologe mit einem Schwerpunkt in biomedizinischer Informatik sowie Direktor des 'Michigan Medicine Clinical Intelligence Committee'.
"The Doctor and the Algorithm" erschien Ende August 2022 bei Oxford University Press.