Gesetzentwurf erlaubt Künstlicher Intelligenz die Verschreibung von rezeptpflichtigen Medikamenten

In einem bemerkenswerten Schritt, der manchen als Vorbote eines dystopischen Cyberpunk-Zukunfts erscheinen mag, hat der republikanische Abgeordnete David Schweikert aus Arizona einen Gesetzentwurf eingebracht, der es Künstlicher Intelligenz (KI) ermöglichen würde, kontrollierte Substanzen zu verschreiben. Der Vorschlag wurde in diesen Wochen im Repräsentantenhaus vorgestellt und dem Komitee für Energie und Handel zur Prüfung zugewiesen. Hauptziel ist es, das Federal Food, Drug, and Cosmetic Act so zu ändern, dass KI-Technologien als geeignete Praktiker anerkannt werden, die Medikamente verschreiben dürfen.

Auf den ersten Blick klingt das durchaus vielversprechend. Angesichts der oft frustrierenden Erfahrungen, die zahlreiche Patienten mit dem amerikanischen Gesundheitswesen machen, könnte ein KI-unterstützter Mediziner eine einfühlsame Beratung in Bezug auf Symptome, einen gesunden Lebensstil und die Verschreibung notwendiger Medikamente bieten. Doch die Realität sieht anders aus: Die gegenwärtigen KI-Systeme sind weit davon entfernt, die erforderlichen Fähigkeiten zu besitzen, um Menschenärzte in irgendeiner Form zu ersetzen, insbesondere wenn es um die Verschreibung potenziell gefährlicher Medikamente geht.

Schweikerts Gesetzesentwurf sieht zwar vor, dass solche „Robotarzt“-Anwendungen nur dann eingesetzt werden dürfen, wenn sie von dem jeweiligen Bundesstaat autorisiert sowie von der Food and Drug Administration (FDA) genehmigt worden sind. Dennoch ist der langfriste Trend zur Integration von KI in die Gesundheitsversorgung offensichtlich.

Angesichts der vielen Rückschläge, die KI bereits im Gesundheitssektor erlitten hat – etwa als ein von OpenAI betriebenes Instrument zur Verwaltung von Patientenakten falsche Informationen generierte oder eine Microsoft-Diagnosetool ohne jeden Anhaltspunkt behauptete, ein Krankenhaus sei von Geistern heimgesucht – bleibt abzuwarten, wie sicher diese Technologie tatsächlich sein kann. Studien, darunter eine der renommierten Zeitschrift The Lancet, warnen davor, dass bestehende Bewertungen der Beurteilungen von KI unzureichend sind und das Risiko besteht, dass Ärzte sich zu sehr auf KI-gestützte Werke stützen und dabei ihre eigene ärztliche Beurteilung vernachlässigen.

Ein weiteres Risiko besteht darin, dass Patienten versuchen könnten, KI-Doktoren auszutricksen, um sich die Verschreibung von suchtgefährdenden Medikamenten zu erschleichen – eine bedenkliche Aussicht, insbesondere da aktuelle KI-Modelle oft anfällig für Angriffe von außen sind.

Interessanterweise hatte Schweikert in der Vergangenheit eine eher vorsichtige Haltung eingenommen. Im vergangenen Juli bemerkte er, die „nächsten Schritte bestünden darin, zu verstehen, wie diese Art von Technologie in alles von der Erstellung von medizinischen Aufzeichnungen bis hin zu den Datenmodellen für Kardiologen integriert werden könnte.“ Sein Kurswechsel hin zu einer ehrgeizigeren Agenda zeigt jedoch, dass der Druck zur schnellen Monetarisierung in der KI-Industrie intensiviert wurde.

Die Dringlichkeit, realistische Anwendungsfälle für KI zu entwickeln, hat die Technologieunternehmen in einen Wettlauf versetzt, bei dem es darum geht, die neuesten Entwicklungen rasch auf den Markt zu bringen. Dabei wurde mehr als einmal deutlich, dass große Technologieunternehmen nicht zögern, schnellstmöglich Produkte auf den Markt zu bringen, selbst wenn sozialethische Überlegungen hintangestellt werden – was zur Folge hat, dass einige KI-Modelle unter fragwürdigen Bedingungen entwickelt werden.

Die Deregulierung, die mit dem von Schweikert vorgeschlagenen Gesetz einhergehen könnte, ist der Ansatz, mit dem große Technologiekonzerne viele ihrer Verfehlungen vertuschen können, denn bei der Schulung von KI-Modellen mit Patientendaten geschieht dies oft ohne Einverständnis der Betroffenen. So könnte sich eine Gesellschaft bilden, in der lediglich Wohlhabende Zugang zu echten menschlichen Ärzten haben, während ärmere Patienten möglicherweise auf unberechenbare KI-Äquivalente zurückgreifen müssen.

In der wachsenden Ära der Künstlichen Intelligenz, in der jede Entscheidung und jeder Schritt durch technologische Fortschritte beeinflusst wird, könnte das Risiko gesellschaftlicher Ungleichheit noch verstärkt werden. Insbesondere vor dem Hintergrund der politischen Landschaft ist es nicht schwer vorstellbar, dass künftige, vom Staat unterstützte Partnerschaften KI-gestützte Hilfsangebote ohne die notwendige Aufsicht vorantreiben könnten.