Künstliche Intelligenz: Was Praxisinhaber zum neuen EU-Gesetz wissen sollten
Judith MeisterDigitalisierung, Automatisierung und Künstliche Intelligenz verändern die Medizin rasant. Die neuen Technologien bieten im Praxisalltag diverse Vorzüge. Allerdings sollten Ärzte auch die Risiken kennen.
Datenanalysen in Echtzeit, Roboterassistenten im OP, smarte Assistenten für die Praxisverwaltung: Künstliche Intelligenz (KI) bietet Chancen für das Gesundheitswesen. Eine aktuelle Studie des IT-Beratungsunternehmens NTT Data besagt denn auch, dass mehr als die Hälfte der Gesundheitsorganisationen in den nächsten zwei Jahren in generative KI investieren wollen. Allerdings rufen die neuen Möglichkeiten nicht nur Euphorie hervor, sondern schüren auch Ängste. Vor allem die rechtlichen Aspekte des KI-Einsatzes bereiten den Gesundheitsakteuren Sorgen. Hinzu kommen Bedenken in Bezug auf die Cybersicherheit.
EU leistet Pionierarbeit mit dem Artificial Intelligence Act (AIA)
Die Politik will diesen Vorbehalten mit einem neuen Gesetz begegnen: Der Artificial Intelligence Act (AIA) beziehungsweise das Gesetz über Künstliche Intelligenz der EU zielt auch darauf ab, KI-Technologien im Gesundheitswesen sicherer, transparenter und verantwortungsvoller zu gestalten.
Damit lehnt sich der europäische Normgeber weit aus dem Fenster: Der AI-Act ist weltweit der erste umfassende Ansatz dieser Art und könnte die Anwendung und Entwicklung von KI-Technologien im Gesundheitswesen verändern. Um die Systeme zu klassifizieren und Leitlinien für deren Verwendung zu erstellen, unterteilt das Regelwerk KI-Systeme in Risikokategorien.
Unannehmbares Risiko: In diese Kategorie fallen KI-Systeme, die als inakzeptabel gefährlich gelten, etwa soziale Bewertungssysteme, biometrische oder manipulative KI.
Hohes Risiko: Hierzu gehört zum Beispiel die robotergestützte Chirurgie. KI-Systeme in dieser Kategorie müssen strengen Anforderungen entsprechen.
Begrenztes Risiko: In diese Gruppe fallen zum Beispiel Chatbots oder virtuelle Assistenten, die Patienten bei der Terminvereinbarung oder der Beantwortung allgemeiner medizinischer Fragen unterstützen. Solche Systeme müssen offenlegen, dass sie mit KI-generierten Inhalten operieren. Auch müssen User erkennen können, dass die Interaktion nicht von einem Menschen gesteuert wird.Minimales Risiko: Diese Kategorie umfasst die Mehrheit der KI-Systeme in der EU, wie Spamfilter, die im Praxis-E-Mail-System zum Einsatz kommen.
Minimales Risiko: Diese Kategorie umfasst die Mehrheit der KI-Systeme in der EU, wie Spamfilter, die im Praxis-E-Mail-System zum Einsatz kommen.
Wer trägt die Verantwortung für KI-Anwendungen in der Arztpraxis?
Gesundheitseinrichtungen, Krankenversicherungen und Technologie-Anbieter müssen angesichts der bereits geltenden und noch kommenden Vorgaben des AI-Acts sicherstellen, dass ihre KI-Anwendungen den Regularien entsprechen. Für Ärztinnen und Ärzte stellt sich zudem die Frage, wer haftet, wenn einem Patienten durch die Verwendung von KI ein Schaden entsteht. Das ist schwierig zu beantworten.
Ärzte haben das letzte Wort
Grundsätzlich haften Ärztinnen und Ärzte immer dann für einen Behandlungsfehler, wenn eine Therapie nicht dem anerkannten medizinischen Standard entspricht und der Patient dadurch zu Schaden gekommen ist. Diese Erkenntnis hilft bei KI-Systemen aber kaum weiter: Die Technologie ist so neu, dass sich noch keine verlässlichen Standards gebildet haben.
Den Gesetzestext zum EU AI Act können Sie hier downloaden:
KI-Gesetz | Gestaltung der digitalen Zukunft Europas
Niedergelassene sind daher gehalten, beim Einsatz von KI wachsam zu bleiben. Denn letzten Endes sind sie es, die entscheiden, ob die Empfehlung der Software medizinisch vertretbar ist oder nicht.
Zudem müssen sie dafür Sorge tragen, dass auch KI-gestützte Entscheidungen den allgemeinen medizinischen Standards entsprechen. Tun sie das nicht, haften sie nach denselben Regeln wie für einen „normalen“ Behandlungsfehler.
KI in der Medizin: Zwischen Euphorie und Skepsis
Künstliche Intelligenz in der Medizin hat enormes Potenzial. Große Hoffnungen ruhen nicht nur auf den Möglichkeiten für die Diagnostik und Medikamentenentwicklung. Auch die Administration und das Prozessmanagement in Krankenhäusern und Arztpraxen könnte die neue Technik revolutionieren. Bei der Auswahl der Systeme und deren Anwendung sind jedoch zahlreiche rechtliche (und ethische) Vorgaben zu beachten.