Neues KBV-PraxisWissen: Hinweise zum Einsatz von KI in Praxen

Ob Chatbots oder Telefonassistenten, aber auch medizinische Anwendungen wie Entscheidungsunterstützungssysteme können Praxen bei der Administration und Patientenversorgung unterstützen. Doch so groß die Chancen und Möglichkeiten auch sind, der Einsatz dieser Mittel sollte stets verantwortungsvoll geschehen. Damit das der Fall ist, hat die KBV in einer kompakten Form Checklisten erstellt, die Ärzten und Psychotherapeuten einen schnellen Überblick über die Erfordernisse geben.

Regeln der EU-KI-Verordnung

Basis bildet die EU-KI-Verordnung, die Regeln für einen sicheren Einsatz von KI-Lösungen enthält. Dazu gehören elementare Grundsätze, dass eingesetzte KI-Systeme nur der Unterstützung dienen und „kein Ersatz für ärztliche Leistungen sind“, aber auch technische und rechtliche Vorgaben für die Hersteller solcher Tools. Zudem müssen KI-Systeme der Datenschutz-Grundverordnung entsprechen.

Doch nicht nur bei der Auswahl eines Systems, auch bei der Implementierung und dem Betrieb gibt es einiges zu berücksichtigen. Dazu gehört, dass alle Praxismitarbeitende die Betriebsanleitung kennen sollten. Patientinnen und Patienten sollten aufgeklärt und informiert werden, damit der Einsatz von KI für sie transparent ist. Zum Teil ist ihre Einwilligung notwendig, beispielsweise bei KI-Systemen, mit denen Gesprächsprotokolle erstellt werden.

Berücksichtigen sollten Ärzte und Psychotherapeuten beim Einsatz von KI-Systemen außerdem, dass es sich hierbei in aller Regel um sogenannte Cloud-Anwendungen handelt, für deren Nutzung besondere Anforderungen gelten. Auch dazu gibt das neue PraxisWissen Auskunft.

Steiner: Verantwortung liegt weiterhin beim Arzt

Die Handreichung der KBV diene als Checkliste, an der sich die Praxen orientieren könnten, sagte das für Digitalisierung zuständige Mitglied im KBV-Vorstand, Dr. Sibylle Steiner. „Klar ist: KI fällt keine Entscheidungen und sie muss transparent sein. Die Verantwortung im Rahmen der Versorgung liegt weiterhin bei Ärzten und Psychotherapeuten.“

Anwendungen der Künstlichen Intelligenz in der Patientenversorgung sind auch Thema des Positionspapiers „Digital und nah“, dass die Vertreterversammlung der KBV am Montag in Leipzig verabschiedet hat. Darin sind unter anderem die Anforderungen beschrieben, die KI-Instrumente und andere digitale Tools für den Einsatz in der Praxis erfüllen müssen.

Heft online lesen

PraxisWissen „Künstliche Intelligenz – Hinweise zum Einsatz in Praxen“ steht online bereit.