Wohin man auch schaut, in letzter Zeit scheint jede Technologielösung im Gesundheitswesen eine Form von KI zu enthalten, die verspricht, die Erfahrung des Arztes zu verbessern. Es gibt zweifellos einige wertvolle Anwendungsfälle von KI im Anbieterbereich. Ambient AI-Schreiber beispielsweise werden von Anbietern im Allgemeinen mit offenen Armen empfangen, da sie den Verwaltungsaufwand verringern und mehr Zeit für den Patienten freisetzen.
Doch viele KI-Varianten bewegen sich in einem Umfeld, das an den Wilden Westen erinnert. Hier wimmelt es von kühnen Behauptungen, die jedoch nicht durch klinische Forschung oder behördliche Kontrollen untermauert werden. Das ist allerdings nicht überraschend, denn viele KI-Anbieter würden sich die strengen Verfahren und den erheblichen Zeitaufwand für die behördliche Zulassung lieber nicht antun.
Die Folgen einer unkontrollierten KI sind in anderen Branchen vielleicht nicht so gravierend, aber im Gesundheitswesen kann ein fehlerhafter Algorithmus eine Frage von Leben und Tod sein. Da das Gesundheitswesen mit KI-Lösungen übersättigt wird, die die Grenze zwischen dem, was reguliert ist und dem, was nicht reguliert ist, verwischen, werden die Ärzte im Dunkeln gelassen und wehren sich. In einem aktuellen Beispiel protestierten Krankenschwestern in San Francisco gegen den Einsatz von KI bei Kaiser Permanente. Sie behaupteten, die Technologie würde die Rolle der Krankenschwestern herabwürdigen und entwerten und letztlich die Patientensicherheit gefährden. Es ist wichtig anzumerken, dass sich ihre Bedenken speziell auf „ungetestete“ Formen der KI beziehen, was ein Weckruf für Unternehmen sein sollte, die zögern, eine behördliche Genehmigung einzuholen.
Der Markt braucht Orientierung, um sich in der KI-Landschaft zurechtzufinden, in der so viele Akteure kühne, aber unbegründete Behauptungen aufstellen. Eines der intelligentesten Dinge, die Unternehmen, die KI anbieten, tun können, ist, den Wert klinischer Validierung und Regulierung anzuerkennen, die von grundlegender Bedeutung sind, um das Vertrauen der Ärzte zu gewinnen und die Sicherheit ihrer Produkte zu gewährleisten. In Kombination mit einem durchdachten Ansatz für das Änderungsmanagement wird dies gleiche Wettbewerbsbedingungen schaffen, bei denen die Koexistenz von KI und Ärzten die Gesundheitsversorgung auf die nächste Ebene bringt.
Die Entwicklung der KI aus regulatorischer Sicht betrachten
Wenn Unternehmen den Weg zur FDA-Zulassung einschlagen, sollten sie ein klares Ziel haben, was sie beweisen wollen, und in der Lage sein, den klinischen Wert zu artikulieren, den sie liefern wollen. Entscheidend ist die Fähigkeit, nachzuweisen, dass eine Lösung sich positiv auf die Versorgung eines Patienten auswirkt und keine Probleme hinsichtlich der Patientensicherheit verursacht. Die Verpflichtung zu diesen Grundprinzipien von vornherein stellt sicher, dass in KI-Modellen ein gewisses Maß an Verantwortung eingebaut ist.
Software-as-a-Service-Unternehmen (SaaS) sollten sich außerdem generell über den Ansatz der FDA bei der Zulassung von Medizinprodukten im Klaren sein, der die Qualität des End-to-End-Entwicklungsprozesses misst, einschließlich klinischer Validierungsstudien, die an realen Patientenpopulationen durchgeführt werden. Darüber hinaus gewährleisten die Anforderungen an die Überwachung nach der Markteinführung die anhaltende Sicherheit und Leistung der Geräte, während sie auf dem Markt sind. Diese Erkenntnisse können die Entwicklung von KI unterstützen, die mit mindestens der gleichen Sorgfalt entworfen, entwickelt, getestet und validiert wird wie die Geräte, die ihre Kunden wahrscheinlich bereits verwenden.
Der Aufbau einer soliden Arbeitsbeziehung mit der FDA ist ebenfalls von entscheidender Bedeutung. Die Einbeziehung eines Regulierungsberaters, der sich mit dem Prozess auskennt, ist eine hervorragende Möglichkeit, diese Beziehung anzukurbeln. Dies ist doppelt wertvoll, da das Unternehmen wertvolle Erkenntnisse gewinnt und die Regulierungsbehörden Anträge erhalten, die genau ihren Anforderungen entsprechen. Dies ist insbesondere für die FDA von Vorteil, da sie mit einer Flut von KI-Lösungen konfrontiert ist, die auf den Markt kommen.
Verbesserung der regulatorischen Qualität durch Änderungsmanagement
Sobald sich ein Unternehmen auf den Regulierungsprozess einlässt, hängt der Erfolg der Einführung einer klinischen KI-Lösung von dem begleitenden menschlichen Änderungsmanagement ab, das dafür sorgt, dass die Kliniker die Lösung in ihren täglichen Arbeitsablauf integrieren. Ein Teil des Regulierungsprozesses besteht darin, die Lösung in realen Umgebungen zu testen und im Idealfall das Feedback der Kliniker einzubeziehen. Dies sollte nicht enden, sobald eine Lösung freigegeben ist. Gesundheitsorganisationen müssen weiterhin mit KI-Entwicklern zusammenarbeiten, um zu verstehen, wie das Tool praktisch implementiert werden kann. Berücksichtigen Sie die Perspektive des einzelnen Klinikers, um sicherzustellen, dass sein Leben durch die Lösung verbessert wird und dass auch die Patientensicherheit und -ergebnisse verbessert werden.
Die vielleicht wichtigste Botschaft, die während der Implementierung vermittelt werden muss, ist, dass die Lösung den Arzt nicht ersetzen soll, sondern ihn unterstützen und ihm ermöglichen soll, seine Fähigkeiten voll auszuschöpfen. Betonen Sie den Mehrwert – es geht nicht nur um eine weitere Technologie, die im Weg steht und die Fähigkeiten des Arztes einschränkt, sondern vielmehr darum, dass sie seine Patientenbehandlung verbessert. Die wahre Chance der KI besteht darin, dass sie es Ärzten ermöglicht, wieder die Dinge zu tun, für die sie ausgebildet wurden – und die ihnen Spaß machen. KI kann die sich wiederholenden, vorgeschriebenen Aufgaben übernehmen, die Ärzte belasten, sodass ihnen mehr Zeit für die direkte Patientenversorgung bleibt. Dieses Konzept ist der Kern dessen, warum sie überhaupt Arzt geworden sind.
Aktualisierung regulatorischer Standards zur Förderung der Patientensicherheit
Es ist an der Zeit, den aktuellen Regulierungsrahmen zu verbessern und ihn an moderne Ansätze anzupassen. Die Regulierung von KI sollte als Spektrum betrachtet werden. Lösungen, die manuelle Backoffice-Prozesse ansprechen, müssen sicherlich überwacht werden und es müssen Einschränkungen hinsichtlich ihrer Vermarktung gelten, aber ihr Risikoniveau unterscheidet sich von klinisch orientierten Lösungen, die gemeinsam mit Klinikern eingesetzt werden. Klinische und andere Formen von KI, die als schwerwiegender gelten, erfordern den entsprechenden Schutz, um sicherzustellen, dass die Patientensicherheit und die Qualität der Versorgung dabei nicht beeinträchtigt werden. Regulierungsbehörden wie die FDA haben nur eine begrenzte Bandbreite, sodass ein abgestufter Ansatz dabei hilft, die Überprüfung von KI, die ein höheres Risiko birgt, zu priorisieren und zu priorisieren.
Die Regulierung dieser Lösungen stellt sicher, dass sie unter strenger Berücksichtigung der Patientensicherheit eingesetzt werden und das Mantra des hippokratischen Eides „keinen Schaden anrichten“ gewahrt wird. Letztendlich ist Beharrlichkeit der Schlüssel zur Optimierung der Pflegequalität. Diese Prozesse geschehen nicht über Nacht, sie erfordern erhebliche Investitionen und Geduld. Um KI in klinischen Umgebungen zu nutzen, müssen sich Gesundheitsorganisationen langfristig dazu verpflichten.
Foto: Carol Yepes, getty Images
Paul Roscoe ist CEO von CLEW Medical, das die ersten von der FDA zugelassenen, KI-basierten klinischen Vorhersagemodelle für die Intensivpflege anbietet. Vor CLEW war Paul CEO von Trinda Health und dafür verantwortlich, das Unternehmen als Branchenführer für qualitätsorientierte klinische Dokumentationslösungen zu etablieren. Zuvor war Paul CEO und Mitbegründer von Docent Health, nachdem er als CEO von Crimson, einem Unternehmen des Beirats, tätig war. Paul hatte auch Führungspositionen bei der Healthcare Solutions Group von Microsoft, VisionWare (von Civica übernommen) und Sybase (von SAP übernommen) inne. Im Laufe seiner Karriere hat Paul eine beispielhafte Erfolgsbilanz beim Aufbau und der Skalierung von Organisationen vorzuweisen, die für Kunden im Gesundheitswesen weltweit einen erheblichen Mehrwert bieten.
Dieser Beitrag erscheint im Rahmen des MedCity Influencers-Programms. Über MedCity Influencers kann jeder seine Sichtweise zu Wirtschaft und Innovation im Gesundheitswesen auf MedCity News veröffentlichen. Klicken Sie hier, um zu erfahren, wie.
