„Letztendlich geht es bei der KI-Regulierung wirklich um Transparenz. Wir wissen nicht alles.“
Diese Worte sprach Luke Ralston – seit fast zwei Jahrzehnten Biomedizintechniker und wissenschaftlicher Gutachter bei der FDA – letzte Woche während einer Präsentation auf der HRX-Konferenz der Heart Rhythm Society in Atlanta. Die FDA betrachte die Regulierung von KI immer noch als eine sich entwickelnde Wissenschaft, die hochspezifisch auf jedes Gerät und seinen Verwendungszweck zugeschnitten sei, sagte er.
Während die FDA weiterhin daran arbeitet, einen sicheren und ethischen Einsatz von KI im Gesundheitswesen zu gewährleisten, stoßen die Prüfer laut Ralston immer wieder auf einige Probleme.
Das erste Problem hat mit Leistungsabweichungen zu tun. Als Gutachter sagte Ralston, er würde gerne Daten von Unternehmen sehen, die den Einsatz ihrer Produkte in klinischen Praxissituationen belegen.
„Wir alle haben Datensätze, die wir sammeln, beurteilen und mit denen wir die Modelle trainieren und dann bereitstellen. Das Training ist gut und schön, aber wie funktioniert es, wenn man sie bereitstellt? Ändert sich die beabsichtigte Benutzerpopulation so, dass die Kennzahlen schlechter werden? Das ist ein echtes Problem. Und das haben wir gesehen“, erklärte er.
Unternehmen sollten möglicherweise stärker über die Durchführung einer Überwachung nach der Markteinführung nachdenken, damit sie verfolgen können, wie gut ihre Modelle in der realen Welt funktionieren, fügte Ralston hinzu.
Die Generalisierung von Daten ist das zweite große Problem bei der KI im Gesundheitswesen. Ralston erklärte, dass Datensätze groß, bereinigt und repräsentativ sein müssen.
Um ein KI-Modell für das Gesundheitswesen effektiv zu trainieren, benötigen Entwickler Tausende – im Idealfall Zehntausende – Datenpunkte, merkte er an.
„Zurzeit sind retrospektive Daten in vielen Bereichen das Beste, was wir haben, und sie sind nicht perfekt. Es fehlen viele Daten und es gibt viele nicht repräsentative Daten, aber wenn man sich die Mühe macht, denke ich, dass wir Datensätze erhalten können, die groß genug für das Training und dann für Tests sind“, sagte Ralston.
Er wies auch darauf hin, dass die Gesundheitsbranche ihre Vorstellungen davon, was repräsentative Daten sind, erweitern müsse.
Für ihn ist es offensichtlich: „Man kann nicht einfach an jeder Studie zu Vorhofflimmern 60-jährige weiße Männer teilnehmen lassen und sagen, das lässt sich auf die gesamte Bevölkerung übertragen.“ Führungskräfte im Gesundheitswesen würden jedoch nicht immer erkennen, wie wichtig es ist, Daten zu sammeln, die nicht nur demografisch vielfältig sind, erklärte Ralston.
„Welche Hardware wird verwendet, um [the data]? Welche Krankenhaussysteme werden für die Beschaffung dieser Geräte verwendet? In jedem Krankenhaussystem gibt es leicht unterschiedliche Arbeitsabläufe“, bemerkte er. „Was tun wir, um diese Arbeitsabläufe zu untersuchen – um sicherzustellen, dass sie wirklich repräsentativ für die vorgesehene Patientengruppe und den vorgesehenen Einsatzzweck des Geräts sind?“
Da sich die KI im Gesundheitswesen weiterentwickelt, müssen die Unternehmen beginnen, gute Antworten auf diese Fragen zu finden, bemerkte Ralston.
Anmerkung des Herausgebers: Diese Geschichte basiert auf Diskussionen bei HRX, einer Konferenz in Atlanta, die von der Heart Rhythm Society ausgerichtet wurde. Katie Adams, leitende Reporterin von MedCity News, wurde eingeladen, an der Konferenz teilzunehmen und dort zu sprechen, und alle ihre Reise- und Nebenkosten wurden von der Heart Rhythm Society übernommen. Die Unternehmensleitung hatte jedoch keinen Einfluss auf die redaktionelle Berichterstattung.
Foto: Gerd Altmann, Pixabay
