Gezielte Anpassungen werden auch bei den QMS-Prozessen vorgenommen:聽
- Strategie zur Einhaltung der Rechtsvorschriften,聽
- Personal,聽
- Informationen des Herstellers,
- Infrastruktur,聽
- Einkauf und Lieferanten,聽
- Externe Prozesse und聽
- Informationssicherheit/Datenschutz.
Ausweitung der Software-Lebenszyklusprozesse auf die Entwicklung von KI-Modellen
Hersteller von KI-basierten Medizinprodukten wenden die Norm EN 62304 auf den Software-Lebenszyklus an. Handelt es sich um eine eigenst盲ndige Software, gilt auch die Norm EN 82304-1. Zu diesem Zweck implementiert der Hersteller in seinem QMS einen Entwicklungsprozess, einen Freigabeprozess, einen Wartungsprozess und einen Prozess zur Au脽erbetriebnahme der Software. Erg盲nzt werden diese Prozesse durch Validierungs- und Post-Market-Aktivit盲ten des Herstellers.
BAIM f眉hrt einen zus盲tzlichen AI-Entwicklungsprozess ein, der dem eigentlichen Softwareentwicklungsprozess der EN 62304 untergeordnet ist. Dieser umfasst die Erfassung und Analyse aller Nutzer- und Systemanforderungen einschlie脽lich der KI-spezifischen im allgemeinen Entwicklungsprozess, w盲hrend das Datenmanagement und die KI-Modellentwicklung im KI-Entwicklungsprozess stattfinden. Dar眉ber hinaus erfolgt das Testen des KI-Modells im zweiten zus盲tzlichen Prozess 鈥濳I-Modellevaluation鈥�.
Anpassung weiterer zentraler QMS-Prozesse
Nach der MDR ist ein Risikomanagementsystem als Teil des QMS f眉r jeden Medizinproduktehersteller verpflichtend. Die Komplexit盲t der KI-Technologie geht mit besonderen Gefahren wie verschiedenen Formen der Verzerrung einher, die im Risikomanagement ber眉cksichtigt werden m眉ssen. BAIM erweitert die notwendige Risikoanalyse um KI-spezifische Risiken und tr盲gt damit zu einer erh枚hten Sicherheit dieser Produkte bei. Das Risikomanagement nach der Norm EN ISO 14971 muss die Sicherheit (im Sinne der Betriebssicherheit) zusammen mit der (Cyber-)Security und deren Wechselwirkungen betrachten. BAIM nutzt den ARGOS-Cybersecurity-Ansatz des VDE, um auch KI-spezifische Assets, Schnittstellen und Angriffsmethoden zu analysieren und entsprechende Ma脽nahmen zu ergreifen.
Im Rahmen des QMS-Prozesses 鈥濽sability Engineering鈥� finden sowohl formative Validierungen w盲hrend der Entwicklung (oder Wartung) als auch summative Validierungen am Ende der Entwicklung (oder Wartung) statt. In einer prozessintegrierten Checkliste formuliert das BAIM spezifische Anforderungen an die gebrauchstauglichkeitsorientierte Entwicklung von KI-basierten Medizinprodukten. Dazu geh枚rt zum Beispiel der Umgang mit Transparenz, Erkl盲rbarkeit oder Automatisierungsbias.
Die klinische Bewertung dient dem Nachweis der Sicherheit und Leistungsf盲higkeit sowie eines positiven Nutzen-Risiko-Verh盲ltnisses f眉r das jeweilige Medizinprodukt. Neben der einschl盲gigen Leitlinie MEDDEV 2.7/1 f眉r die klinische Bewertung von Medizinprodukten ist f眉r Software die Leitlinie MDCG 2020-1 anzuwenden. Das BAIM unterst眉tzt den Hersteller bei der klinischen Bewertung mit einer Checkliste, die AI-spezifische Aspekte im entsprechenden QMS-Prozess anspricht. Dies bezieht sich auch auf die Nutzung von KI-spezifischen Datenbanken f眉r die Literaturrecherche.
Der Software-Lebenszyklus umfasst die 脺berwachung nach dem Inverkehrbringen und die Vigilanz durch den Hersteller. Insbesondere bei KI-basierten Medizinprodukten wird ein hohes Ma脽 an Sicherheit und Leistung durch eine umfassende Post-Market-Surveillance durch den Hersteller gew盲hrleistet. BAIM erweitert den Post-Market-Surveillance-Plan um KI-spezifische Aspekte, z.B. hinsichtlich der Qualit盲t von Real-Life-Daten und der Aktualit盲t des Ground Truth oder Goldstandards. Dabei werden entsprechende Methoden und deren H盲ufigkeit in der Anwendung sowie zu ber眉cksichtigende Parameter und Grenzwerte implementiert.
Praktische Umsetzung
Ein typisches BAIM-Projekt beginnt mit der Definition des Verwendungszwecks des KI-basierten Medizinprodukts, wobei das Funktionsprinzip der KI-Komponente ber眉cksichtigt wird. Anschlie脽end wird der KI-Entwicklungsprozess in das QMS integriert, und das Risikomanagement, einschlie脽lich der Cybersicherheit, wird gem盲脽 ARGOS umgesetzt. Parallel dazu werden Aktivit盲ten in Richtung Benutzerfreundlichkeit eingeleitet und die erste klinische Bewertung durchgef眉hrt. Im Rahmen der 脺berwachung (einschlie脽lich der klinischen Nachbeobachtung nach der Markteinf眉hrung) und Vigilanz wird die Leistung der KI-basierten Software kontinuierlich beobachtet, wobei die gesammelten Daten in die klinische Bewertung einflie脽en.
Zusammenfassend l盲sst sich sagen, dass BAIM entweder ein bestehendes QMS erweitert oder bei der Einrichtung eines QMS angewendet wird, um sicherzustellen, dass der Hersteller die spezifischen Anforderungen an KI-basierte Medizinprodukte erf眉llt. Die Anwendung von BAIM stellt auch sicher, dass das QMS des Herstellers zukunftsorientiert und auf neue regulatorische Herausforderungen vorbereitet ist.
