Der Fragenkatalog basiert auf den aktuell geltenden EU-Verordnungen sowie internationalen Normen und Standards für Medizinprodukte und In-vitro-Diagnostika. „Künstliche Intelligenz kommt in immer mehr Medizinprodukten zum Einsatz: bei der Auswertung bildgebender Verfahren, bei der Dosierung von Medikamenten oder bei der Analyse von Laborwerten und anderer Daten für die Diagnose und Prognose bestimmter Krankheiten“, sagt Mark Küller, Referent für Medizinprodukte beim TÜV-Verband, der die Interessengemeinschaft organisatorisch betreut. Neben den Chancen für eine verbesserte Diagnostik und eine effektivere Behandlung von Krankheiten sollten die Risiken des KI-Einsatzes im medizinischen Bereich jedoch nicht aus den Augen verloren werden. Küller erläutert: „KI-basierte Systeme in der Medizin müssen sicher sein, um Fehldiagnosen und andere gesundheitliche Gefahren zu vermeiden. Und sie dürfen bestimmte Bevölkerungsgruppen nicht aufgrund von Geschlecht, Hautfarbe oder anderer persönlicher Merkmale benachteiligen.“

Spezifische Anforderungen an Prozesse, nicht an Produkte

Der Fragenkatalog folgt daher dem Gedanken, dass die Sicherheit KI-basierter Medizinprodukte nur durch einen prozessorientierten Ansatz erreicht werden kann, bei dem alle relevanten Prozesse und Phasen des gesamten Lebenszyklus betrachtet werden müssen. Entsprechend stellt der Leitfaden keine spezifischen Anforderungen an die Produkte, sondern an die Prozesse. Die Fragen betreffen unter anderem generelle KI-spezifische Anforderungen an die Leistungsfähigkeit, die Cybersicherheit, das Risikomanagement, die verwendeten KI-Modelle und das Datenmanagement. „Da bei lernenden KI-Systemen die Qualität der Trainings-, Validierungs- und Testdaten eine entscheidende Rolle für ihre Sicherheit spielt, sind im Katalog unter anderem Fragen zur Menge, Auswahl und Anonymisierung der Daten enthalten“, sagt Küller. Ein weiterer Schwerpunkt betreffe das Labeling von Daten, mit denen diese genauer beschrieben werden. Fehler beim Daten-Labeling können die Qualität eines KI-Systems stark beeinträchtigen. Ein weiterer wichtiger Punkt: die klinische Bewertung der KI-Produkte, mit der ihr medizinischer Nutzen nachgewiesen wird.

IT-Sicherheit von Medizinprodukten

Ein weiterer Fragenkatalog der IG-NB hat beschäftigt sich mit den für die IT-Sicherheit relevanten Aspekte unter anderem bei der Produktentwicklung, dem Risikomanagement, dem Passwortschutz oder Update-Prozessen. Küller: „Die Anwendung des Fragenkatalogs unterstützt die Hersteller dabei, die Anforderungen an die digitale Sicherheit von softwarebasierten Medizinprodukten bestmöglich zu erfüllen und die Benannten Stellen, diese bestmöglich zu überprüfen.“

Die Leitfäden für die Sicherheit von Künstlicher Intelligenz und die Cybersecurity von Medizinprodukten sind hier zu finden.

In der Interessengemeinschaft der Benannten Stellen für Medizinprodukte in Deutschland (IG-NB) erarbeiten Benannte Stellen für Medizinprodukte gemeinsame Positionen. Ein weiteres Ziel ist es, die Interessen der deutschen Benannten Stellen gegenüber Industrie und Behörden besser durchzusetzen.

Quelle: medtech-zwo vom 04.07.2022