Künstliche Intelligenz in Medizinprodukten: Herausforderungen und Lösungen für die klinische Bewertung

Das Konformitätsbewertungsverfahren ist der zentrale Prozess, durch den ein Hersteller die Einhaltung der relevanten gesetzlichen Anforderungen nachweist. Die MDR enthält verschiedene Möglichkeiten, ein Konformitätsbewertungsverfahren durchzuführen, welche sich nach der Risikoklasse des Produktes richten. Bei Medizinprodukten der Risikoklasse IIa und höher ist zusätzlich zur Konformitätserklärung des Herstellers auch die Bescheinigung einer unter der MDR Benannten Stelle Voraussetzung für das Inverkehrbringen innerhalb der Europäischen Union.

Die Risikoklasse wird unter der MDR vom Hersteller nach einem Regelkatalog ermittelt. Dieser hat sich für Software-Medizinprodukte gegenüber der zuvor gültigen Medizinproduktedirektive (MDD) deutlich geändert, so dass aktuell mehr softwarebasierte Medizinprodukte ein Konformitätsbewertungsverfahren mit einer benannten Stelle durchlaufen müssen. Bei KI-basierten Medizinprodukten wird im von den meisten Herstellern gewählten Verfahren von der Benannten Stelle ein Audit des Qualitätsmanagementsystems sowie eine vollumfängliche Überprüfung einer technischen Dokumentation durchgeführt.

Das Produkt oder die Produkte zur Prüfung der technischen Dokumentation werden auf Stichprobenbasis ausgewählt. Sind alle Anforderung dokumentiert erfüllt, kann eine Bescheinigung ausgestellt werden. Eine Besonderheit stellen Risikoklasse III Produkte dar, bei denen die technische Dokumentation jedes einzelnen Produktes vor Markteintritt geprüft wird, und jedes Produkt eine eigene Bescheinigung erhält.

Benannte Stellen, wie z.B. der TÜV Rheinland, sind Organisationen, die von nationalen Regulierungsbehörden ermächtigt wurden, Konformitätsbewertungsverfahren durchzuführen. Bei den benannten Stellen treffen Hersteller auf Fachexperten, die umfangreiche Kenntnisse in der technischen und klinischen Validierung von KI-basierten Medizinprodukten aufweisen. Die Aufgabe der Experten besteht darin, die technische Dokumentation zu prüfen, Audits durchzuführen und die Einhaltung der MDR sicherzustellen. Bei KI-basierten Produkten achten sie auf die Validität der Algorithmen, den Nachweis des klinischen Nutzens und die Sicherheit der Produktnutzung. 

Die klinische Bewertung ist ein kontinuierlicher Prozess, der bereits in der Konzeptions- und Entwicklungsphase eines Produkts beginnt und über den gesamten Lebenszyklus andauert. Der Hersteller sammelt, analysiert und bewertet systematisch klinische Daten, um die klinische Sicherheit und Leistung des Produkts nachzuweisen, und diese während der Vermarktungsphase zu bestätigen. Insbesondere bei KI-basierten Medizinprodukten ist die Validierung der Leistung in realen klinischen Szenarien von Bedeutung.

Nach der Markteinführung eines Produkts ist die Überwachung nach dem Inverkehrbringen (engl. Post-Market Surveillance/PMS) von entscheidender Bedeutung, um Abweichungen von den Annahmen bezüglich Leistung und Sicherheit der Produkte, die auf Grundlage der zum Markteintritt vorliegenden klinischen Daten getroffen wurden, frühzeitig zu erkennen. Diese Überwachung und die damit einher gehende kontinuierliche Verifizierung der Sicherheit und Leistung dient dem Schutz der Patienten. KI-basierte Medizinprodukte unterliegen allen zutreffenden Anforderungen der MDR in Bezug auf die Überwachung nach dem Inverkehrbringen.

Die PMS ermöglicht es, neue Erkenntnisse zu sammeln, um die Sicherheit der Patienten kontinuierlich zu gewährleisten. Auf Grundlage negativer Ergebnisse der Datenauswertung kann sich das Erfordernis ergeben, Anpassungen am Produkt vorzunehmen, Anwendern Sicherheitshinweise zum Gebrauch der Produkte zu geben, oder das Produkt vom Markt zurückzurufen. Sichere Produkte im Markt zu gewährleisten, sowie das Vertrauen in die Produkte zu sichern, liegt im wirtschaftlichen Interesse der Hersteller.

Es kann gleichzeitig auch ein persönliches Interesse der Angestellten und Entscheidungsträger von Herstellern unterstellt werden, da diese als Patienten in Situationen kommen können, in denen die entwickelten Medizinprodukte bei Ihnen selbst zum Einsatz kommen, und sich unter Umständen als lebensrettend erweisen.

Ein effektiver Bewertungsprozess erfordert eine transparente Kommunikation zwischen Herstellern, Benannten Stellen und Regulierungsbehörden. Eine zielführende Arbeitsweise und der Austausch von Informationen sind dabei entscheidend, um Missverständnisse zu vermeiden und den Prozess effizient zu gestalten. Hierbei ist insbesondere eine sorgsame Überprüfung der für die Benannte Stelle relevanten Dokumente vor Einreichung erforderlich, insbesondere um Inkonsistenzen zwischen den verschiedenen Teilen der Dokumentation auszuschließen.

Die MDR erfordert teilweise redundante Informationen in verschiedenen Dokumenten, zum Beispiel muss die Zweckbestimmung sowohl in der Gebrauchsanleitung, im klinischen Bewertungsplan, in der Planung der Marktüberwachung, etc… angegeben werden. Findet sich in den verschiedenen Dokumenten keine einheitliche Festlegung, kommt es zu einer (vermeidbaren) Rückfrage und Zeit geht verloren. Auch die Vollständigkeit der Dokumentation ist wichtig. Zu diesem Zweck stellt die Benannte Stelle eine Dokumentenliste und eine Leitlinie für Hersteller zur Verfügung.

Die Benannte Stelle TÜV Rheinland steht für den im Dokument MDCG 2022-14 beschriebenen strukturierten Dialog mit Herstellern zur Verfügung, um Unklarheiten und/oder Missverständnisse in Bezug auf offene Fragen zielgerichtet im Sinne der Patientensicherheit auszuschließen. Im nächsten Teil werden wir uns mit dem klinischen Nutzen dieser innovativen Produkte befassen und beleuchten, wie dieser im Rahmen der Bewertung nachgewiesen werden kann.

Der klinische Nutzen bezieht sich in den meisten Fällen auf die positiven Auswirkungen eines Medizinprodukts auf die Gesundheit einer Person. Des Weiteren kann der klinische Nutzen auch in einer positiven Auswirkung auf das Patientenmanagement oder die öffentliche Gesundheit bestehen.

Für den einzelnen Patienten kann der Nutzen z.B. eine verbesserte Diagnosegenauigkeit, eine Hilfestellung für eine wirksamere Behandlung oder Unterstützung in der Vorhersage des Krankheitsverlaufs umfassen. Bei KI-basierten Produkten geht es häufig darum, wie die Technologie die medizinische Praxis verbessern kann, sei es durch die Beschleunigung von Diagnoseprozessen, die Erhöhung der Genauigkeit bei der Erkennung von Krankheiten oder die Personalisierung von Therapieansätzen.

Der Nachweis des klinischen Nutzens beginnt mit einer klaren und schriftlich dokumentierten Spezifikation, worin dieser liegt. Diese erfolgt bereits bei der Planung der klinischen Bewertung als Teil des Entwicklungsprozesses. Ist der erwartete klinische Nutzen festgelegt, erfolgt die Identifizierung relevanter klinischer Ergebnisse, mit denen der klinische Nutzen gemessen werden kann. Insbesondere ist hierbei die Festlegung des Herstellers zentral, welches Ausmaß der erwartete positive Effekt der Produktanwendung auf die Gesundheit haben muss, um als klinisch relevant angesehen werden zu können.

Mit Hilfe statistischer Methoden können unter Umständen bereits kleine Effekte der Produktanwendung nachgewiesen werden, die für den Patienten oder seine Behandlung in der klinischen Praxis keine Relevanz haben. Die Beantwortung der Frage, welches die Erwartung des Behandlers oder der Patienten an den positiven klinischen Effekt des Produktes ist, erfordert eine gute Kenntnis der Krankheitsbilder, die diagnostiziert oder behandelt werden sollen, sowie der dem Stand der Medizin entsprechenden Alternativen und deren Wirksamkeit.

Die Einbindung von klinischen Experten in der Konzeptionsphase ist wichtig, um die Erstellung des klinischen Entwicklungsplanes zielgerichtet und patientenrelevant durchzuführen. Ausgehend davon können geeignete Messgrößen für die klinische Leistung und Sicherheit, geeignete Methoden für die Sammlung von Daten aus klinischen Studien oder realen Anwendungsszenarien, sowie die Annahmekriterien für die Bewertung der Ergebnisse bestimmt werden.

Diese Festlegung erfolgt bei neuen Produkten generell vor Beginn der klinischen Validierungstätigkeiten. Insbesondere für KI-basierte Medizinprodukte ist es entscheidend, nicht nur die Leistungsfähigkeit der KI unter kontrollierten Studienbedingungen zu demonstrieren, sondern auch die Wirksamkeit und Sicherheit in der realen klinischen Praxis nachzuweisen.

Eine Herausforderung beim Nachweis des klinischen Nutzens von KI-gestützten Medizinprodukten liegt häufig in der Ausgestaltung der KI als nicht deterministisches[1] (manchmal gar chaotisches[2]) System. Es besteht ein Spannungsfeld zwischen der aus den Anforderungen der MDR ableitbaren Notwendigkeit einer Vorhersagbarkeit der Ausgabe in Bezug zur Eingabe des KI-Algorithmus, und den teilweise unerwarteten Ergebnissen von KI-basierter Software. Daher ist es eine Notwendigkeit, in der Entwicklung solcher Systeme ein Augenmerk auf die angemessene Robustheit gegenüber Schwankungen in der Eingabe, sowie die Genauigkeit der Ergebnisse zu legen, und dies durch geeignete Zielgrößen in der Validierung zu überprüfen.

Diese Anforderung der MDR geht Hand in Hand mit Artikel 15 der KI-Verordnung. Durch den rasanten technologischen Fortschritt in diesem Bereich stehen für die bekannten Fehlermöglichkeiten von KI basierten Systemen meistens geeignete technische Maßnahmen zur Verfügung, um die entstehenden Risiken wirksam zu minimieren. Weiterhin gibt es KI-Systeme, welche sich im Laufe der Zeit durch eigenständiges Lernen und Anpassung verändern können, was im Gegensatz zu der Anforderung eines klar spezifizierten Produktdesigns in der MDR zu stehen scheint. Dies stellt eine besondere regulatorische Herausforderung dar.

Es existieren für diesen Fall diverse produktspezifische Lösungsansätze. Ein ungebremst in alle Richtung lernendes (allgemeines) KI-System ohne dedizierte Zweckbestimmung für eine klinische Indikation kann klar als nicht validierungsfähig im Kontext der Medizinprodukteregulierung angesehen werden, da sich solche Systeme einer verantwortungsvollen Prüfung entziehen. Es erscheint jedoch möglich, Merkmale „selbst-lernender Systeme“ zu definieren, welche im Hinblick auf eine Bewertung der Zertifizierungsfähigkeit als Medizinprodukt unter der MDR zuträglich sind. Beispiele hierfür sind:

• Nachweis eines positiven Risiko-Nutzen-Verhältnis durch die Anwendung des Lernprozesses, bspw. wenn dieser Teil der Anwendung ist (Beispiel: Vom spezifischen Patienten in der Anwendung gelernte Stellwerte für Parameter zur Therapiesteuerung bis hin zur Anwendung patientenspezifischer Modelle)
• Eine Vorvalidierung produktspezifischer Lösungsräume welche durch den Lernprozess im Feld im Rahmen der zuvor abgesteckten Grenzen erschlossen werden können. Also, wenn der begrenzte, sichere Raum, in welchem das Gelernte angewendet wird, vor Freigabe verifiziert und validiert ist. (ähnl. Predetermined Change Control Plan der United States FDA)
• Die Implementierung angemessener (deterministischer) Kontrollalgorithmen welche unsicheren Entscheidungen des KI-Systems verhindern. (bspw. die Dosis eines Medikaments bei einer Medikamentenpumpe)

Der Vollständigkeit halber sei erwähnt, das KI-Systeme, welche mit statischen Modellen arbeiten, im Feld also nichts dazu lernen, bereits regelmäßig von Benannten Stellen unter der MDR zertifiziert werden.

Hersteller von Medizinprodukten müssen der Benannten Stelle (Konformitätsbewertungsverfahren) und behördlichen Kontrollorganen (Überwachung nach dem Inverkehrbringen) schlüssig darlegen, wie alle zutreffenden Anforderungen der MDR dokumentiert erfüllt werden. Insbesondere erfordert die Bewertung von KI-Produkten spezifische Kenntnisse und Erfahrungen sowohl in der Technologie als auch in der klinischen Anwendung.

[1] Ein nicht-deterministisches System ist ein System, das bei gleicher Eingabe zu unterschiedlichen Ergebnissen führen kann. Neben KI-Systemen gehören dazu auch biologische Systeme, wie das Gehirn.
[2] Ein chaotisches System ist dadurch gekennzeichnet, dass bereits kleine Änderungen der Eingangsgrößen zu großen Unterschieden bei der Ausgabe führen.

Ein anschauliches Beispiel für den klinischen Nutzen ist eine KI-gestützte Software für die Diagnose von Hautkrebs, die Dermatologen unterstützen kann, Melanome mit höherer Genauigkeit zu erkennen. Ein weiteres Beispiel ist ein KI-System, das Angaben zur Wahrscheinlichkeit eines Herzinfarkts treffen kann, indem es Muster in EKG-Daten erkennt, die für den Menschen unsichtbar sind. Gleichzeitig sind viele Anwendungsfälle Beispiele dafür, dass die Erwartung, dass KI-basierte Anwendung die Rolle des Diagnostikers oder Therapeuten übernehmen, ungerechtfertigt ist.

KI-basierte Medizinprodukte sind als Ergänzung der Werkzeuge zu sehen, die dazu dienen, um Patienten zu behandeln, und Behandlungserfolge zu verbessern. Sie sind kein Ersatz für den Arzt. Wie auch in der neuen KI-Verordnung festgelegt, ist eine menschliche Kontrolle der Ergebnisse stets erforderlich, um die sichere Anwendung von Hochrisiko-KI Anwendungen zu gewährleisten. Es bestehen spezifische Limitierungen und Besonderheiten im Bereich KI, welche den Entwicklern und Anwendern bekannt sein müssen, um einen verantwortungsvollen Umgang mit den neuen Technologien zu gewährleisten.

Ein Beispiel ist eine beobachtete nicht diskriminierungsfreie Leistung von Diagnosealgorithmen, die eine unterschiedliche diagnostische Güte in Abhängigkeit von z.B. der Hautfarbe oder Herkunft der Patienten aufwiesen. In medico-legalen Zusammenhängen kann sich zudem stets auch die Frage nach der Verantwortlichkeitszuweisung stellen, wenn ein nicht korrektes Ergebnis einer KI unkontrolliert übernommen wird, und auf Grund dessen ein Patient nicht optimal behandelt wurde.

Diese Beispiele zeigen, wie KI die Effizienz medizinischer Diagnostik und Behandlung steigern kann. Sie machen aber auch deutlich, dass es noch offene Frage in Bezug auf solche Technologien bestehen, die umfassend evaluiert werden müssen, um sicherzustellen, dass sie den Patienten und dem Gesundheitssystem tatsächlich einen Mehrwert bringen.

Der klinische Nutzen ist der Schlüssel für die Akzeptanz und den Erfolg von KI-basierten Medizinprodukten. Durch den sorgfältigen Nachweis dieses Nutzens können Hersteller nicht nur regulatorische Hürden überwinden, sondern auch das Vertrauen von Ärzten und Patienten in ihre innovativen Produkte stärken. Der Weg dorthin erfordert eine zielführende Umsetzung der regulatorischen Erfordernisse auf Seiten von Entwicklern, Klinikern und Regulierungsbehörden, um sicherzustellen, dass die Vorteile von KI-Technologien voll ausgeschöpft und potenzielle Risiken minimiert werden.

• Herausforderung: KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Ungenügende Datenqualität oder mangelnde Repräsentativität der Daten können zu Verzerrungen oder ungenauen Vorhersagen führen.
• Lösungsansatz: Gewährleistung der Datenqualität durch sorgfältige Auswahl und Aufbereitung der Trainingsdaten. Diversität und Repräsentativität der Daten müssen berücksichtigt werden, um Verzerrung (Bias) zu minimieren. Partnerschaften mit klinischen Einrichtungen können den Zugang zu qualitativ hochwertigen und repräsentativen Daten erleichtern.

• Herausforderung: Die „Black Box“-Natur vieler KI-Systeme erschwert es, Entscheidungen des Systems nachzuvollziehen. Dies kann das Vertrauen in KI-basierte Systeme mindern. Die Entwicklung und Anwendung von Techniken, die es ermöglichen, die Entscheidungsfindung von Algorithmen besser zu verstehen und zu kommunizieren ist Gegenstand aktueller Forschungs- und Entwicklungsarbeit und der Stand der Technik verändert sich schnell.
• Lösungsansatz: Großen Erfolg versprechen hier Methoden, bei welchen die Entscheidung des Systems im entsprechenden Eingangsdatensatz die entscheidungsgebende Eingangsgrößen im Eingangsdatensatz identifizieren und dem Anwender nachvollziehbar zu markieren. (Ist die Entscheidungsgrundlage hinreichend? Kommt der Anwendung zur gleichen Entscheidung, wie das KI-System, wenn die markierte Entscheidungsgrundlage der KI bewertet wird?)

Bei komplexeren KI-Systemen, in denen die Kenntlichmachung im Eingangsdatensatz nicht mehr praktikabel ist, können der Einsatz von weiteren technischen Methoden (bspw. Activation Maximization, (selective) ‚Layer-Wise Relevance Propagation‘, kurz LRP und ‚Shapley Additive Explanations‘, kurz SHAP u.v.m.) zur Erhöhung der Transparenz und Erklärbarkeit von KI-Entscheidungen beitragen.

• Herausforderung: Die sich schnell entwickelnde Natur der KI und die bestehenden regulatorischen Rahmenbedingungen sind nicht immer synchronisiert, was zu Unsicherheiten bei der Zulassung führen kann.
• Lösungsansatz: Einbindung von klinischen und regulatorischen Experten schon in den frühen Phasen der Produktentwicklung. Sorgfältige Planung des Entwicklungsprozesses sowie umfassende und systematische Analyse der Entwicklungseingaben. Nutzung von qualifizierten Beratungsangeboten entsprechender Dienstleister und, soweit möglich, Regulierungsbehörden, um eine klare Linie hinsichtlich der regulatorischen Anforderungen zu erhalten.

• Herausforderung: Der Nachweis des klinischen Nutzens und die Validierung der KI-Leistung unter realen Bedingungen können komplex und ressourcenintensiv sein.
• Lösungsansatz: Erstellen eines klinischen Entwicklungsplanes gemäß Anforderung der MDR. Beachten der Norm EN ISO 14155:2020, sowie der darin dargestellten Phasen der klinischen Entwicklung und geeigneten Studienmethoden. Planung der klinischen Validierung in Partnerschaft mit klinischen Einrichtungen, unter Beachtung der Zielmärkte sowie eine für die Produktanwendung nach Markteintritt repräsentativen Patientenkollektives. Hierbei können insbesondere bei KI-basierten Produkten unter anderem die geographische Lokalisation und damit zusammenhängende Unterschiede in der Epidemiologie der zu diagnostizierenden oder zu behandelnden Krankheit, die Zusammensetzung des Patientenkollektives, die Verfügbarkeit anderer Produkte im Zielmarkt die in Kombination eingesetzt werden (z.B. die im Zielmarkt vorhandenen CT Scanner bei eine KI-Software die CT Bilder auswertet), Besonderheiten der Gesundheitssysteme und der regionalen Diagnose- und Therapiepfade, etc… eine Rolle für die Planung der Validierung spielen.

• Herausforderung: Die Einführung neuer KI-Systeme in bestehende klinische Arbeitsabläufe kann auf Widerstände stoßen und ist oft mit technischen und organisatorischen Herausforderungen verbunden.
• Lösungsansatz: Entwicklung von KI-Systemen mit einem starken Fokus auf Benutzerfreundlichkeit, Gebrauchstauglichkeit und Integration. Frühe Einbindung von Endanwendern, wie Ärzten und Pflegepersonal, in den Entwicklungsprozess, um sicherzustellen, dass die Systeme ihren Bedürfnissen entsprechen und nahtlos in bestehende Prozesse integriert werden können.

Die Bewältigung dieser Herausforderungen erfordert einen multidisziplinären Ansatz, der Technologie, Medizin und Regulierung umfasst. Durch die Anwendung bewährter Lösungsstrategien können Unternehmen die Akzeptanz und den Erfolg ihrer KI-gestützten Medizinprodukte maximieren und letztlich die Patientenversorgung positiv beeinflussen.

Der ‘EU AI Act’ oder KI-Verordnung ist ein bahnbrechendes Gesetz der Europäischen Union, dass die Nutzung von KI-Systemen regulieren soll, um Risiken zu minimieren und gleichzeitig Innovationen zu fördern. Das Gesetz wurde am 13. März 2024 vom Europäischen Parlament verabschiedet und bietet einen umfassenden Rechtsrahmen für die Entwicklung, den Vertrieb und die Nutzung von KI-Systemen in der EU. Unter anderem sieht das Gesetz die Einteilung von KI-Systemen in abgestufte Risikogruppen vor. Systeme mit höherem Risiko unterliegen strengeren Anforderungen.

Zum Beispiel müssen Entwickler von KI-Systemen, die in die höchste Risikokategorie fallen, umfassende Dokumentationen über die Datenverarbeitung, die Algorithmen-Logik sowie Maßnahmen zur Fehlerminimierung und zur Gewährleistung der Transparenz vorlegen. Diese detaillierten Anforderungen zielen darauf ab, das Vertrauen in KI-Technologien zu stärken und gleichzeitig sicherzustellen, dass diese Technologien keinen Schaden anrichten.

Für Hersteller von KI-basierten Medizinprodukten ist es wichtig, das Zusammenspiel zwischen dem EU AI Act und der MDR zu verstehen. Die MDR legt spezifische Anforderungen an die Sicherheit und Leistung von Medizinprodukten fest. Zum Beispiel verlangt die MDR, dass alle Medizinprodukte, einschließlich KI-basierter Systeme, den einschlägigen Anforderungen dieser Regulierung dokumentiert entsprechen. Der EU AI Act führt zusätzliche Anforderungen spezifisch für KI-basierte Produkte ein, insbesondere in Bezug auf Transparenz, Überwachung und Zertifizierung von KI-Systemen. Beide Regularien sind somit für KI-basierte Medizinprodukte verpflichtend.

Unternehmen werden in Zukunft durch die Regulierung von KI, welche deutlich spezifischer wird, einen verlässlichen Rechtsrahmen vorfinden, innerhalb dessen Sie sich bewegen. Die Anforderungen des EU AI Act, wie die Einstufung von KI-Systemen nach Risikogruppen, die Einhaltung von Qualitäts- und Sicherheitsstandards und die Bereitstellung von Dokumentationen zur Nachvollziehbarkeit, beeinflussen die Entwicklungs- und Zulassungsprozesse.

Die Regulierung schafft jedoch auch Klarheit in Bezug auf erlaubte und nicht erlaubte Anwendungen von KI, und in Bezug auf allgemein als gute Praxis erachtete Vorgehensweisen in der Entwicklung und Überwachung von insbesondere Produkten mit hohem Risiko.

• Frühzeitige Anpassung: Die Überprüfung bestehender Compliance-Strategien und Produktentwicklungsprozesse auf die Übereinstimmung mit den neuen Anforderungen des ‘EU AI Act’ beinhaltet die Bewertung der Risikoklassifizierung der KI-Systeme und die Sicherstellung, dass diese mindestens den regulatorisch notwendigen Standards für Sicherheit und Transparenz entsprechen.
• Fortlaufende Bildung und Partnerschaften: Angesichts der Komplexität und des Umfangs der regulatorischen Anforderungen ist es wichtig, dass Unternehmen in fortlaufende Bildung investieren und Partnerschaften mit Experten und Beratern aufbauen. Dies kann helfen, regulatorische Hürden zu überwinden und eine frühzeitige Compliance zu gewährleisten.
• Aktive Teilnahme am Diskurs: Unternehmen sowie Branchenverbände, sowie die Interessensverbände der Benannten Stellen nehmen am regulatorischen Diskurs teil, geben Rückmeldung zu Gesetzesentwürfen geben und tauschen sich mit Regulierungsbehörden aus. Im Kontext der neuen Regulierung von AI kann die Fortsetzung dieses Austausches dazu beitragen, die Sicherheit der Patienten zu gewährleisten, Innovation zu fördern, und gleichzeitig die praktikable und faire Umsetzung des Regulierungsrahmens zu gestalten.

Die Zukunft der Regulierung von KI-basierten Medizinprodukten steht vor wichtigen Entwicklungen. Der ‘EU AI Act’ in Verbindung mit der MDR wird die Landschaft prägen, in der Medizintechnikunternehmen agieren. Durch eine proaktive Vorbereitung und Anpassung an die neuen Anforderungen können Unternehmen nicht nur die regulatorische Compliance sicherstellen, sondern auch eine führende Rolle in der innovativen Welt der KI-basierten Medizintechnik einnehmen.

• Regulatorischer Rahmen: Die MDR bietet einen festen Rahmen für die Sicherheit und Leistungsfähigkeit von Medizinprodukten, während der ‘EU AI Act’ spezifische Anforderungen für KI-Systeme einführt. Das Verständnis und die Einhaltung beider sind entscheidend für das erfolgreiche und sichere Inverkehrbringen von KI-basierten Medizinprodukten.
• Konformitätsbewertung: Der Bewertungsprozess erfordert eine sorgfältige Planung und Durchführung seitens des Herstellers, insbesondere in Bezug auf die klinische Bewertung und die Post-Market Surveillance. Die Rolle der Benannten Stellen ist hierbei von zentraler Bedeutung.
• Klinischer Nutzen: Der Nachweis des klinischen Nutzens ist ein Kernelement für die Akzeptanz und den Erfolg von KI-basierten Medizinprodukten. Eine klare Definition und robuste Validierung des klinischen Nutzens sind unerlässlich.
• Gemeinsame Herausforderungen: Herausforderungen wie Datenqualität, Algorithmus-Transparenz, Einhaltung regulatorischer Anforderungen, klinische Validierung und Integration in klinische Workflows erfordern produktspezifische, gezielte Lösungsansätze.

1. Frühzeitige Engagement und Planung: Die Umsetzung neuer Regulierungsvorgaben benötigt Zeit. Ein früher Beginn der Planung für die Einhaltung der MDR und des ‘EU AI Act’ erleichtert es rechtzeitig sicherzustellen, dass Ihre Produkte den regulatorischen Anforderungen entsprechen.
2. Investition in Datenqualität und Diversität: Trainingsdaten und Methodiken, die von hoher Qualität sind und repräsentativ für den geplanten klinischen Anwendungsfall sind, helfen das Risiko von Verzerrung zu minimieren und die Genauigkeit vom KI-Systemen zu maximieren.
3. Fokus auf Transparenz und Erklärbarkeit: Die Entwicklung von KI-Systeme mit einem Schwerpunkt auf Transparenz und Erklärbarkeit erleichtert es, das Vertrauen der Benutzer und der Regulierungsbehörden zu gewinnen.
4. Proaktive Kommunikation mit Benannten Stellen: Eine proaktive Kommunikation mit Benannten Stellen und Regulierungsbehörden ist hilfreich, um Klarheit über die Anforderungen und Erwartungen zu erhalten.
5. Partnerschaften und Kooperationen: Partnerschaften mit klinischen Einrichtungen und anderen Partnern können den Zugang zu Daten erleichtern, um Trainingsdaten zu gewinnen, die klinische Validierung zu unterstützen und die Integration in klinische Workflows zu unterstützen.
6. Kontinuierliche Bildung und Anpassung: Bleiben Sie über die neuesten Entwicklungen im Bereich der KI und Regulierung informiert und passen Sie Ihre Strategien entsprechend an. Wenn Sie Ihre Mitarbeiter gezielt im Bereich Künstliche Intelligenz in der Medizintechnik weiterbilden möchten, finden Sie passende Angebot der TÜV Rheinland Akademie auf unserer übersichtlichen Themenseite.