Künstliche Intelligenz in der Medizin: TÜV warnt vor gefährlichen Sicherheitslücken
Der Einsatz von Künstlicher Intelligenz in Kliniken, Pflegeeinrichtungen und Arztpraxen schreitet rasant voran. Ob automatisierte Bilderkennung in der Radiologie, KI-gestützte Pflegeassistenzsysteme oder smarte Diagnose-Software: Digitale Helfer übernehmen immer verantwortungsvollere Aufgaben. Doch ausgerechnet bei der Regulierung dieser sensiblen Technologien droht nun ein gefährlicher Rückschritt. Anlässlich des Treffens der europäischen Gesundheitsministerinnen und -minister in Dublin warnt der TÜV-Verband eindringlich vor einer Aufweichung bestehender Sicherheitsstandards für KI-Medizinprodukte.
Umstrittener Sektor-Exit im Windschatten der MDR-Reform
Hintergrund der Debatte ist die laufende Überarbeitung der europäischen Medizinprodukte-Verordnungen (MDR und IVDR). Ziel der Reform ist es eigentlich, bürokratische Hürden für Hersteller abzubauen und Zulassungsprozesse zu beschleunigen. Nach Plänen der EU-Kommission sollen Medizinprodukte nun jedoch aus dem direkten Anwendungsbereich strenger Kernvorgaben des europäischen KI-Gesetzes (AI Act) herausgelöst werden – ein Schritt, der in Fachkreisen als „Sektor-Exit“ bezeichnet wird.
Sollte dieser Vorschlag umgesetzt werden, würden essenzielle Vorgaben für Hochrisiko-KI bei Medizinprodukten nicht mehr unmittelbar greifen. Betroffen wären fundamentale Qualitäts- und Sicherheitskriterien wie:
- Menschliche Aufsicht: Verpflichtende Kontrollmöglichkeiten durch Ärztinnen, Ärzte oder Pflegefachkräfte vor therapeutischen Entscheidungen.
- Transparenz und Nachvollziehbarkeit: Klare Dokumentation darüber, auf welcher Datenbasis ein Algorithmus Empfehlungen ausspricht.
- Datenqualität und Nicht-Diskriminierung: Vermeidung von Fehlinterpretationen durch fehlerhafte oder unvollständige Trainingsdaten.
- Technische Robustheit und Cybersicherheit: Schutz der Systeme vor Ausfällen und digitalen Angriffen.
Patientenschutz darf kein Verhandlungsgegenstand sein
Der TÜV-Verband kritisiert die Pläne scharf. Wenn Algorithmen eigenständig Diagnosen stellen oder Medikations- und Therapiepläne vorschlagen, seien klare Sicherheitsregeln kein bürokratischer Ballast, sondern unverzichtbarer Patientenschutz. Werden die zentralen Schutzvorschriften des AI Acts für medizinische Software gestrichen, müsste die EU-Kommission diese Regeln später über separate Rechtsakte mühsam neu aufbauen – was dem Ziel des Bürokratieabbaus diametral widerspreche.
Widerspruch zur internationalen Sicherheitsdebatte
Besonders brisant: Die Pläne zur Deregulierung stehen im deutlichen Widerspruch zu den jüngsten politischen Absichtserklärungen auf europäischer und internationaler Ebene. Führende Staats- und Regierungschefs hatten sich zuletzt ausdrücklich für verpflichtende, unabhängige Prüfungen und strenge Evaluierungen leistungsstarker KI-Modelle ausgesprochen. Ein Aufweichen der Regeln im hochsensiblen Gesundheits- und Pflegebereich würde diesem Kurs klar entgegenstehen.
Für Pflegekräfte, medizinisches Personal sowie Patientinnen und Patienten steht viel auf dem Spiel. Künstliche Intelligenz kann den Arbeitsalltag spürbar entlasten und die Versorgungsqualität steigern – das Vertrauen in digitale Assistenten setzt jedoch voraus, dass ihre Sicherheit und Zuverlässigkeit kompromisslos garantiert bleiben.
Brauchen Sie Unterstützung bei der Pflege?
PflegeHelfer24 ist Ihr verlässlicher Partner. Entdecken Sie unsere Ratgeber oder lassen Sie sich kostenlos zu Pflegehilfsmitteln, Treppenliften und Zuschüssen beraten.
