Künstliche Intelligenz hat die Fähigkeit bewiesen, Dokumente zusammenzufassen, Inkonsistenzen zu identifizieren, Zeitpläne zu organisieren, Muster zu erkennen und komplexe Analysen zu unterstützen. Im Bereich der Arbeitssicherheit können diese Fähigkeiten repetitive Arbeitslasten reduzieren und die Informationsverfügbarkeit verbessern. Es entstehen jedoch erhebliche Risiken, wenn sensible Daten an unkontrollierte Werkzeuge übermittelt werden oder wenn algorithmische Empfehlungen fälschlicherweise als endgültige medizinische Entscheidungen behandelt werden. Der strategische Fokus für Organisationen sollte nicht darauf liegen, ob KI eingesetzt werden soll, sondern vielmehr auf die Definition ihres spezifischen Zwecks, der beteiligten Daten, der verantwortlichen Parteien und der Mechanismen zur Überprüfung. Da sich die Auswirkungen auf die Gesundheit der Arbeitnehmer, ihre Eignung, Beschäftigung und Rechte erhöhen, wächst auch die Notwendigkeit einer rigorosen Governance proportional.

Ein entscheidender Entwicklungsschritt erfolgte am 27. Februar 2026, als der Bundesrat für Medizin (CFM) die Resolution Nr. 2.454/2026 veröffentlichte. Diese Verordnung legt Normen für Forschung, Entwicklung, Governance, Auditierung, Überwachung, Schulung und den verantwortungsvollen Einsatz von KI in der Medizin fest. Obwohl veröffentlicht, befindet sich die Resolution derzeit in einer Übergangsphase und wird offiziell 180 Tage nach Veröffentlichung in Kraft treten, was das Inkrafttreten auf Juli 2026 datiert. Die Norm erlaubt KI als Unterstützungswerkzeug für klinische Entscheidungsfindung und Gesundheitsmanagement, behält jedoch ausdrücklich die letzte Entscheidungsbefugnis dem Arzt vor. Zu den wichtigsten Anforderungen gehören eine klare Information der Patienten über die Beteiligung von KI, die Aufzeichnung des KI-Einsatzes als Entscheidungshilfe, Risikoklassifizierung, menschliche Aufsicht und Datenschutz.

Während das Gesetz zum Schutz personenbezogener Daten (LGPD) und die geltenden sanitären Vorschriften bereits in Kraft sind, ist die spezifische CFM-Resolution erst nach Ablauf der Übergangsphase verbindlich. Dennoch wird Organisationen geraten, sich sofort auf diese Standards vorzubereiten. KI kann Wert in mehreren Bereichen generieren: administrative Routinen wie Dokumentenklassifizierung und Terminplanung; Informationsqualität durch Erkennung von Duplikaten oder fehlenden Daten; aggregierte Analyse von Trends bei Untersuchungen und Fehlzeiten ohne Offenlegung individueller Aufzeichnungen; medizinische Unterstützung durch Abruf von Referenzen und Generierung von Hypothesen; sowie Kommunikation durch Anpassung präventiver Materialien für verschiedene Zielgruppen. Diese Vorteile sind jedoch nicht automatisch gegeben. Zusammenfassungen können kritische Details auslassen, Modelle können Vorurteile reproduzieren und Korrelationen könnten fälschlicherweise als Kausalität interpretiert werden. Geschwindigkeitsgewinne führen nur dann zu Qualitätsverbesserungen, wenn sie von Validierung, definierten Grenzen und Rechenschaftspflicht begleitet werden.

Drei spezifische Bereiche erfordern bei der Einführung von KI maximale Vorsicht. Erstens dürfen Gesundheitsdaten wie medizinische Akten, Berichte und Diagnosen nicht in offene Werkzeuge kopiert werden, die über keine angemessenen Verträge, Sicherheitsvorkehrungen und Governance verfügen. Zweitens sollten automatisierte Scores niemals unabhängig die Eignung eines Arbeitnehmers, Einschränkungen oder die Bereitschaft zur Rückkehr an den Arbeitsplatz entscheiden. Drittens kann das Profiling von Arbeitnehmern, um den psychischen Gesundheitszustand, das Fehlzeitenrisiko, die Produktivität oder die Zuverlässigkeit für Auswahl- oder Disziplinarzwecke abzuleiten, Rechte verletzen und Diskriminierung verstärken. Die LGPD klassifiziert Gesundheitsdaten als sensible personenbezogene Informationen und garantiert Rechte gegen Entscheidungen, die ausschließlich auf automatisierter Verarbeitung basieren und die Interessen des Einzelnen beeinträchtigen. Die Nationale Datenschutzbehörde (ANPD) empfiehlt die Erstellung eines Berichts über die Auswirkungen auf den Schutz personenbezogener Daten in Hochrisikokontexten, einschließlich der großflächigen Verarbeitung sensibler Daten oder ausschließlich automatisierter Entscheidungen.

Darüber hinaus qualifiziert sich nicht jede im Gesundheitswesen verwendete Software als Medizinprodukt. Wenn jedoch der erklärte Zweck und die Funktionalität einer Lösung diese als „Software als Medizinprodukt

Quellen: G1.