Umgang mit KI: 10 Dos and Don’ts für Arbeitgeber im Gesundheitswesen

Künstliche Intelligenz kann Arbeitgeber im Gesundheitswesen dabei unterstützen, Abläufe zu vereinfachen, Beschäftigte zu entlasten und medizinische Entscheidungen vorzubereiten. Gleichzeitig entstehen neue Anforderungen an Datenschutz, Qualität, Verantwortung und Patientensicherheit.

Deshalb braucht der Umgang mit KI klare Regeln: Sie sollten geeignete Anwendungen auswählen, Mitarbeitende schulen, Zuständigkeiten festlegen und KI-Ergebnisse kontrollieren. Besonders sensible Gesundheitsdaten und Entscheidungen benötigen einen hohen Schutz.

KI sollte Fachkräfte dabei unterstützen, ihre Aufgaben sicherer und effizienter zu erledigen – sie sollte ihre fachliche Verantwortung jedoch nicht ersetzen. Die folgenden Dos und Don’ts zeigen Ihnen, worauf Sie dabei achten sollten.

Sicherer Umgang mit KI im Gesundheitswesen – 5 Dos für Arbeitgeber

KI kann Beschäftigte im Gesundheitswesen bei Diagnostik, Dokumentation, Verwaltung und vielen weiteren Aufgaben unterstützen. Gleichzeitig entstehen neue Anforderungen an Datenschutz, Qualität und Verantwortung. Denn KI liefert nicht automatisch richtige oder geeignete Ergebnisse.

Gerade im Gesundheitswesen können fehlerhafte Informationen weitreichende Folgen haben. Deshalb sollten Sie den Einsatz von KI nicht dem Zufall überlassen, sondern klare Rahmenbedingungen schaffen. Die folgenden fünf Maßnahmen helfen Ihnen dabei, KI sicher und verantwortungsvoll in Ihren Arbeitsalltag zu integrieren.

1. Klare Regeln für die Verarbeitung von Daten mit KI festlegen

Legen Sie eindeutig fest, welche Informationen Ihre Mitarbeitenden in KI-Systeme eingeben dürfen und welche nicht. Das ist besonders wichtig, wenn Beschäftigte mit Gesundheitsdaten oder anderen personenbezogenen Informationen arbeiten. Gesundheitsdaten sind besonders sensibel und müssen vor unbefugtem Zugriff und einer unzulässigen Verarbeitung geschützt werden.

Benennen Sie deshalb die KI-Anwendungen, die in Ihrem Unternehmen eingesetzt werden dürfen. Prüfen Sie vor der Freigabe unter anderem, wie der Anbieter mit eingegebenen Daten umgeht, wo diese verarbeitet werden und für welche Zwecke sie verwendet werden.

Stellen Sie außerdem sicher, dass für die Verarbeitung personenbezogener Daten eine geeignete Rechtsgrundlage besteht und bei Gesundheitsdaten die zusätzlichen Voraussetzungen für besonders geschützte Daten erfüllt sind. Prüfen Sie, ob eine Datenschutz-Folgenabschätzung erforderlich ist.

Ergänzen Sie diese Vorgaben durch leicht verständliche Beispiele aus dem Arbeitsalltag. So wissen Ihre Mitarbeitenden beispielsweise, ob sie KI für allgemeine Formulierungshilfen nutzen dürfen und wann Patienten- oder Beschäftigtendaten tabu sind.

Personalentwicklung

Von Karriereplanung über Skill-Management bis zu Führungskräfteentwicklung: So steigern Sie die Mitarbeitermotivation und binden Ihre Fachkräfte.

Mehr zu Personalentwicklung

2. Mitarbeitende für einen sicheren Umgang mit KI qualifizieren

Erklären Sie Ihren Beschäftigten, wie KI grundsätzlich funktioniert und wo ihre Grenzen liegen. Machen Sie deutlich, dass KI falsche, unvollständige oder verzerrte Ergebnisse erzeugen kann.

Artikel 4 der EU-KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen bereits seit dem 2. Februar 2025, Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten und weiterer beteiligter Personen zu ergreifen. Eine bestimmte Schulungsform oder ein einheitliches Zertifikat sind dabei nicht vorgeschrieben.

Nutzen Sie für Schulungen konkrete Arbeitssituationen. Zeigen Sie beispielsweise, wie Mitarbeitende KI-generierte Texte prüfen, sensible Daten schützen und Fehler erkennen können. Berücksichtigen Sie dabei unterschiedliche Berufsgruppen und Vorkenntnisse. Wiederholen Sie Schulungen regelmäßig, wenn sich Anwendungen oder Einsatzbereiche verändern.

Denken Sie außerdem daran, Ihre Schulungen zu dokumentieren. Wichtige Punkte sind hierbei:

• Wer hat teilgenommen? Denken Sie an eine Teilnehmerliste Ihres Teams.
• Wann und wie lange fand die Maßnahme statt? Notieren Sie Datum  und Dauer der Schulung.
• Was waren die Inhalte? Das könnten z. B. technische Grundlagen, Risiken wie Halluzinationen, Datenschutz, Urheberrecht und interne KI-Richtlinien sein.
• Warum gab es die Schulung? Es reicht eine kurze, einprägsame Begründung, warum diese Schulung für die konkreten Aufgaben deines Teams und die genutzten KI-Tools notwendig war.

3. Verantwortlichkeiten für KI-Anwendungen eindeutig festlegen

Legen Sie fest, wer KI-Ergebnisse prüft und wer für Entscheidungen verantwortlich bleibt. Besonders bei medizinischen oder personalbezogenen Entscheidungen sollte klar sein, dass die Verantwortung bei einer Person und nicht bei der KI liegt.

Bestimmen Sie außerdem, wer neue Anwendungen auswählt, bewertet und freigibt. Je nach Einsatzbereich können Sie dabei zum Beispiel medizinische Fachverantwortliche, Datenschutz, IT oder Informationssicherheit einbeziehen. Dokumentierte Zuständigkeiten helfen Ihren Mitarbeitenden auch bei Fragen oder auffälligen Ergebnissen.

Beziehen Sie außerdem den Betriebsrat ein, sofern ein solcher besteht und Beteiligungsrechte betroffen sind. Nach § 90 BetrVG muss der Arbeitgeber den Betriebsrat über geplante Arbeitsverfahren und Arbeitsabläufe einschließlich des Einsatzes von KI rechtzeitig informieren und beraten. Unter bestimmten Voraussetzungen bestehen zudem Mitbestimmungsrechte nach § 87 BetrVG, etwa bei technischen Einrichtungen zur Leistungs- oder Verhaltensüberwachung.

4. Verbindliche Qualitätskontrollen für KI-Ergebnisse einführen

Behandeln Sie KI-generierte Inhalte grundsätzlich als Vorschlag und nicht als geprüfte Tatsache. Fachlich relevante Informationen, Dokumentationen oder Empfehlungen sollten vor ihrer Verwendung kontrolliert werden.

Legen Sie für häufig genutzte Anwendungen feste Prüfprozesse fest. Definieren Sie, welche Ergebnisse immer kontrolliert werden müssen und wie Mitarbeitende Fehler melden. Dokumentieren Sie wiederkehrende Auffälligkeiten und passen Sie Prozesse bei Bedarf an. So verbessern Sie die Qualität und erkennen Schwachstellen frühzeitig.

5. Patienten bei jedem KI-Einsatz priorisieren

Prüfen Sie vor der Einführung einer KI-Anwendung, welche Folgen ein fehlerhaftes Ergebnis auf Patienten haben könnte. Je stärker ein System Diagnosen, Behandlungen oder andere sicherheitsrelevante Prozesse beeinflusst, desto strenger sollten Ihre Kontrollen sein.

Testen Sie neue Anwendungen zunächst in einem klar begrenzten Bereich. Prüfen Sie außerdem, ob Ergebnisse für unterschiedliche Patienten zuverlässig sind. Behalten Sie auch die Arbeitsbedingungen Ihrer Beschäftigten im Blick. KI sollte Arbeit erleichtern und nicht durch zusätzliche Kontrollen oder unklare Abläufe neue Belastungen schaffen.

Prüfen Sie bei KI-Anwendungen für medizinische Zwecke außerdem, ob diese als Medizinprodukt gelten und die entsprechenden Anforderungen erfüllen. Maßgeblich ist insbesondere die medizinische Zweckbestimmung der Software.

Rechte & Pflichten

Essenzielle Tipps zu Arbeitsverträgen, Kündigungsschutz, Fürsorgepflichten und aktuellen Gesetzesänderungen: Informiert bleiben und kostspielige Fehler vermeiden.

Mehr zu Rechte & Pflichten

Umgang mit KI im Gesundheitswesen – Diese Fehler sollten Sie vermeiden

KI kann viele Arbeitsprozesse im Gesundheitswesen erleichtern. Gleichzeitig entstehen Risiken, wenn Anwendungen ohne klare Regeln, ausreichende Kontrolle oder passende Schulungen eingesetzt werden. Deshalb sollten Sie nicht nur festlegen, wie KI genutzt werden darf, sondern auch deutlich machen, welche Vorgehensweisen Sie vermeiden möchten.

Die folgenden fünf Punkte helfen Ihnen dabei, typische Fehler frühzeitig zu erkennen und Risiken für Beschäftigte, Patienten und Ihre Organisation zu reduzieren.

1. Personenbezogene oder sensible Daten nicht unkontrolliert in KI-Tools eingeben

Vermeiden Sie, dass Mitarbeitende personenbezogene oder sensible Informationen ohne Prüfung in öffentliche oder nicht freigegebene KI-Anwendungen eingeben. Gerade Gesundheitsdaten benötigen einen besonders hohen Schutz. Bei frei verfügbaren KI-Diensten ist nicht immer eindeutig, wie eingegebene Informationen verarbeitet, gespeichert oder weiterverwendet werden.

Machen Sie Datenschutz deshalb zu einem verbindlichen Bestandteil Ihrer KI-Regeln. Legen Sie klar fest, welche Daten verarbeitet werden dürfen und welche Informationen nicht in KI-Systeme gehören. Sensibilisieren Sie Ihre Mitarbeitenden außerdem anhand konkreter Beispiele. So erkennen sie im Arbeitsalltag schneller, wann eine Eingabe datenschutzrechtlich problematisch sein kann.

Selbst Arbeitgeber?

Mit dem Arbeitgeber-Newsletter keine Recruiting-Themen mehr verpassen!

Jetzt anmelden

2. Nicht davon ausgehen, dass Mitarbeitende KI intuitiv richtig einsetzen

Gehen Sie nicht davon aus, dass alle Beschäftigten automatisch wissen, wie sie KI sicher und sinnvoll nutzen. Die Vorkenntnisse können stark variieren. Während einige Mitarbeitende bereits regelmäßig mit KI arbeiten, haben andere möglicherweise kaum Erfahrung mit solchen Anwendungen.

Bieten Sie deshalb gezielte Schulungen an und vermitteln Sie sowohl technische Grundlagen als auch mögliche Fehler und Grenzen von KI. Berücksichtigen Sie dabei unterschiedliche Berufsgruppen und typische Arbeitssituationen.

Planen Sie außerdem regelmäßige Auffrischungen ein, wenn sich Anwendungen, Funktionen oder Einsatzbereiche verändern. So entwickeln Ihre Mitarbeitenden Schritt für Schritt die notwendige KI-Kompetenz.

3. Verantwortung nicht an die KI delegieren

Überlassen Sie wichtige Entscheidungen nicht allein einem KI-System. KI kann Informationen aufbereiten, Muster erkennen oder Vorschläge liefern. Sie kann jedoch auch falsche, unvollständige oder verzerrte Ergebnisse erzeugen. Deshalb sollten Ihre Mitarbeitenden KI-Ausgaben nicht automatisch als korrekt behandeln.

Stellen Sie besonders bei Entscheidungen mit Auswirkungen auf Patienten oder Beschäftigte sicher, dass ein Mensch die Ergebnisse bewertet und die Verantwortung für die Entscheidung übernimmt. Definieren Sie dafür klare Zuständigkeiten. So bleibt jederzeit nachvollziehbar, wer eine Entscheidung geprüft und freigegeben hat.

4. KI-Ergebnisse nicht ungeprüft in Prozesse übernehmen

Übernehmen Sie KI-generierte Vorschläge nicht direkt in Diagnostik, Therapie, Dokumentation oder andere Prozesse. Eine automatisierte Ausgabe ersetzt keine fachliche Bewertung.

Legen Sie fest, welche Ergebnisse zwingend geprüft werden müssen und wer diese Prüfung übernimmt. Besonders bei möglichen Auswirkungen auf Behandlung oder Versorgung sollten Sie hohe Kontrollanforderungen festlegen. Dokumentieren Sie außerdem Fehler und Auffälligkeiten, damit Sie aus ihnen lernen können.

5. KI nicht ohne klare interne Vorgaben und rechtliche Prüfung einsetzen

Führen Sie eine KI-Anwendung nicht nur deshalb ein, weil sie technisch verfügbar oder einfach zu bedienen ist. Prüfen Sie vorher, ob sie für den geplanten Zweck geeignet ist und welche rechtlichen und organisatorischen Anforderungen gelten.

Halten Sie Einsatzbereiche und Grenzen schriftlich fest. Berücksichtigen Sie dabei unter anderem Datenschutz, Informationssicherheit und mögliche Haftungsfragen. Legen Sie außerdem fest, wer Anwendungen freigibt und regelmäßig überprüft. So verhindern Sie unkontrollierte Einzellösungen und schaffen einen einheitlichen Rahmen für den KI-Einsatz.

Berücksichtigen Sie dabei die EU-KI-Verordnung (AI Act), die KI-Systeme abhängig von ihrem Einsatzzweck und Risiko unterschiedlich reguliert. Seit dem 2. August 2026 gelten unter anderem bestimmte Transparenzpflichten, beispielsweise für KI-generierte Deepfakes.

Die besonderen Anforderungen an Hochrisiko-KI-Systeme nach Anhang III, beispielsweise für bestimmte Anwendungen in der Personalauswahl, gelten überwiegend ab dem 2. Dezember 2027. Für Hochrisiko-KI-Systeme im Zusammenhang mit regulierten Produkten, beispielsweise bestimmten Medizinprodukten, gelten die entsprechenden Vorschriften grundsätzlich ab dem 2. August 2028.

Wenn Ihnen unsere Artikel gefallen haben und Sie keine neue Veröffentlichung verpassen möchten, dann können Sie hier mit nur einem Klick medi-karriere.de zu Ihren präferierten Quellen bei Google hinzufügen.