IPA Journal 01/2025

Künstliche Intelligenz (KI) bietet für die Arbeitsmedizin und arbeitsmedizinische Forschung große Chancen, birgt jedoch auch Risiken. Prof. Julia Krabbe, Leiterin des Kompetenz-Zentrums Medizin am IPA, gibt im Interview Einblicke in die aktuellen Entwicklungen und spricht über die Potenziale und Risiken von KI in der Arbeitsmedizin.

Was versteht man genau unter Künstlicher Intelligenz?

Künstliche Intelligenz (KI) bezeichnet Technologien, die menschliche Intelligenz nachahmen, um Probleme zu lösen, Muster zu erkennen oder Entscheidungen zu treffen. Sie basiert auf der Verarbeitung großer Datenmengen und der Simulation menschlicher Denkprozesse wie Lernen, Schlussfolgern und Problemlösen. Wesentliche Teilbereiche der KI sind maschinelles Lernen, neuronale Netze und für Text- und Sprachverarbeitung Natural Language Processing (NLP).

Beim maschinellen Lernen lernt ein System aus Daten, Muster zu erkennen und Vorhersagen oder Entscheidungen zu treffen, ohne explizit programmiert zu sein. Neuronale Netze sind von der Struktur des menschlichen Gehirns inspiriert und bestehen aus miteinander verbundenen Schichten von Knoten (Neuronen). Sie eignen sich besonders gut für komplexe Aufgaben wie Bilderkennung oder Sprachverarbeitung. Natural Language Processing (NLP) ermöglicht es Computern, natürliche Sprache zu verstehen, zu generieren oder zu analysieren, wie zum Beispiel bei Übersetzungsdiensten oder virtuellen Assistenten. Weitere Bereiche umfassen Expertensysteme, Robotik und Computer Vision, die KI in spezifischen Anwendungen wie Diagnosesystemen, autonomen Fahrzeugen oder Bilderkennung nutzbar machen.

Welche Anwendungsmöglichkeiten sehen Sie für die Künstliche Intelligenz in der Medizin und speziell in der Arbeitsmedizin?

KI bietet in der Medizin vielfältige Möglichkeiten, um Diagnose-, Präventions- und Managementprozesse zu verbessern. Das gilt so auch für die Arbeitsmedizin. Ein zentraler Anwendungsbereich ist dabei die Unterstützung von Diagnoseprozessen, bei denen KI große Datenmengen wie Laborwerte, Bildaufnahmen oder Patientenakten analysiert. Im Ergebnis können so Krankheiten frühzeitiger erkannt oder präzise Diagnosen gestellt werden. In der radiologischen Diagnostik asbestbedingter Erkrankungen der Lungen wird KI schon heute zum Beispiel in der Rundherdbewertung bei der Computertomographie der Lunge angewendet.

Besonders in der Arbeitsmedizin können KI-Anwendungen die Prävention und das Management von Gesundheitsrisiken am Arbeitsplatz wesentlich verbessern. Ein wichtiger Bereich ist die Analyse von Gesundheits- und Expositionsdaten. KI-gestützte Systeme können große Mengen an Daten, etwa aus arbeitsmedizinischen Vorsorgen oder Berichten über Schadstoffexpositionen, effizient auswerten. So werden individuelle und gruppenspezifische Gesundheitsrisiken frühzeitig erkannt.

KI könnte auch zur Optimierung der betrieblichen Gesundheitsförderung beitragen. Gesundheitsdaten von tragbaren Geräten wie Smartwatches oder anderen Sensoren könnten in Echtzeit analysiert werden. Dies würde erlauben, präventive Maßnahmen individuell und zeitnah anzupassen. Hier ist die Frage des Datenschutzes eine besondere Herausforderung.

Kann KI auch dazu beitragen, die arbeitsmedizinische Versorgung zu verbessern?

Ja, KI kann durch das frühzeitige Erkennen von Gesundheitsrisiken und die Automatisierung von Routinetätigkeiten auch mit dazu beitragen, die arbeitsmedizinische Versorgung zu verbessern. Effektiver könnte KI sowohl Vorsorgen und Impfdaten managen oder Berichte und Statistiken erstellen. Dadurch haben Arbeitsmediziner und Arbeitsmedizinerinnen mehr Zeit, sich auf komplexere Aufgaben wie die individuelle Beratung und Risikoabschätzung zu konzentrieren.

Haben Sie schon selbst KI bei arbeitsmedizinischen Forschungsprojekten eingesetzt?

In einer Studie an der Uniklinik Aachen haben wir die Eignung von ChatGPT als Unterstützungstool für Recherche und Entscheidungsfindung bezüglich Berufskrankheiten der Lungen untersucht. Hier konnten wir zeigen, dass ChatGPT die gezielte medizinische Recherche verbessern kann. Klinische Entscheidungen, wie zum Beispiel ob eine Berufskrankheit gemeldet werden soll, wurden jedoch durch herkömmliche Recherchemethoden häufiger korrekt getroffen. Hier hat die KI derzeit noch Defizite gegenüber den klassischen Methoden. ChatGPT eignet sich somit als Ergänzung, nicht aber als Ersatz für die ärztliche Expertise in der Arbeitsmedizin. Weitere Projekte zur Nutzung von ChatGPT und zur generellen Anwendung von KI in der Arbeitsmedizin laufen aktuell.

Wo sehen Sie die ethischen Herausforderungen?

Es muss sichergestellt werden, dass KI verantwortungsvoll und im Interesse der direkt Betroffenen beziehungsweise Beschäftigten genutzt wird. Ein zentraler Punkt ist die Transparenz der KI-Systeme. Es muss nachvollziehbar sein, wie Entscheidungen getroffen werden. Dies gilt insbesondere dann, wenn diese Auswirkungen auf die Gesundheit, die Arbeitsfähigkeit oder den Zugang zu Ressourcen haben. Ein weiteres großes ethisches Risiko liegt darin, wenn durch algorithmische Entscheidungen bestehende Vorurteile und Diskriminierungen reproduziert oder verstärkt werden, insbesondere gegenüber Minderheiten. Dies kann der Fall sein, wenn KI-Systeme auf unzureichenden oder unausgewogenen Daten basieren. Solche Verzerrungen müssen durch sorgfältige Datenauswahl, kontinuierliche Überprüfung und Anpassung der Algorithmen vermieden werden.

Die Verantwortung für Fehlentscheidungen stellt eine weitere ethische Herausforderung dar. Diese Verantwortung muss klar definiert werden, um Unsicherheiten zu vermeiden und den Schutz der Betroffenen zu gewährleisten. Systeme, die Fehler vermeiden oder frühzeitig erkennen, müssen eingesetzt und gepflegt werden.

Zusätzlich stellen sich Fragen zur Verhältnismäßigkeit des KI-Einsatzes: Inwiefern ist es gerechtfertigt, arbeitsmedizinische Entscheidungen einem Algorithmus zu überlassen? Und wie kann gewährleistet werden, dass der Mensch weiterhin die Kontrolle behält? Der Deutsche Ethikrat betont die Notwendigkeit eines ausgewogenen Zusammenspiels von KI und menschlicher Expertise, um sicherzustellen, dass die Technologie dem Wohl der Menschen dient und deren Rechte gewahrt bleiben.

Wie wird der Datenschutz bei der Nutzung von Patientendaten in KI-Anwendungen gewährleistet?

Um den Schutz dieser Daten zu gewährleisten, werden Maßnahmen empfohlen, die sowohl technische als auch organisatorische Aspekte umfassen. Ein wesentlicher Ansatz ist die Anonymisierung der Daten. Dabei werden personenbezogene Informationen so verändert oder entfernt, dass sie keiner Person mehr zugeordnet werden können. Darüber hinaus kann zum Teil mit lokaler Datenverarbeitung ohne Netzwerkanbindung gearbeitet werden. Dezentrale KI-Modelle, die direkt auf lokalen Servern oder Geräten laufen, minimieren das Risiko von Datenlecks. Verschlüsselte Datenpipelines und der Einsatz synthetischer Daten für das Training von KI-Modellen schützen sensible Informationen zusätzlich.

Zudem müssen die für die ärztliche Tätigkeit und Forschungspraxis bereits geltenden Datenschutzvorgaben und die ärztliche Schweigepflicht beachtet werden.

Wird die KI langfristig den Arzt oder die Ärztin ersetzen?

Ein klares Nein! KI wird das ärztliche Handeln nicht ersetzen, sondern ergänzen, indem sie Routineaufgaben automatisiert und Datenanalysen präzisiert. Durch Entlastung des ärztlichen Personals wird dann mehr Zeit für die Patientenversorgung bleiben. Menschliches Urteilsvermögen, Empathie und die Fähigkeit, individuelle Umstände zu berücksichtigen, bleiben unverzichtbar. Komplexe Entscheidungen und die zwischenmenschliche Dimension der Medizin erfordern nach wie vor die Ärztin oder den Arzt als verantwortliche Vertrauensperson.

Welchen Nutzen sehen Sie für die Unfallversicherungsträger?

KI kann Unfallstatistiken analysieren, detaillierte Risikoprofile erstellen und Präventionsmaßnahmen optimieren. Durch die Auswertung großer Datenmengen zum Beispiel zu Arbeitsunfällen kann KI Muster und Trends erkennen, die auf häufige Gefährdungen hinweisen. Anhand von Daten wie Expositionen, Belastungsanalysen oder Unfallhäufigkeiten bewertet sie einzelne Tätigkeiten oder Arbeitsbereiche. Unternehmen können so Berufe oder Aufgaben identifizieren, die ein erhöhtes Unfall- oder Krankheitsrisiko bergen, und gezielte Maßnahmen entwickeln, um diese Risiken zu minimieren. Darüber hinaus trägt KI dazu bei, Präventionsmaßnahmen effizienter und gezielter zu gestalten. Sie kann zum Beispiel Empfehlungen zur ergonomischen Gestaltung von Arbeitsplätzen oder zur Optimierung von Arbeitsabläufen geben, um physische und psychische Belastungen zu reduzieren. Mithilfe von Echtzeitdaten aus Sensoren, die Arbeitsumgebungen oder Maschinen überwachen, kann KI potenzielle Gefährdungen frühzeitig erkennen und verhindern.

Ist die KI schon in der Praxis angekommen? Wie sehen Sie hier die zeitliche Perspektive?

Trotz immenser Fortschritte ist KI in der medizinischen Praxis in vielen Bereichen noch nicht flächendeckend etabliert. Viele Anwendungen befinden sich aktuell in der Pilotphase oder werden nur in spezialisierten Einrichtungen genutzt. Gründe dafür sind vielfach die notwendige Anpassung der Algorithmen an spezifische medizinische Anforderungen, die Sicherstellung von Datenschutz und Datensicherheit sowie die Integration von KI-Systemen in bestehende Arbeitsabläufe und IT-Infrastrukturen. Ich erwarte jedoch, dass in etwa fünf bis zehn Jahren KI einen integralen Bestandteil der medizinischen Praxis bilden wird. Fortschritte in der Forschung, die Verfügbarkeit größerer und hochwertigerer Datensätze sowie die Weiterentwicklung der technischen Infrastruktur werden dazu beitragen, dass KI breiter angewendet werden kann. KI wird insbesondere in der individualisierten Medizin, der personalisierten Prävention sowie der Diagnostik und Therapie auf Basis umfangreicher Datenanalysen, eine Schlüsselrolle einnehmen.