Gesundheitsinformationen von ChatGPT,
Gemini & Co.: Tipps für
Beschäftigte und BGM-Verantwortliche
Dr. Utz Niklas Walter
Die Nutzung von KI-Chatbots (z. B. ChatGPT, Gemini, Copilot) im Alltag nimmt weiter zu und erfasst zunehmend auch den Gesundheitsbereich. Laut einer repräsentativen Umfrage des Beratungsunternehmens Deloitte mit rund 1.000 krankenversicherten Bürgern ab 18 Jahren nutzt fast die Hälfte der Befragten bereits regelmäßig (17 Prozent) oder gelegentlich (30 Prozent) KI-Chatbots für die Beantwortung von Gesundheitsfragen. Deutliche Unterschiede zeigen sich nach Alter: Während 71 Prozent der 18- bis 34-Jährigen KI-Chatbots regelmäßig oder gelegentlich zur Gewinnung von Gesundheitsinformationen nutzen, sind es bei den über 65-Jährigen 21 Prozent, was immer noch ein stolzer Wert ist.
Die Zufriedenheit mit den Ergebnissen der von den KI-Chatbots bereitgestellten Gesundheitsinformationen ist hoch: 93 Prozent der Nutzerinnen und Nutzer bewerten diese als gut oder sehr gut – und das altersübergreifend. Allerdings steht diese Wahrnehmung laut Deloitte im Widerspruch zu wissenschaftlichen Ergebnissen, die auf eine teils erhebliche Fehleranfälligkeit frei verfügbarer KI-Anwendungen im Gesundheitsbereich hinweist. Aufgrund der insgesamt geringen Gesundheitskompetenz in Deutschland sei vielen Nutzerinnen und Nutzern diese Problematik vermutlich nicht bewusst.
Wir als IFBG sehen, dass die Qualität der KI-generierten Gesundheitsinformationen immer besser wird. Entscheidende Aufgabe für Krankenkassen und BGM-Verantwortliche ist es aus unserer Sicht, die Menschen im Hinblick auf die Nutzung von KI-Chatbots zu schulen.
Wie können Beschäftigte für den sicheren Umgang mit KI-Gesundheitsinformationen sensibilisiert werden?
1. Risikokompetenz aufbauen: Gerade im Gesundheitskontext muss den Nutzerinnen und Nutzern von KI-Chatbots klar sein, dass KI falsch liegen kann – auch wenn die Antwort überzeugend formuliert ist. So genannte „Halluzinationen“, also falsche oder erfundene Informationen, die von der KI so formuliert sind, als wären sie korrekt, sind immer möglich. Einen kritischen Blick auf KI-generierte Antworten bei den Nutzerinnen und Nutzern zu entwickeln, kann also eine wesentliche Aufgabe des BGM sein. Hier helfen auch Schulungen anhand konkreter Fallbeispiele.
2. „Verifizieren statt vertrauen“: Nutzer sollten aktiv lernen, Ergebnisse immer gegenzuprüfen. Dazu zählen u. a. Fragen nach weiteren Quellen, die wiederum kritisch bewertet werden sollten. Zu allgemeine Antworten zu einem Gesundheitsthema können ein Warnsignal sein. Gleiches gilt für absolute Aussagen („immer“, „sicher“). Gegenfragen und zweifelnde Nachfragen können hier Abhilfe schaffen. Häufig korrigiert sich der KI-Chatbot dann. Doch auch diese korrigierten Antworten sollten stets kritisch bewertet werden.
3. KI ersetzt keine ärztliche Entscheidung: Nutzerinnen und Nutzern sollte klargemacht werden, dass bei akuten Symptomen, bei Fragen nach Medikamenten oder bei Notfällen immer ein Arzt aufgesucht werden sollte. Die Faustregel lautet: „Je höher das Risiko, desto weniger darf ich mich auf KI verlassen.“
4. Schulungen hinsichtlich Fragetechnik (Prompting): Man braucht kein Expertenwissen beim Prompting, aber gewisse Grundregeln sollte jeder beigebracht bekommen. Dazu zählt eine möglichst konkrete Beschreibung des eigenen Befindens. Darüber hinaus sollte stets der richtige Kontext genannt werden (u. a. Alter, Vorerkrankungen etc.). Zudem ist es wichtig, den KI-Chatbot gezielt nach Unsicherheiten zu fragen („Wie sicher ist diese Einschätzung?“). So erhält man in der Regel bessere und differenziertere Antworten.
Fazit: KI-Chatbots wie ChatGPT, Gemini oder Copilot sind aus der Arbeitswelt und dem Alltag vieler Menschen nicht mehr wegzudenken. Für Verantwortliche, die im BGM und in der BGF tätig sind, bedeutet dies, dem Thema proaktiv zu begegnen und KI als Quelle für Gesundheitsinformationen nicht zu verteufeln.
Sensibilisierungswebinare und Workshops mit Beschäftigten sollten Folgendes verdeutlichen:
- KI ist ein Hilfsmittel, kein Arzt.
- Die Ergebnisse der KI-Chatbots sind immer kritisch zu prüfen (und das ist leicht zu lernen).
- Bei Risiken sollten immer Menschen einbezogen werden.
- Nutzerinnen und Nutzer sollten wissen, dass Sie stets sensible Gesundheitsinformationen teilen, wenn Sie KI-Chatbots einsetzen (selbst wenn sie „für einen Freund“ fragen).
- Im Zweifel: lieber einmal mehr zum Arzt gehen.
Sie haben Interesse an einem Webinar für Beschäftigte zum achtsamen Umgang mit KI-Chatbots im Gesundheitskontext? Dann wenden Sie sich gerne an uns.
Über Trends und neueste Studien zu HR- und BGM-Themen informiert bleiben
Blick in den Newsletter:
