Handlungsempfehlungen zum Umgang mit generativer KI in der Pflegeberatung

Die Einsatzmöglichkeiten von generativer KI in der Pflegeberatung sind vielfältig. Sie kann eine professionelle Beratung in dem Feld zwar nicht ersetzen, kann aber einen ersten Überblick verschaffen oder beim Schriftverkehr unterstützen. Um einen bestmöglichen Nutzen aus Anwendungen mit generativer KI ziehen zu können, sollten Beratende und Ratsuchende gewisse Regeln und Arbeitsschritte beachten. Diese haben wir ausgehend von unseren Projektergebnissen in den folgenden Unterpunkten zusammengefasst.

Für beide Anwendungsgruppen gilt, dass die Ergebnisse von generativer KI immer auf Basis von Wahrscheinlichkeiten generiert werden und nicht mit Fakten abgeglichen werden. Dementsprechend kann es bei den Ergebnissen zu Fehlern kommen. Außerdem sind die Trainingsdaten, auf die generative KI sich in ihren Ergebnissen bezieht, nicht tagesaktuell. Dementsprechend sollten insbesondere Gesetzestexte, finanzielle Auskünfte zu Leistungssätzen und ähnliche Ergebnisse mit Originalquellen abgeglichen werden.

Mit dem Thema Datenschutz sollte im Zusammenhang mit generativer KI sensibel umgegangen werden, da Eingaben zum Training der KI-Modelle weiterverarbeitet werden können. Aus diesem Grund sollten keine eigenen persönlichen Daten und keine persönlichen Daten Dritter eingegeben werden.

Generative KI benötigt viel mehr Ressourcen (Strom für große Rechenzentren) als Suchmaschinen. Um Ressourcen zu schonen, sollten für einfache Informationssuchen (z.B. Adressen von Praxen oder Pflegediensten) weiterhin Suchmaschinen verwendet werden.

Handlungsempfehlungen für Beratende

Generative KI kann Prozesse im Beratungskontext vereinfachen und in Beratungssituationen unterstützen. Der Einsatz kann in folgenden Bereichen sinnvoll sein:

Zum Erstellen von Informationsmaterialien zu wiederkehrenden Themen in verschiedenen Sprachen.
Zum Übersetzen im Beratungsprozess in andere Sprachen und in einfache Sprache.
- Bei seltenen Themen oder Sprachen kann generative KI allerdings auch mal falsch liegen. Dementsprechend kann generative KI ein guter erster Anlaufpunkt sein, um ein gegenseitiges Verständnis zu ermöglichen. Wichtige Informationen sollten aber immer von Dolmetscher:innen überprüft werden.
Zusammenfassen und Vereinfachen von Dokumenten
Unterstützung beim Erstellen einer Dokumentation des Beratungsgesprächs.
Erfassen und Zusammenstellen von Informationen aus verschiedenen Dokumenten, die für die Beratung relevant sind
Vorbereitung oder Vorstrukturierung eines Beratungsgespräches

Wichtig:

Aus Datenschutzgründen sollten niemals persönliche Daten der Ratsuchenden in eine öffentlich zugängliche generative KI Anwendung eingegeben werden
Persönliche Daten sollten beim Einsatz von generativer KI weitestgehend anonymisiert werden
Es sind immer die Regelungen des Arbeitgebers/Trägers bei der Anwendung von generativer KI zu beachten. Ggf. Unternehmenslösungen nutzen.

Handlungsempfehlungen für Ratsuchende

Gute Eingaben in Anwendungen mit generativer KI erfordern etwas Übung. Sollten Sie generative KI zum ersten Mal verwenden oder noch nicht häufig verwendet haben, gibt es einige Empfehlungen, die Sie beachten können, um bessere Ergebnisse zu erzielen:

Generative KI kann sinnvoll eingesetzt werden, um sich einen ersten Eindruck von dem Themengebiet Pflege und diagnosebezogenen Besonderheiten zu verschaffen. Sie ersetzt keine professionelle Pflegeberatung und keine Gespräche mit einem Arzt oder einer Ärztin.
Der Schutz Ihrer persönlichen Daten hat oberste Priorität. Geben Sie dementsprechend keine persönlichen Daten in die generative KI ein
- Ein guter Tipp an dieser Stelle ist mit Fallbeispielen zu arbeiten und die persönlichen Daten zu anonymisieren.
Einfache Prompts (Eingabe in die generative KI) erzeugen auch nur einfache Ergebnisse
- Für Anfragen, für die bisher eine Suchmaschine ausreichend war, auch weiterhin eine Suchmaschine nutzen. Das führt zu einer besseren Übersicht der Ergebnisse und schont Ressourcen
Generative KI erzeugt ihre Ergebnisse aus einem begrenzten Stand an Trainingsdaten. Die Ergebnisse sind dementsprechend nicht tagesaktuell.
Wenn die generative KI dazu aufgefordert wird, wird eine Websuche einbezogen und die Ergebnisse zusammengefasst dargestellt
- Keine Garantie auf Richtigkeit! Ggf. sollten die Informationen noch einmal auf den angegebenen Webseiten überprüft werden.
Die Generative KI als Gesprächspartner:in nutzen
- Ergebnisse der Generativen KI nicht einfach hinnehmen, sondern gezielte Nachfragen zu den Ergebnissen an die generative KI stellen
- Die Generative KI bitten, sich in eine bestimmte Rolle zu versetzen (Beratungsperson, Arzt/Ärztin, Physio-/Ergotherapeut:in…) und mit dieser Rolle in ein Gespräch gehen. So können schwierige Gespräche vorab simuliert werden.
Generative KI kann einen guten ersten Überblick verschaffen
- Lassen Sie sich Checklisten zum weiteren Vorgehen in Ihrer Situation erstellen
- Hinterfragen Sie bei der KI die einzelnen Punkte und lassen Sie sich dazu ausführlichere Erklärungen geben.
Unterstützung beim Erstellen von Widerspruchsschreiben mit entsprechenden Begründungen an Kostenträger
- Vorsicht bei persönlichen Daten!