Schlagwort-Archive: Gesundheitswesen

Prof. Volker Nürnberg: ChatGPT im Gesundheitswesen – Chancen und Risiken

Schreibe eine Antwort

ChatGPT wirkt als Seite zunächst unauffällig und unspektakulär. Es ist eine Art Chatbot. Diese „intelligente“ Variante kennt scheinbar Antworten auf viele medizinische Fragen. Etwa jeder Vierte der Generation Z ist mit dieser Anwendung vertraut.

Von Prof. Dr. Volker Nürnberg, Professor für Management im Gesundheitswesen an der Allensbach Hochschule

ChatGPT wurde von OpenAI, einem kalifornischen KI-Forschungsunternehmen, das unter anderem von der schillernden Persönlichkeit Elon Musk gegründet, entwickelt. Der Chatbot funktioniert auf der Grundlage von maschinellem Lernen und neuronalen Netzen. Die Daten, mit denen ChatGPT trainiert wurde, stammen hauptsächlich aus Internetquellen wie Wikipedia, Nachrichtenseiten und Portalen für wissenschaftliche Fachartikel. Aber sie sind nicht mehr aktuell. Das macht die Maschine bei den schnellen bzw. kurzen Innovationszyklen im Gesundheitswesen, gefährlich. Den Hype um die Anwendung erklärten sich Expert:innen vor allem mit der sehr einfachen Nutzbarkeit. Erinnerungen daran, als Apple aufkam, werden wach: Erstmals konnten auch Laien weltweit mit KI interagieren, ohne tiefergehende PC-Kenntnisse zu besitzen. Die Benutzeroberfläche von ChatGPT war von Beginn an ähnlich einfach zu bedienen wie bei etablierten Webanwendungen wie Google oder WhatsApp. Es ist also keine Überraschung, dass immer mehr Menschen ChatGPT kontaktieren, auch im Zusammenhang mit ihrer Gesundheit. Bevor sie eine:n Ärzt:in aufsuchen, stellen sie zunächst Fragen an ChatGPT, um herauszufinden, welche Erkrankungen sie möglicherweise haben könnten. Das ist niedrigschwellig, anonym und kostenfrei.

ChatGPT als gute Alternative?

Leider muss man in Deutschland insbesonde als gesetzlich Versicherter, sehr lange auf einen Facharzttermin warten. Zwischen Wochen und vielen Monaten. Da scheint die einfache, aber eben nur zu 80 Prozent valide Option ChatGPT als gute Alternative. In solchen Fällen könnte es sich anbieten, mithilfe von ChatGPT eine Diagnose zu erhalten und den darauf basierenden Therapien zu folgen. Manche Patient:innen bevorzugen es, Gesundheitsfragen einem Chatbot anzuvertrauen, da sie sich weniger beobachtet oder beurteilt fühlen als bei einem Ärzt:innenbesuch. Dies gilt insbesondere für Erkrankungen, die noch immer mit Scham behaftet sind, wie beispielsweise psychische Erkrankungen oder Geschlechtskrankheiten. Die Möglichkeit, einen Diagnosehinweis von zu Hause zu erhalten, ist in solchen Fällen diskreter.

KI mit Defiziten bei der Empfehlung von Unterstützungsangeboten

Trotz der genannten Vorteile ist jedoch Vorsicht geboten, wenn es um den Einsatz von ChatGPT im Gesundheitskontext geht. Ein offensichtlicher Nachteil besteht darin, dass der Chatbot keine physischen Untersuchungen vornehmen, Blut abnehmen oder ein Röntgenbild machen und auch kein dialogorientiertes Anamnesegespräch führen kann. Ein weiterer Schwachpunkt von ChatGPT besteht darin, dass es zu selten auf Hilfsangebote verweist. Besonders bei der Empfehlung von Unterstützungsangeboten durch professionelle Organisationen wie Notfallhotlines weist die KI Defizite auf. Laut Forschungsergebnissen wurde in nur rund 20 Prozent der Antworten auf solche Ressourcen hingewiesen. Eine weitere zu berücksichtigende Problemstellung bei der Anwendung von ChatGPT für Patient:innen sind Sicherheits- und Datenschutzaspekte, insbesondere im Zusammenhang mit der Speicherung sensibler Gesundheitsdaten. Sicherheitsbedenken im Zusammenhang mit der Verwendung von ChatGPT können auftreten, wenn Patient:innen dem Chatbot unter anderem vertrauliche Informationen zu chronischen Erkrankungen anvertrauen. Falls diese Daten nicht ausreichend gesichert werden, besteht das Risiko des Missbrauchs oder der unbefugten Weitergabe an Dritte.

Für Laien erscheint ChatGPT oft wie eine Blackbox

Ein weiteres Problem ist die Verwendung veralteter Informationen. Die aktuelle ChatGPT-4-Version basiert derzeit auf einem Wissensstand von 2021 und kann daher keine Fragen zu aktuellen medizinischen Entwicklungen beantworten. Überdies können fehlende Quellenangaben in Verbindung mit der Nutzung für Diagnosen im medizinischen Kontext problematisch sein, da Patient:innen mitunter Schwierigkeiten haben, die Glaubwürdigkeit der bereitgestellten Informationen zu überprüfen. Ohne klare Verifikationsmöglichkeiten bleibt unklar, welche Quellen oder Grundlagen für die bereitgestellten Informationen herangezogen wurden. Für Laien erscheint ChatGPT oft wie eine Blackbox, in die sie Anfragen eingeben, ohne genau zu wissen, was dahinter geschieht – und erhalten dann Informationen, ohne den genauen Ursprung oder die zugrunde liegenden Grundlagen nachvollziehen zu können.

Kennzeichnungspflicht für KI-gestützte Arztbriefe

Zusammenfassend bietet ChatGPT rund um die Uhr schnelle, einfache Hilfe auf Gesundheitsfragen, jedoch sind damit auch Risiken verbunden, darunter ungenaue, oder eben gar falsche Diagnosen, unzureichende Verweisung auf Hilfsangebote sowie Sicherheits- und Datenschutzbedenken aufgrund möglicher Verwendung veralteter Informationen. Manche Länder haben es deshalb zeitweilig verboten. In Deutschland hingegen lehnen die Verantwortlichen ein Verbot ab. Stattdessen werden eine strenge Regulierung und Überwachung für den Einsatz von KI, insbesondere im medizinischen Bereich, gefordert, um so Transparenz und Sicherheit zu gewährleisten. Bundesgesundheitsminister Karl Lauterbach erkennt die Chancen, aber auch die Gefahren von KI-Chatbots wie ChatGPT im Gesundheitssystem. Es ist notwendig, eine Kennzeichnungspflicht oder andere Regulierungen einzuführen, um den Patient:innen transparent zu machen, wenn beispielsweise ein Arztbrief mithilfe von ChatGPT oder anderen KIs erstellt wurde. In der Zukunft werden die besten Resultate jedoch durch Kombinationen aus KI und realen Ärzt:innen erzielt. Es entstehen hier auch neue Jobs an der Schnittstelle zwischen Mensch und Maschine. Das Zusammenwirken von Mensch und Maschine kann einen Quantensprung für die Qualität der Medizin bedeuten.

Die Allensbach Hochschule:

Die Allensbach Hochschule ist eine staatlich anerkannte Hochschule des Bundeslandes Baden-Württemberg und bietet verschiedene berufsbegleitende  Bachelor-  und  Masterprogramme im Bereich der Wirtschaftswissenschaften an.

Die Studiengänge der Allensbach Hochschule sind durch die Akkreditierungsagentur  ZEvA akkreditiert und als Fernstudiengänge konzipiert. Alle Studiengänge sind zusätzlich von der Staatlichen Zentralstelle für Fernunterricht (ZFU) zugelassen.

Die Allensbach Hochschule hat sich voll der Digitalisierung verschrieben und setzt bei ihren Programmen auf vollständig online-basierte Vorlesungen, die in geschützten Räumen stattfinden und aufgezeichnet werden.

Das digitale Lernen wird durch didaktisch hochwertig aufbereitete Studienmaterialien unterstützt, welche die Studierenden in ihrem eigenen Lerntempo bearbeiten können. Bei Fragen steht jederzeit ein/e Tutor/in oder Dozent/in zur Verfügung.

Neben der Lehre spielt die Forschung an der Allensbach Hochschule eine wichtige Rolle. So richtet die Hochschule beispielsweise jährlich das Bodensee-Forum zu den Themen Krise, Sanierung und Turnaround aus und gibt die wissenschaftliche Fachzeitschrift „Zeitschrift für Interdisziplinäre Ökonomische Forschung“ heraus.

Fragen zum Beitrag, interessanten Studienangeboten und Lehrgängen bitte an martin.stieger@allensbach-hochschule.de

Prof. Dr. Dr. Martin Stieger

Die Allensbach Hochschule:

Die Allensbach Hochschule auf YouTube:

https://www.youtube.com/@allensbachhochschule8946/videos

weitere YouTube-Videos:

https://www.youtube.com/@YouTubeProfessor/videos

akademische Weiterbildung an der Allensbach Hochschule:

Behandlung „kranker Menschen“ mit Hilfe eines Vereines?

1 Antwort
Mir wurde in meiner LV „Berufsrecht“ folgende Frage gestellt:
 
„Ich würde gerne wissen, wie die gesetzliche Lage ausschaut, wenn ich über einen Verein ein Projekt anbiete mit „kranken“ Menschen zu arbeiten. Weil vielleicht bekomme ich die Möglichkeit dazu, aber der Verein will wissen, ob ich das wirklich machen darf ohne dass mir bzw. dem Verein was passieren kann!“
 
Kurze Antwort:
 
Nein, das dürfen Sie nicht.
Sie dürfen kranke Menschen nicht hinsichtlich ihrer Krankheit untersuchen, diagnostizieren und behandeln.
Auch im Rahmen eines Vereines nicht, wenn der Verein nicht durch medizinische Gesundheitsberufe dazu berechtigt ist. 
 
Die allgemeine Gesundheitsprävention und Gesundheitsförderung (alle Maßnahmen zur Erhaltung der Gesundheit und zur Vermeidung von Krankheit) ist Ihnen natürlich erlaubt.
Auch mit „kranken Menschen“ dürfen Sie arbeiten, allerdings nicht im Hinblick auf eine Diagnose und Behandlung der Krankheit sondern im Hinblick auf eine allgemeine Gesundheitsförderung.
 
Lange Antwort = Begründung:
 
Das Sozialversicherungsrecht (ASVG) in Österreich normiert Krankheit: das ist der regelwidrige Körper- oder Geisteszustand, der die Krankenbehandlung notwendig macht (vgl. § 120 ASVG) und ist die Behandlung von Krankheiten den medizinischen Gesundheitsberufen vorbehalten.

Die Gesundheitsberufe werden auf Grundlage des Kompetenztatbestandes „Gesundheitswesen“ (Art. 10 Abs. 1 Z 12 B-VG) gesetzlich geregelt. Bei einem Gesundheitsberuf umfasst das Berufsbild die Umsetzung von Maßnahmen zur Obsorge für den allgemeinen Gesundheitszustand der Bevölkerung.

Darunter sind Tätigkeiten im Rahmen der Gesundheitsversorgung zu verstehen, die unmittelbar am bzw. unmittelbar oder mittelbar für den Menschen zum Zwecke der Förderung, Erhaltung, Wiederherstellung oder Verbesserung der Gesundheit im ganzheitlichen Sinn und in allen Phasen des Lebens erbracht werden. 

Gesundheitsberufe sind dabei Ärzte/-innen, Zahnärzte/-innen, Tierärzte/-innen, Apotheker/innen, Klinische Psychologen/-innen und Gesundheitspsychologen/- innen, Psychotherapeuten/-innen Musiktherapeuten/-innen, Hebammen, Gehobene medizinisch-technische Dienste (Physiotherapeuten/-innen, BiomedizinischeAnalytiker/-innen, Radiologietechnologen/-innen, Diätologen/-innen, Ergotherapeuten/-innen, Logopäden/-innen, Orthoptisten/-innen, Gesundheits- und Krankenpflegeberufe also der Gehobene Dienst für Gesundheits- und Krankenpflege (Allgemeine Gesundheits- und Krankenpflege, Kinder- und Jugendlichenpflege, Psychiatrische Gesundheits- und Krankenpflege) und die Pflegehilfe, Kardiotechniker/-innen, Diplomierte medizinisch-technische Fachkräfte, Medizinische Masseure/-innen und Heilmasseure/-innen, Sanitäter/-innen (Rettungssanitäter/-innen und Notfallsanitäter/- innen), Sanitätshilfsdienste (Operationsgehilfen/-innen, Laborgehilfen/-innen, Prosekturgehilfen/- innen, Ordinationsgehilfen/-innen, Ergotherapiegehilfen/-innen, Desinfektionsgehilfen/-innen).

Die Gesundheitsberufe stehen unter einem Tätigkeits- bzw. Berufsvorbehalt, d.h. niemand anderer darf „Kranke behandeln“. Ausnahmen: Hilfeleistungen in der Nachbarschafts-, Familien- und Haushaltshilfe; Unterstützung bei der Basisversorgung; Übertragung ärztlicher oder pflegerischer Tätigkeiten an Laien
Die Gesundheitsberufe stehen zudem unter einem Bezeichnungsvorbehalt, einem Ausbildungsvorbehalt, kennen die Fortbildungspflicht und weitere Berufspflichten wie die Dokumentationspflicht, die Verschwiegenheitspflicht, die Auskunftspflicht u.v.a.m.
Das Ausbildungsvorbehaltsgesetz, BGBl 1996/378 regelt: „Die Ausbildung zu Tätigkeiten, die durch das ÄrzteG 1998, ZÄG, HebG, GuKG, MTF-SHD-G, MTD-G, Psychologengesetz, Psychotherapiegesetz, Tierärztegesetz, KTG, SanG, MMHmG, geregelt sind, obliegt ausschließlich den nach diesen Bundesgesetzen dafür vorgesehenen Einrichtungen. Das Anbieten oder Vermitteln solcher Ausbildungen durch andere Personen oder Einrichtungen ist verboten.“