Mit «ChatGPT Health» bringt OpenAI Künstliche Intelligenz in den sensiblen Bereich der Gesundheitsversorgung. Die Funktion soll informieren und unterstützen – nicht diagnostizieren. Doch wie steht es um Datenschutz, Datenspeicherung und rechtliche Fragen? SRF-Digitalredaktor Guido Berger beantwortet die wichtigsten Fragen aus der SRF-Community.
Guido Berger
Leiter SRF Digital-Redaktion
Wie sieht es beim neuen ChatGPT-Tool sicherheitstechnisch aus?
Die Chats werden auf OpenAI-Servern gespeichert. Sie sind dort verschlüsselt gespeichert und werden verschlüsselt übertragen. Der Gesundheitsbereich wird davon abgetrennt gespeichert und laut OpenAI mit «speziell entwickelter Verschlüsselung» geschützt – es ist unklar, was das heissen soll. Die Funktion kann ausserdem auf Wunsch mit anderen Datenquellen, beispielsweise Apple Health, verbunden werden – was dann bedeutet, dass die Funktion Zugriff auf lokal gespeicherte Gesundheitsdaten erhält.
Fliessen die Gesundheitsdaten der Userinnen und User in identifizierbarer Form in die Trainingsdaten neuer Modelle?
OpenAI sagt, dass die Gesundheitschat-Daten nicht zum Training ihrer Foundation-Modelle genutzt werden. Stattdessen wurde das Modell, das dem Gesundheitschat zugrunde liegt, mithilfe von ca. 260 Ärztinnen und Ärzten trainiert. Sie bekamen Antworten des Modells vorgelegt und bewerteten deren Qualität, was dann wiederum in das Modell einfloss.
Ist es rein informativ oder als Beratung gedacht?
ChatGPT Gesundheit sei nicht zur Diagnose oder Behandlung gedacht, sondern um medizinische Versorgung zu unterstützen. Faktisch wird laut OpenAI ChatGPT schon heute für Gesundheitsfragen genutzt, 230 Millionen Menschen stellten jede Woche entsprechende Fragen.
Wie wird das Arztgeheimnis in solchen Fällen gewahrt?
OpenAI verspricht, die Gesundheitschats speziell zu verschlüsseln und in einem abgetrennten Bereich zu isolieren. Auch andere Chats der gleichen Person können nicht auf die Gesundheitschats zugreifen. Das impliziert, dass die Chats auch mit keiner dritten Person oder Institution geteilt werden. ChatGPT ist aber kein Arzt, und deshalb wohl nicht an ein Arztgeheimnis gebunden. An Datenschutzgesetze aber sehr wohl, und Gesundheitsdaten gelten in der Schweiz als besonders schützenswert.
Wurden auch Psychologinnen und Psychologen einbezogen?
OpenAI hat zum Training des Gesundheitschat-Modells nach eigenen Angaben 262 Ärztinnen und Ärzte aus 60 Ländern (auch der Schweiz) und 26 Fachrichtungen beigezogen, um die Qualität der Antworten des Modells zu verbessern. Psychologen sind keine Ärzte; Psychiatrie oder Neurologie waren aber vertreten.
