22.11.2025. Wie zuverlässig ist ChatGPT, wenn es um Arzneimittel geht? Eine Studie liefert ernüchternde Zahlen – und eine klare Warnung für alle, die sich bei Gesundheitsfragen auf Künstliche Intelligenz verlassen.
Eine neue Studie im Fachjournal British Journal of Clinical Pharmacology zeigt: Wenn es um eine komplexe Beratung zu Medikamenten geht, ist eine Künstliche Intelligenz (KI) den Ärzten sowie Apothekern unterlegen. Forschende verglichen die Antworten von Fachleuten eines klinisch-pharmakologischen Informationszentrums mit denen des beliebten KI-Chatbots ChatGPT (Version 3.5) auf 70 echte Anfragen. Das Forschungsteam untersuchte die Antworten auf sogenannte pharmakologische Anfragen – also Anfragen zu Medikamenten. Diese wurden von Ärztinnen und Ärzten im Arbeitsalltag an das Arzneimittel-Informationszentrum der medizinischen Hochschule Hannover gestellt. Das Zentrum kann bei der Behandlung mit Medikamenten in komplizierten Fällen beraten, beispielsweise zur Dosierung oder zu Neben- und Wechselwirkungen. Auf diese Anfragen antworteten sowohl die pharmazeutischen und ärztlichen Fachleute aus dem Informationszentrum als auch ChatGPT.
Drei unabhängige Gutachter bewerteten die Ergebnisse, ohne zu wissen, welche Auskünfte von der KI stammten. Alle drei stuften die Antworten der Ärztinnen und Ärzte deutlich besser ein als die KI-generierten. Die Qualität der ärztlichen Antworten bewerteten sie im Mittel mit fünf von fünf Punkten als „sehr gut“ – ChatGPT erhielt im Mittel nur zwei Punkte. Die KI antwortete deutlich häufiger fehlerhaft. So enthielten zwischen rund einem Drittel und der Hälfte aller Antworten von ChatGPT Faktenfehler. Im Vergleich dazu lag die Fehlerquote bei den ärztlichen Antworten zwischen etwa sechs und 17 Prozent.
Ein wichtiger Unterschied dabei: Die Fehler von ChatGPT waren laut Bewertung der Fachleute „im Allgemeinen viel ernster“ als jene der Ärztinnen und Ärzte. Sie hätten also schwerwiegendere gesundheitliche Folgen haben können. Ein Beispiel: ChatGPT beschrieb Actrapid – ein Insulin – fälschlicherweise als ein Analgetikum, also ein Schmerzmittel. Hätte man es verabreicht, wären die Schmerzen nicht gelindert worden – außerdem hätte eine Unterzuckerung (Hypoglykämie) folgen können.
Die Forschenden kommen damit zu dem Schluss, dass ChatGPT bei Fragen zu Medikamenten aus der Praxis den Ärztinnen und Ärzten deutlich unterlegen ist. Entsprechend warnen sie davor, sich dabei auf KI-Chats zu verlassen. Es gilt also weiterhin: Fragen Sie zu Medikamenten immer Ihre Ärztin, Ihren Arzt oder in Ihrer Apotheke. Anzumerken ist, dass die jetzt veröffentlichte Studie die ältere Version 3.5 von ChatGPT geprüft hat. Ob ChatGPT mittlerweile zuverlässiger ist, müsste erneut untersucht werden. https://www.apotheken-umschau.de/medikamente/chatgpt-ki-chatbot-bei-medikamentenberatung-experten-unterlegen-1432679.html.