[ChatGPT and the German board examination for ophthalmology: an evaluation].

Autor: Yaïci R; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland. remi.yaici@med.uni-duesseldorf.de., Cieplucha M; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland., Bock R; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland., Moayed F; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland., Bechrakis NE; Augenklinik, Universitätsklinikum Essen, Essen, Deutschland., Berens P; Hertie Institute for AI in Brain Health (Hertie AI), Tübingen, Deutschland., Feltgen N; Augenklinik, Universitätsspital Basel, Basel, Schweiz., Friedburg D; Krefeld, Deutschland., Gräf M; Universitätsklinikum Gießen und Marburg, Marburg, Gießen, Deutschland., Guthoff R; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland., Hoffmann EM; Augenklinik, Universitätsklinikum Mainz, Mainz, Deutschland., Hoerauf H; Augenklinik, Universitätsklinikum Göttingen, Göttingen, Deutschland., Hintschich C; Augenklinik und Poliklinik, LMU Klinikum, Ludwigs-Maximilians-Universität München, München, Deutschland., Kohnen T; Augenklinik, Universitätsklinikum Frankfurt, Frankfurt, Deutschland., Messmer EM; Augenklinik und Poliklinik, LMU Klinikum, Ludwigs-Maximilians-Universität München, München, Deutschland., Nentwich MM; Augenklinik, Universitätsklinikum Würzburg, Würzburg, Deutschland., Pleyer U; Charité - Universitätsmedizin Berlin, Berlin, Deutschland., Schaudig U; Asklepios Klinik Barmbek, Hamburg, Deutschland., Seitz B; Klinik für Augenheilkunde, Universitätsklinikum des Saarlandes, Homburg, Deutschland., Geerling G; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland., Roth M; Klinik für Augenheilkunde, Medizinische Fakultät, Universitätsklinikum Düsseldorf, Heinrich-Heine Universität Düsseldorf, Moorenstr. 5, 40225, Düsseldorf, Deutschland.
Jazyk: němčina
Zdroj: Die Ophthalmologie [Ophthalmologie] 2024 Jul; Vol. 121 (7), pp. 554-564. Date of Electronic Publication: 2024 May 27.
DOI: 10.1007/s00347-024-02046-0
Abstrakt: Purpose: In recent years artificial intelligence (AI), as a new segment of computer science, has also become increasingly more important in medicine. The aim of this project was to investigate whether the current version of ChatGPT (ChatGPT 4.0) is able to answer open questions that could be asked in the context of a German board examination in ophthalmology.
Methods: After excluding image-based questions, 10 questions from 15 different chapters/topics were selected from the textbook 1000 questions in ophthalmology (1000 Fragen Augenheilkunde 2nd edition, 2014). ChatGPT was instructed by means of a so-called prompt to assume the role of a board certified ophthalmologist and to concentrate on the essentials when answering. A human expert with considerable expertise in the respective topic, evaluated the answers regarding their correctness, relevance and internal coherence. Additionally, the overall performance was rated by school grades and assessed whether the answers would have been sufficient to pass the ophthalmology board examination.
Results: The ChatGPT would have passed the board examination in 12 out of 15 topics. The overall performance, however, was limited with only 53.3% completely correct answers. While the correctness of the results in the different topics was highly variable (uveitis and lens/cataract 100%; optics and refraction 20%), the answers always had a high thematic fit (70%) and internal coherence (71%).
Conclusion: The fact that ChatGPT 4.0 would have passed the specialist examination in 12 out of 15 topics is remarkable considering the fact that this AI was not specifically trained for medical questions; however, there is a considerable performance variability between the topics, with some serious shortcomings that currently rule out its safe use in clinical practice.
(© 2024. The Author(s), under exclusive licence to Springer Medizin Verlag GmbH, ein Teil von Springer Nature.)
Databáze: MEDLINE
Externí odkaz: