KI in Paper erwischt!
Was wenn die Maschine das Abstract schreibt? Die Wissenschaft auf der Suche nach Bändigung der KI.
Das von einer KI entworfene Diagramm scheint auf den ersten Blick Sinn zu machen. Aber dann? | Grafik:Guo, Dong and Hao
«Sicher, hier ist eine mögliche Einleitung für Ihr Thema.» Dieser harmlose Satz, auf Englisch formuliert, hat unter Forschenden einen Sturm der Empörung ausgelöst. Aufgetaucht ist er am Anfang eines Papers in einem Journal von Elsevier. Die Formulierung ist typisch für Chat-GPT, die prominente künstliche Intelligenz für Texte. Das Abstract des Artikels wurde demnach von einer KI geschrieben. Das allein wäre noch kein Problem, aber die Autoren haben die Mitarbeit der klugen Maschine nicht deklariert, und Elsevier hat während des Reviewprozesses die unabsichtlich stehengelassene Wendung offenbar nicht bemerkt.
Auf den Fauxpas aufmerksam geworden ist erst der Publikations-Wachhund Retraction Watch. Das Ganze klingt zunächst nach einer witzigen Anekdote, doch kommt es inzwischen häufig zu ähnlichen Fällen. Diejenigen, die bekannt werden, sind wohl nur die Spitze des Eisberges, wie Elisabeth Bik, Mikrobiologin und Expertin für Bildfälschungen, in einem Artikel auf Swissinfo vermutet. Recht gibt ihr ein haarsträubenderes Beispiel: ein Artikel in einem Open-Access-Journal von Frontiers, der von einer KI generierte Bilder einer Ratte mit überdimensionalen und anatomisch sinnlosen Genitalien zeigt.
Höchste Zeit also für klare Vorgaben bei der Anwendung von KI in wissenschaftlichen Publikationen. Ein Versuch kommt etwa vom Netzwerk Jama für medizinische Forschung. Es gibt klare Richtlinien für die Verwendung von KI bei der Erstellung von Manuskripten und in der Forschungsarbeit vor. Wichtig ist dabei vor allem die Transparenz, also dass beschrieben wird, welches kluge Werkzeug an welcher Stelle und wozu benutzt wurde.
Zudem sollen die Forschenden bestätigen, dass sie verantwortlich sind für den von der künstlichen Intelligenz generierten Inhalt. Auch der Schweizerische Nationalfonds hat jüngst in einer Mitteilung festgehalten, «dass Forschende, die KI für ihre Arbeit einsetzen, vollumfänglich für die erzielten Resultate verantwortlich sind». Das gelte ebenso für den Inhalt von Forschungsgesuchen.
