Firmen verkaufen Zitierungen im Multipack!

Manuskripte über Manuskripte mit Zitierungen über Zitierungen – Paper Mills verkaufen frei erfundene, von Hand oder mit generativer KI erstellte Manuskripte. | Foto: Philotheus Nisch / Connected Archives

Irgendetwas stimmt mit der Infografik nicht: Sie enthält dadaistisches Vokabular wie «medical frymbial», die Beine einer Frau sind in einer Platte eingewachsen, und ein merkwürdiges Velo ist mit «Score 0.93» beschriftet. Schnell wird klar: Sie stammt von einer generativen KI. Dennoch schaffte es die Grafik im November 2025 in die Zeitschrift Scientific Reports als Teil eines Artikels über Autismus. Dieser Nonsens-Beitrag wurde zwar schnell gemeldet, stellt aber nur die Spitze des Eisbergs dar.

Viele gefälschte Texte sind schwieriger zu erkennen und bleiben unbemerkt. Die meisten stammen aus betrügerischen Unternehmen, sogenannten Paper Mills. Sie verkaufen frei erfundene, von Hand oder mit generativer KI erstellte Manuskripte – oder auch die Möglichkeit, als Co-Autorin zu firmieren. Ihre Kundschaft bläht damit die persönliche Publikationsliste und die Zahl der Zitierungen auf, zwei Schlüssel für eine akademische Karriere.

«Die ersten grossen Betrugsfälle gab es vor rund zehn Jahren», erklärt Anna Abalkina, die an der Freien Universität Berlin über Korruption in der Wissenschaft forscht. «Paper Mills befinden sich häufig in Indien, Pakistan oder China, aber auch in Russland oder Lettland. Kundschaft finden sie auf der ganzen Welt, auch im Westen.»

Die Aktivitäten der Paper Mills erstrecken sich über mehrere Glieder der Publikationskette, etwa wenn eine Zeitschrift eine Sonderausgabe zu einem bestimmten Thema plant und Forschende einlädt, bei dieser Gelegenheit als Herausgebende zu fungieren. Manchmal fordern dann solche Forschenden ihre Bekannten auf, Artikel einzureichen. Bei der Qualität drücken sie ein Auge zu, und für ein positives Peer-Review leiten sie die Artikel an andere Kontakte weiter. Die Involvierten zitieren sich gegenseitig und bilden so ein Zitierkartell.

Wettrüsten der künstlichen Intelligenzen

Thomas Stoeger, der an der Universität Zürich seine Dissertation in Biologie verfasste und danach an der Northwestern University in der Nähe von Chicago forschte, hat solche Netzwerke untersucht. Er stiess auf Dutzende verdächtige Herausgebende. Diese hatten innert kurzer Zeit ungewöhnlich viele Artikel entgegengenommen oder viele Manuskripte akzeptiert, die entweder von Mitgliedern desselben Netzwerks stammten oder später zurückgezogen wurden. In seiner in der Zeitschrift PNAS veröffentlichten Studie führte er 32 000 Artikel auf, die auf Paper Mills zurückgehen dürften. Das sind lediglich 0,01 Prozent der 270 Millionen Fachartikel, die im Katalog «Open Alex» erfasst sind.

Sorgen bereitet Stoeger, dass der Trend steil nach oben zeigt. Die Zahl dieser Artikel verdopple sich alle 18 Monate und sei massiv höher als die Zahl der Artikel, die zurückgezogen oder auf Webseiten wie Pubpeer oder Retraction Watch gemeldet würden. «Wenn sich der Trend fortsetzt, könnten jedes Jahr Hunderttausende gefälschter Artikel erscheinen, von denen drei Viertel möglicherweise nie zurückgezogen werden. Nicht zuletzt, weil es mit KI viel einfacher geworden ist, Manuskripte zu verfassen.»

Viele problematische Artikel werden durch Forschende identifiziert, sobald sie veröffentlicht oder als Preprints vorhanden sind. Diese Qualitätssicherung ist Freiwilligenarbeit. Weniger bekannt ist, dass die Verlagshäuser aktiv Massnahmen ergreifen. «Bei Springer Nature durchläuft jedes eingehende Manuskript zuerst mehrere automatische Filter, bevor es zur Begutachtung kommt», erklärt Chris Graf, Direktor für Forschungsintegrität beim Verlag.

Diese Tools erkennen von Sprachmodellen generierte Plagiate mit ihren gewundenen Formulierungen wie «unraffinierte Informationen» für «Rohdaten». Sie identifizieren zudem manipulierte Bilder oder themenfremde Referenzen sowie versteckte Prompts, um eine eventuell mit der Bewertung beauftragte KI zu beeinflussen. Zwischen den Tools, die Fake-Artikel erstellen, und den Tools, die solche aufdecken, läuft somit ein technologisches Wettrüsten. Die Details dazu bleiben vertraulich, «damit die Informationen nicht für Betrügereien missbraucht werden».

Der Lausanner Open-Access-Verlag Frontiers beschäftigt in seiner Abteilung für Forschungsintegrität 66 Mitarbeiten- de. Er weist jedes Jahr etwa 40 000 Manuskripte sofort zurück – mehr als ein Viertel der eingereichten Artikel oder die Hälfte der nicht veröffentlichten Artikel. «Bis vor kurzem agierte jeder Verlag isoliert», erklärt Elena Vicario, Leiterin der Abteilung.

«Doch Paper Mills sind ein globales Problem, bei dem die Verlage zusammenarbeiten müssen.» Sie teilen auf dem STM Integrity Hub Hinweise zu Manuskripten, die gefälscht sein könnten – etwa durch viele parallele Einreichungen oder eine verdächtige Häufung von Zitierungen.

Deindexierung als schwerste Sanktion

Die Verlage haben auch die Verfahren zum Rückzug fehlerhafter Artikel beschleunigt: Eklatante Fälle von KI-Inhalten wurden bereits nach wenigen Wochen oder sogar Tagen entfernt. Abalkina sieht diese Bemühungen kritisch. «Solche schnellen Reaktionen betreffen medienwirksame Fälle und sind in weniger auffälligen Artikeln viel seltener. Kommerzielle Verlage haben wohl nur wenig Anreize, wirklich gegen Paper Mills vorzugehen.» Für besonders unglaubwürdige Zeitschriften ist eine schwere Sanktion möglich: die Deindexierung.

Die grossen Literaturkataloge wie Scopus und Web of Science entfernen laut der Studie von Stoeger jedes Jahr etwa 100 Zeitschriften aus ihrem Korpus, die nicht den Qualitätsstandards entsprechen, insbesondere in Bezug auf Peer-Review und die Anzahl gefälschter Artikel. Für Forschende ist es dann weniger interessant, dort Artikel einzureichen, da diese für Bewertungen ihres Leistungsausweises allenfalls nicht mehr berücksichtigt werden. Nachdem 2023 und 2024 mehrere Zeitschriften des in Basel domizilierten Verlagsriesen MDPI deindexiert wurden, publizierte dieser deutlich weniger Artikel, sagt Abalkina.

Autor wider Willen

Betrugsgeschichten können seltsame Wendungen nehmen, wie Federico Germani von der Universität Zürich erfahren hat. Im November 2025 entdeckte der auf Desinformation spezialisierte Forscher auf der offenen Plattform Research Gate, dass er als Mitautor auf einem Manuskript erwähnt wurde, das er noch nie gesehen hatte. «Ich wollte die Autoren kontaktieren, fand aber keine Spur von ihnen. Die Identitäten waren offensichtlich gefälscht. Doch wozu wurden sie geschaffen? Eine Möglichkeit ist, dass Paper Mills damit künftige Kundinnen anlocken wollen: Wenn sie eine Forscherin einer bekannten Universität aufführen, wirkt der Artikel glaubwürdig.»

«Mit einer virtuellen Identität können sie ohne grosses Risiko als Herausgeber auftreten oder Peer-Reviews übernehmen », fügt Abalkina hinzu. So wird es einfacher, gefälschte Artikel zu veröffentlichen oder Forschende zu zitieren, die dafür bezahlen. Im Internet kann man Zitierungen im Multipack kaufen, etwa hundert Zitierungen zum Preis von tausend Dollar – das Pendant zu den Klickfarmen, um Follower in sozialen Netzwerken zu gewinnen und Kundenbewertungen von Online-Shops zu manipulieren.

Diese zunehmende Flut von gefälschter Forschung hat vielfältige Konsequenzen. Solche Artikel belasten die ohnehin schon strapazierten Publikationsprozesse und erschweren eine aussagekräftige Bewertung akademischer Karrieren. Sie korrumpieren die wissenschaftliche Literatur, insbesondere zusammenfassende Studien wie Metaanalysen und systematische Übersichtsarbeiten. Weiter besteht die Gefahr, dass sie in den Ergebnissen von Suchmaschinen auftauchen und KIModelle mit falschen Informationen füttern.

«Problematisch ist die Diskrepanz zwischen guter Forschungspraxis und gesetzlichen Vorschriften», bedauert Abalkina: «Wer bereits geschriebene Artikel, Zitierungen oder Autorenschaften kauft, verstösst massiv gegen die wissenschaftliche Ethik und Integrität. In vielen Ländern sind solche Praktiken aber nicht illegal.»