Standpunkt
«Die Reddit-Moderation sieht sich als Beschützerin»
Eine Studie von Schweizer Forschenden auf Reddit hat Empörung ausgelöst. Denn sie haben gegen die Richtlinen der Social Media Plattform verstossen und ohne Zustimmjung der Nutzenden eine KI mitdiskutieren lassen. Die Genfer Bioethikerin Samia Hurst über das Bewilligungsverfahren solcher Studien.
«Heute wissen alle, dass sie bei der Teilnahme an einer wissenschaftlichen Studie über die Risiken aufgeklärt werden müssen», sagt die Bioethikerin Samia Hurst. Sie gehört der Nationalen Ethikkommission in Humanmedizin an. | Foto: Salvatore Di Nolfi / Keystone
Forschende der Universität Zürich haben auf Reddit zwischen November 2024 und März 2025 ein Experiment mit einer KI durchgeführt. Auf dem Subreddit «Change My View» versuchen die Leute, sich gegenseitig von Meinungen zu überzeugen. Eine KI war dabei drei bis sechsmal erfolgreicher als Menschen. So weit, so verblüffend. Aber die Forschenden hatten weder das Unternehmen noch die Moderation noch die User über die Studie informiert. Das sorgte für Empörung.
Samia Hurst, Bioethikerin an der Universität Genf, erklärt. Samia Hurst, können Sie die Empörung verstehen?
Ja. Die Leute wurden nicht nach ihrer Zustimmung gefragt. Heute wissen alle, dass sie bei der Teilnahme an einer wissenschaftlichen Studie einen Service erbringen und sie selbst bei geringen Risiken über diese aufgeklärt werden müssen. In diesem Beispiel könnten sie etwa gedemütigt werden. Oder eine Äusserung der KI könnte sie aufwühlen. Als geringe Risiken gelten solche, mit denen man auch im Alltag konfrontiert ist. Das wäre das erste Kästchen, das ein Häkchen einer Ethikkommission benötigt.
Sind Forschende denn immer verpflichtet, die Zustimmung einzuholen?
In der Psychologie oder der Soziologie gibt es Ausnahmen. Wenn es keine alternative wissenschaftliche Methode gibt, um die Frage zu untersuchen. Das wäre das nächste Kästchen.
Aber nur, wenn der potenzielle Wissensgewinn wichtig genug ist, nehme ich an?
Ja. Das wäre Kästchen Nummer drei. Und es gibt noch weitere: Die Forschenden müssen die Teilnehmenden so bald wie möglich darüber informieren, dass und warum sie eine Studie ohne ihre Zustimmung durchgeführt haben. Und sie müssen ihnen die Möglichkeit geben, die Verwendung ihrer Daten abzulehnen. Das ist die nötige Nachbearbeitung.
Und die Aufklärung der Moderierenden von Reddit?
Das ist nochmals eine andere Ebene. Wenn Sie zum Beispiel in einer abgeschiedenen Gemeinschaft forschen, benötigen Sie die Zustimmung der Verantwortlichen. Auch in einer Schule können Sie nicht einfach auftauchen und die Kinder befragen, sondern müssen das Okay der Schulleitung haben. Beides sind Strukturen mit Personen, die einen Raum schützen. So hätten die Forschenden die Reddit- Moderation behandeln sollen. Diese sieht sich als Beschützerin einer Gemeinschaft. Zu Recht. Sie hat sich dieser Aufgabe verpflichtet und setzt die Regeln durch.
Die KI gab sich unter anderem als Traumatherapeutin aus.
Dieser Punkt hätte die Studie wahrscheinlich von der Kategorie «geringes Risiko» herausgenommen. Menschen erzählen in ihrem Alltag kaum von traumatischen Erfahrungen.
Wie hätten Sie entschieden, wenn Sie diese Studie in einer Ethikkommission geprüft hätten?
Das ist im Nachhinein schwer zu beurteilen. Jetzt weiss ich ja Dinge, die ich vorher nicht wusste. Ich hätte die Einwilligung der Moderierenden der Online-Plattform verlangt. Und dass die Teilnehmenden nachträglich aussteigen können. Ich hätte aber vielleicht nicht vorausgesehen, dass sich die KI als Traumatherapeutin ausgibt.
