Falsche KI-Bilder sollen keine echten Schäden verursachen können

Auf der Plattform Truth Social sollen Fans von Taylor Swift für Donald Trump begeistert werden. Um solche von KI generierte Bilder bekämpfen zu können, braucht es ein Umdenken der Industrie. | Foto: KI-generiertes Bild / Truth Social

Mitte Mai 2026 verfolgen Millionen Menschen live auf den sozialen Medien, wie der Streamer «Finnyzyy» mithilfe künstlicher Intelligenz einen mutmasslichen Sexualstraftäter entlarvt. Für den Chat mit dem Mann verwandelt er sich in Echtzeit in ein 14-jähriges Mädchen. Die Szene wirkt so authentisch, dass sie verstört. Deepfakes erreichen inzwischen eine Qualität, die selbst Fachleute herausfordert.

«Es ist ein endloses Katz-und-Maus-Spiel», sagt Touradj Ebrahimi von der EPFL. «Kaum entlarvt ein Detektionsprogramm eine Fälschung, finden die Algorithmen bereits Wege, die Erkennung zu umgehen.» Ebrahimi beschäftigt sich mit der Echtheit und der Rückverfolgbarkeit digitaler Medien.

«Um KI-generierte Bilder zu erkennen, gibt es grundsätzlich drei verschiedene Ansätze: Fälschungen anhand von Anomalien im Bildmaterial zu detektieren, mittels Faktencheck zu identifizieren oder echte Inhalte zu kennzeichnen.» Sein Team entwickelt vor allem Detektoren. «Wir lassen zwei KIs gegeneinander antreten: die eine erzeugt Bilder, die andere soll diese künstlich generierten von echten unterscheiden », beschreibt Ebrahimi. Dieser Ansatz ist in Fachkreisen als Generative Adversarial Networks (GANs) bekannt. Die Strategie liefere vielversprechende Ergebnisse: Im Wettlauf der Intelligenzen lerne die Detektor-KI schnell, Fälschungen aufgrund kleinster Ungereimtheiten ausfindig zu machen.

Authentizitätsstempel für echte Bilder

Sébastien Marcel vom Forschungsinstitut Idiap in Martigny bestätigt das. «Solche Verifikationssysteme kommen bereits bei digitalen Identitätsprüfungen zum Einsatz – wie etwa beim Online-Eröffnen eines Bankkontos », sagt der KI-Experte. Er baut umfangreiche Datenbanken echter und künstlich erzeugter Bilder auf – das ist die Grundlage für solche Erkennungssysteme. Das Problem im Wettkampf der künstlichen Intelligenzen: Die Gegenseite nutzt dieselben Technologien.

In immer kürzerer Zeit produzieren generative KIs immer bessere Fälschungen. «Detektoren werden immer im Rückstand sein», räumt Ebrahimi ein. Marcel ergänzt: «Die Entwicklung von Deepfakes beschleunigt sich so stark, dass ihre rechtzeitige Entlarvung immer schwieriger wird.» Idealerweise müsste ein Deepfake innert Sekunden erkannt werden, denn gesellschaftlicher Schaden entstehe meist bereits Minuten nach der Veröffentlichung, warnen die Experten. Daher gerät auch die klassische Faktenprüfung an ihre Grenzen: Sie kann mit der Geschwindigkeit viraler Falschbilder oft nicht Schritt halten.

Denn: Manipuliert werden inzwischen nicht nur Bilder selbst, sondern auch ihre Metadaten – also Informationen zu Ursprung und Bearbeitung. Forschende an der ETH Zürich verfolgen deshalb den umgekehrten Ansatz: die Kennzeichnung echter Inhalte. Sie entwickeln Sensorchips, die Bilder, Videos oder Audioaufnahmen im Moment ihrer Entstehung kryptografisch signieren. «Wir wollen die Technologie direkt in Kameras integrieren», sagt Fernando Cardes, der die Signatur mitentwickelt hat. So soll sich nachweisen lassen, ob ein Inhalt tatsächlich von einer Kamera stammt, wann er aufgenommen und ob er nachträglich manipuliert wurde.

Obwohl Deepfakes technisch erkennbar sind, bezweifeln die Forschenden, dass Plattformen und Nutzende solche Werkzeuge konsequent einsetzen werden. Mehr Hoffnung legen sie auf internationale Standards wie «JPEG Trust», den Touradj Ebrahimi als ISOGremium- Vorsitzender vorantreibt: Er bündelt Herkunft, Bearbeitung und Authentizität eines Bildes zu Vertrauensprofilen für Nutzende.

Die Zeit für gemeinsame Standards drängt

Der Ansatz ist mit den Spezifikationen der Coalition for Content Provenance and Authenticity kompatibel – einer weltweiten Allianz, die gemeinsame Standards zur Herkunftskennzeichnung schaffen will. Dazu gehören inzwischen Unternehmen wie Open-AI, Meta, Adobe und Google ebenso wie Kamerahersteller und Medienhäuser. Ob sich solche Systeme langfristig durchsetzen, bleibt allerdings offen. Denn technisch mag vieles möglich sein – ob diese Werkzeuge aber rechtzeitig und flächendeckend eingesetzt werden, bevor das Vertrauen in die digitalen Medien dauerhaft grossen Schaden genommen hat, ist eine andere Frage.