Kennzeichnung für KI-Bilder?

Bereits im Winter brachte die EU Regelungen auf den Weg, um KI-generierte Inhalte zu kennzeichnen. Das Berliner Justizministerium verkündete – etwas verspätet – nun eigene Ideen zu dem Problem. Im Prinzip spricht ja nichts gegen diese Maßnahmen, meint Doc Baumann – in der Praxis dagegen doch einiges.

Prompt in Deep Dream Generator/AIVisioon: »generate as a professional photo, a photograph in a newspaper that is explicitly marked as an AI-generated image« Die Zeile „Bild wurde per KI generiert“ wurde manuell eingefügt, da keine entsprechenden Umsetzungen erzeugt wurden. Textdarstellungen werden  zwar zunehmend besser, sind aber immer noch weit von einer korrekten Wiedergabe entfernt.

Auf die Initiative von Justizminister Buschmann hatte uns unser Leser Horst hingewiesen, mit einem Link auf Netzpolitik.org. Dort finden Sie das Wichtigste zur EU-Gesetzgebung und der etwas irritierenden Berliner Verdopplung. Also muss man das Ganze hier nicht noch einmal ausführlich beschreiben – Sie können es dort nachlesen.

Im Prinzip ist die Idee ja nicht schlecht. Viele von uns sind noch in der Lage, bei genauerem Hinschauen Fotos und KI-generierte Bilder auseinanderzuhalten. Wie gesagt – noch. Bald werden sie so perfekt sein, dass der Augenschein da nicht mehr ausreicht. Und es geht ja nicht nur um Bilder (und Texte); die scheinbare Unmittelbarkeit und Überzeugungskraft von Videos, in denen Menschen mit passender Mundbewegung, Mimik und Gestik und mit eigener Stimme seltsame Sätze von sich geben, die man ihnen gar nicht zugetraut hätte (oder gerade), ist hinsichtlich der von solchen Fälschungen ausgehenden Gefahr sicherlich noch problematischer.

Aber bleiben wir in unserem Zuständigkeitsbereich, bei Bildern. Die Idee ist ja nicht neu, die Kennzeichnung digital manipulierter Bilder wird schon seit langer Zeit diskutiert – ohne Ergebnis.

Immerhin, in Frankreich müssen seit einem halben Jahr Fotos, auf denen Körperformen von Models digital verändert wurden, mit dem Hinweis „photographie retouchée“ versehen werden.

Im Prinzip bricht man sich als seriöses Medium ja keinen ab, wenn irgendwas in dieser Art unter KI-generierten „Fotos“ steht. Bei Grafiken desselben Ursprungs scheint das weniger nötig, da bei ihnen jeder Betrachter mehr oder weniger ausdrücklich „mitdenkt“, dass es sich dabei um kein 1:1-Abbild der Wirklichkeit mit dem Anspruch auf völlige visuelle Übereinstimmung handelt, sondern dass es eine subjektiv gefilterte Interpretation und Vereinfachung ist.

Also Deepfakes in Form von KI-„Fotos“. Klar, warum denn nicht markieren? Mein Gegenargument ist relativ simpel: Sehe ich nach dieser Rechtslage in den Medien ein Bild, das nach herkömmlichen Erfahrungen als Foto einzuordnen wäre, dann hilft mir die Kennzeichnung „KI-generiert“, Verwechslungen und Irrtümer zu vermeiden. Das bedeutet jedoch im Umkehrschluss: Sehe ich ein Bild, das nicht in dieser Weise markiert ist, darf ich davon ausgehen, dass es eine authentische Szene wiedergibt.

Seriöse Medien wären nach dieser Definition solche, die Fotos angemessen (unterschrieben) veröffentlichen und sie nicht (auch echte Fotos) zum Zweck der Irreführung einsetzen. Ist es im Kontext sinnvoll, ein KI-generiertes Bild zu zeigen, wird dieses als solches gekennzeichnet. Bis hierher ist alles klar.

Nur leider, leider funktioniert unsere Welt nicht auf diese Weise. Wenn jemand bei Ihnen anruft, um etwa den Enkeltrick auszuprobieren, hat er keine freundlichen Absichten. Ich kenne das zur Genüge: Alle paar Monate ruft „meine Tochter“ heulend und schluchzend bei mir an: „Papa, Papa, ich habe ein Kind überfahren!“ Und noch ehe sie mich an den freundlichen, aber korrekten „Polizeikommissar“ weiterreichen kann, der mir dann erklären wird, wie ich mit einer Kaution von wenigen zehntausend Euro meine arme Tochter vor der drohenden U-Haft bewahren kann, sage ich streng und empört: „Schon wieder? Das ist jetzt schon das dritte in ein paar Monaten!“ Dann ist sie jedes Mal beleidigt und legt auf. Habe ich schlechte Laune, sage ich vielleicht auch: „Macht doch nichts – ich hoffe, das Auto hat wenigstens keine Schramme.“ Dann weiß sie nicht so recht, wie sie damit umgehen soll.

Aber worauf ich eigentlich hinauswill: Der „Polizeikommissar“ erklärt mir nie: „Übrigens, dies ist ein betrügerischer Anruf, nichts stimmt, wir wollen nur Ihre Kohle. Darauf muss ich Sie nach der aktuellen Gesetzeslage ausdrücklich aufmerksam machen.“ Und wenn er das nicht sagt? Dann kann ich sicher sein, dass die junge Frau mit Sonnenbrille, die in einem dunklen Hauseingang einen dicken Umschlag mit Geld entgegennimmt, ohne eine Quittung auszustellen, eine echte Polizistin ist. Oder vlelleicht doch nicht … 

An betrügerische Mails, angeblich von Banken, Telefongesellschaften, Paketdiensten oder (besonders gut gemacht mit „echtem“ Absender) Zoll hat man sich ja inzwischen gewöhnt – jedenfalls die meisten von uns. Die Kennzeichnungspflicht KI-generierter Deepfakes und die implizite Erwartung, Betrüger würden sich daran halten, erweckt ein wenig die Hoffnung, Betrugs-Mail würden künftig aussehen wie diese und ordnungsgemäß vor bösen Absichten warnen. (Die Mail kam nicht wirklich, sondern ist meine eigene Schöpfung.)

Mit anderen Worten: Wer betrügen will, teilt Ihnen das nicht auch noch mit. Sonst käme der Betrug ja nicht zustande. Umgekehrt: Verlassen wir uns zu fest darauf, dass KI-generierte Bilder als solche gekennzeichnet sind, weil es ja so vorgeschrieben ist, lässt unsere Vorsicht vielleicht nach und wir vertrauen darauf, dass die Abwesenheit der Kennzeichnung für Authentizität steht. Gezielte, KI-generierte Deepfakes zum Zwecke der Meinungsmanipulation oder des Betrugs hätten es also mit einer Kennzeichnungspflicht leichter als ohne diese. Das spricht zwar nicht gegen eine solche Markierung, zeigt aber, dass diese gewiss kein Allheilmittel ist.

Im DOCMAshop finden Sie alle Infos zum aktuellen Heft: Das ausführliche Inhaltsverzeichnis sowie einige Seiten als Kostprobe.