ADOBE Firefly & Co. versus Authentizität

 

(Optimiert für FullHD – 1920x1080Pix – und Smartphone + Full Screen. Bei 27 Zoll-Bildschirmen auf 120% vergrößern. Empfohlener Browser: FIREFOX.)

 

My Art of Vision Newsletter (29.09.2023) – Update 05.09.2026

 

1 Wie DER SPIEGEL (vor drei Jahren) sein Flüchtlings-Cover bastelte

 

Verlinkte Quelle:

https://uebermedien.de/88481/wie-der-spiegel-sich-aus-einem-foto-sein-bedrohliches-fluechtlings-cover-bastelte/?utm_source=pocket-newtab-de-de

 

 

 

 

 

 

 

 

Quellbild: Migrants transferred from the island of Lampedusa to mainland Italy

 

Über Adobe Firefly in der anfänglichen Beta-Version habe ich vor längerer Zeit berichtet und eine Demo gezeigt, indem ich auf einem Originalbild von Schloss Neuschwanstein per Mausklick alternative Schlösser habe bauen lassen. Einige davon hätten dem “Kini” sicherlich gefallen. Ich werde unten noch einmal darauf eingehen.

Seitdem Firefly in das offizielle PS-Abo übernommen wurde und immer tollere Ergebnisse liefert, hat sich eine öffentliche Diskussion entwickelt, deren Ausmaß und deren Weiterungen noch gar nicht absehbar sind. Dabei ist Bildmanipulation in Digitalien nix Neues; das hat es schon immer gegeben. Es stellt sich dabei die Frage, wie wir “Manipulation” definieren, wo sie spätestens anfängt, ob und ggf. wie wir sie als solche deklarieren und wie wir letztlich damit umgehen.

Sprechen wir zunächst über das SPIEGEL-Cover und die Originaldatei, deren Lizenz man bei gettyimages für einen mittleren dreistelligen Betrag kaufen kann (Link auf Bild):

 

 

1) Was ist da passiert? 2) Ist das urheberrechtlich “in Ordnung”? 3) Was ist der Zweck der Aktion? 4) Welche Botschaft wird damit vermittelt? 5) Inwieweit ist das presserechtlich/journalistisch zulässig, sachgerecht und im Ergebnis angemessen?

1) bis 4) kann ich beantworten; über 5) wird heftig gestritten.

Zu 1): Aus der Bilddatei wurde eine monochrome Grafikdatei generiert, die auf die Menschenschlange fokussiert und auf das Schiff im Hintergrund. Einige Elemente wurden entfernt. Die sonstige Zeichnung wurde ebenfalls herausgenommen. Zu 2): Davon gehe ich aus; die Lizenzbedingungen sollten diese Verarbeitung im Sinne eines neuen “Fotokunstwerks” prinzipiell erlauben, auch ohne Quellenangabe. Zu 3) Naja, das ist offensichtlich und bedarf keiner Erklärung. Zu 4): Das hat DER SPIEGEL auf seinem Cover in großen Buchstaben adressiert. Bei 5) habe ich selber noch keine abschließende Meinung. Wenn ich mir die Bundestagsdebatten der letzten Zeit in Erinnerung rufe, in der mal wieder just for show Fensterreden gehalten wurden, ist mir ein Bild in der Tat aussagekräftiger.

Aber warum bitte nicht das Original von gettyimages?? Die auszugsweise Kommentierung der selbst ernannten  “Medienrichter” im Internet ist folgende:

 

 

 

 

Fazit:

Medien sind unstreitig nicht nur Berichterstatter, sondern immer auch Meinungsmacher. Ich wurde 1959 geboren, die SPIEGEL-Affäre 1962 kenne ich nur aus Dokus. Aber spätestens seitdem wissen wir, dass die Presse und auch die elektronischen Medien ganz bewusst und hartnäckig politische Ziele verfolgen können und dieses auch tun. Die politische Zielscheibe des SPIEGEL war damals der Bundesverteidigungsminister Franz-Josef Strauß, den man öffentlich “abschießen” wollte.

 

 

2 Update zu ADOBE Firefly & Co

 – Was die Programme Stand heute (05.09.2026) leisten können –

 

Dazu folgende Geschichte:

Das Bild unten zeigt einen Mercedes 300 SLR Uhlenhaut (1955). Davon gibt es nur zwei Originale, eines steht im Mercedes-Museum in Stuttgart, das andere hat ein Liebhaber ersteigert, für angeblich 135 Mio Euro. Ich habe eigene Fotos im Archiv, so wie man das Auto halt im Museum sehen kann. Nicht gerade umwerfend.

Mercedes zeigt von diesem Auto im Rahmen seines Internet-Auftritts mehrere, meist historische Fotos, u.a. die folgende Studioaufnahme in einer besonderen Weitwinkelperspektive  mit neutralem Hintergrund. Man kann sie sich per rechtem Mausklick herunterladen und damit herumspielen. Das habe ich spaßeshalber ausprobiert.

 

 

Soweit so gut. Was aber danach kommt, generiert auf der ADOBE Webseite mit meinem eigenen Account, das sprengt jede Phantasie:

 

 

Das obige Studiofoto wurde zum Vergleich als Referenzbild hochgeladen verbunden mit einem Prompt: “Mercedes mit Berglandschaft als Hintergrund, Passstraße, Gegenlicht.” Und dann brauchte die Maschine nur 30 Sekunden, um nachzudenken und zu rechnen. Das Ergebnis wurde in zwei Varianten ausgeworfen, die weitere Variante, etwas nachbearbeitet, ist diese:

 

 

Anmerkungen dazu:

Wie oben ausgeführt, es gibt nur zwei Original-Autos (Prototypen). Denn 300er SLR wurden für den Straßenverkehr nicht in Serie gebaut, weil sich Mercedes seinerzeit (1955) nach der Katastrophe in Le Mans aus dem Rennsport zurückzog. Ergo kann es eigentlich kaum authentische Fotos eines 300 SLR (außerhalb des Mercedes-Museums) und dann auch noch zu 100% passend in den Bergen bei Gegenlicht geben, die eine KI ohne Weiteres ruckzuck im Archiv findet. Somit bleibt nur – der Denklogik folgend – die Schlussfolgerung, dass das KI-Foto von der ADOBE KI ad hoc komplett neugerechnet sein muss, aufgrund 1) des Referenzbildes und 2) meiner Vorgaben. Okay, für den Hintergrund mag es passende Referenzen geben. Vorliegend vielleicht die Großglockner Hochalpenstraße bzw. das Stilfer Joch. Denn einen anderen Alpenpass mit vergleichbar extremen Kehren kenne ich nicht.

Der absolute Knüller ist die authentische Simulation des abendlichen Gegenlichts auf die Karosserie. Das macht mich sprachlos. 😮😮😮

*schweig*

 

Und deshalb lohnt sich ein Backtesting. Das heißt, man fragt ein anderes KI-Tool, das oft on-line und kostenlos auf entsprechenden Webseiten zur Verfügung gestellt wird, ob das Foto KI-generiert oder durch einen Menschen mit der Kamera entstanden ist. Das habe ich vorliegend getan, und die Antwort ist genauso überraschend:

 

Wahrscheinlich echtes Bild – menschlich erstellt (99%)

 

Und nu?

Das deep-fake Bild gehört jetzt mir, es ist als eigenes Kunstwerk zu meinen Gunsten urheberrechtlich geschützt, obwohl ich nicht der Fotograf bin. Denn den gibt es gar nicht. Hintergrund: Eine Maschine (ein Rechner) ist in keiner Jurisdiktion rechtsfähig, kann also de jure nicht Urheber sein. Ersatzweise könnte man erwägen, dass der Erfinder (Programmierer) der Urheber sein könnte. Das ist aber absurd und führt erst recht ins juristische Chaos.

Wenn ich jetzt wirklich weiß, dass quasi der Phantasie keine Grenzen mehr gesetzt sind und es keine augenscheinlichen Ansatzpunkte mehr gibt, echt von Fake zu unterscheiden, wie soll ich künftig mit digitalen Bildern umgehen, mit fremden und auch mit meinen eigenen??

Ich weiß es nicht. Und viele andere wissen es ebenfalls nicht. Das Problem ist aber erkannt, und es gibt bereits technische Lösungen, die ein KI-Bild eindeutig als solches bei der Entstehung kennzeichnen und auch später identifizieren sollen. Darüber berichte ich bei nächster Gelegenheit.

Ich habe zudem das Mercedes Konzern-Archiv in Stuttgart angeschrieben und um dessen grundsätzliche Einschätzung zu der ganzen Problematik, nicht zuletzt vor dem Hintergrund der neuen KI-Verordnung der EU, gebeten. Auf die Antwort bin ich gespannt.

 

Weiterer Test: ChatGPT (Free Account)

Die Eingaben (prompts) waren:

Frankfurt am Main, blaue Stunde, Blick vom Dach des Grand Tower Richtung Innenstadt, Vollmond.

Und dann sucht, rechnet und kombiniert das Programm. Das Ergebnis, ein wenig nachbearbeitet, hänge ich darunter:

 

Wer als Insider genauer hinschaut, muss feststellen, dass das Bild schon deshalb Fake ist, weil der Grand Tower im Europaviertel steht, zwischen Hauptbahnhof und Messegelände. Eine Perspektive mit Standort geschätzt “Frankfurter Dom” nebst Blick auf die Paulskirche kann von dort nicht möglich sein. Außerdem vermisse ich die Zwillingstürme der Deutschen Bank und das TRIANON sowie den Opernplatz Tower. Die Frage nach dem Making of beantwortet sich daher wie folgt: Es wurden mehrere, auch ältere Bilder zusammengerechnet; zumindest eines mit östlicher Perspektive, Grand Tower (linker Bildrand), und ein anderes mit westlicher Perspektive auf das Bankenviertel sowie im Vordergrund die Paulskirche (Bildmitte, rechte Bildhälfte). FRANKFURT CITY NEW – RESPEKT!!  🙂

 

Zum Vergleich (authentisch):

 

+++

 

Wer sich als Kunde auf ChatGPT einlassen will, sollte Folgendes wissen:

 

 

Was kostet der Spaß?

 

 

3 Neue rechtliche Rahmenbedingungen

 

Der EU AI Act verpflichtet Fotografen vor allem zur Transparenz und Kennzeichnung von KI-generierten oder stark manipulierten Inhalten (Deepfakes) gemäß Artikel 50.

Die wichtigsten Aspekte im Überblick

1. Kennzeichnungspflicht für Deepfakes: Bilder, die reale Personen, Orte oder Ereignisse durch KI täuschend echt verändern oder erzeugen, müssen für das Publikum sichtbar als KI-Inhalt gekennzeichnet werden.

2. Keine Pauschalpflicht für Standard-Tools: Reine technische Optimierungen wie Entrauschen, Belichtungskorrekturen oder klassisches Retuschieren ohne neue inhaltliche Elemente fallen in der Regel nicht unter die Kennzeichnungspflicht.

3. Inhaltliche Manipulationen: Sobald per KI (wie Generative Fill) Personen oder Objekte hinzugefügt oder entfernt werden und das die Kerngebäude oder die Bildaussage insgesamt verändern, ist eine Prüfung und ggf. ein sichtbarer Hinweis nötig.

4. Technische Metadaten: KI-generierte Dateien sollten maschinenlesbar markiert sein. Dabei helfen Standards wie C2PA Content Credentials, die Herkunft und Bearbeitungsschritte nachvollziehbar speichern. Bei Verlust dieser Metadaten (z. B. durch unachtsamen Bildupload via Screenshots), kann das problematisch werden.

5. Dokumentation: Empfohlen wird ein sauberer Workflow mit Nachweisen (Speichern von RAW- und Arbeitsdateien), um Änderungen und Freigaben im Zweifel belegen zu können.

WICHTIG: Für reine Hobbyfotografen, die das “Geschäft” nicht erwerbsmäßig, sondern “privat” betreiben, gilt das KI-Gesetz expressis verbis nicht (Art. 3 Abs. 3 EU-AI Act).

Wer sich etwas genauer für die Einzelheiten interessiert, der klicke auf folgende Zusammenfassung.

 

Noch wichtiger: Wo genau liegt der Unterschied zwischen KI-generiert und herkömmlicher Bildbearbeitung?

Eine wirklich vorzügliche Ausarbeitung findet Ihr hier; ich kann den Inhalt sehr empfehlen, großes Lob an die Ersteller:

 

 

 

4 KI in der digitalen Bildbearbeitung – Versuch einer fairen Auseinandersetzung

 

Mit Adobe Firefly könne man – so war die anfängliche Bewerbung im Netz – mit “eigenen Worten” (in über 100 Sprachen) z.B. … einen authentischen Jaguar anstelle der Hauskatze in der eigenen Wohnung erscheinen lassen. Stand heute geht noch sehr viel mehr; es gibt anscheinend kein Limit mehr. Man kann bei Adobe sogar mehrere KI-Modelle miteinander kombinieren und kommt aus dem Staunen gar nicht mehr heraus.

 

 

Ob das wirklich für alle Fotoaffinen nicht zuletzt in Ansehung der schutzwürdigen Interessen der Eigentümer und sonstigen Berechtigten bezüglich urheberrechtlich geschützter Kunstwerke das lang erwünschte Ultimo Ratio-Tool sein kann, ist jedoch zweifelhaft.

Anscheinend war/ist man sich bei Adobe, ChatGPT & Co. über die Problematik im Klaren und dessen bewusst, dass solche KI sowohl Segen als auch Fluch bringen können. Daher soll zum einen die Effektivität von KI zumindest dahin technisch eingeschränkt werden, dass nicht jeder Unfug und namentlich keine rechtlich unerwünschten Handlungen unterstützt werden (z.B. Banknotenfälschungen). Im Übrigen gibt es seit Kurzem einen technischen Standard, den Einsatz von KI in den Metadaten einer Bilddatei manipulationsfrei zu dokumentieren, sodass zumindest für den Experten erkennbar ist, ob und inwieweit die Authentizität eines Bildes kritisch zu hinterfragen ist. Siehe dazu die einschlägigen Vorschriften im EU-AI Act. Für alle, die mit Medien und Berichterstattung zu tun haben, wäre das ein unverzichtbares Instrument, um Glaubwürdigkeit sicherzustellen. Inschallah!

 

Ein Beispiel für mögliche faire “Spielregeln” für fototechnisch “legitime” Anwendungen unter Beachtung des Transparenzgebots

 

ROT–GRÜN versus SCHWARZ-ROT

 

 

+  Nicht jedes Bild ist per se “manipuliert”, aber meistens “optimiert”.  +

 

RAW-Dateien – das sind “Kamera-Rohbilddateien”, wie sie die Digitalkamera auf die Speicherkarte geschrieben hat – sind für unsere Augen unansehnlich, wenn sie nicht in ein für die Bildschirmanzeige darstellbares Format transformiert werden, zum Beispiel JPG (Standard). Letzteres wird bereits in der Kamera selbst generiert, damit wir uns eine Bildvorschau auf dem Kameradisplay anschauen können. RAW-Konverter wie Adobe Lightroom bzw. PHOTOSHOP in Verbindung mit Camera RAW machen im Prinzip nix Anderes, natürlich unter Berücksichtigung aller Einstellungen, die wir im Programm vornehmen. Und das ist mehr oder weniger unabdingbar, weil RAWs zunächst häufig suboptimal (matschig, falschbelichtet, unpassendes Farbprofil, unscharf, grobkörnig etc.) daherkommen. Bis am Ende das Bild herauskommt, was wir meinen, gesehen zu haben bzw. “am liebsten gesehen hätten”, ist manchmal einiges an Arbeit am Rechner erforderlich. Diese Arbeiten waren in der analogen Welt zwar andere (Fotolabor), aber namentlich bei Negativen, die anschließend auf Fotopapier ausbelichtet wurden, war der Output selbstverständlich ebenfalls vom Input abhängig. Ausnahmen waren Diapositive, zumal solche, die wie bei KODACHROME über Jahrzehnte hinweg immer gleich nach dem demselben Muster entwickelt wurden, sodass wir noch heute KODACHROME-Dias aus den 30ern des letzten Jahrhunderts anschauen können, deren Farben sich – in fast 100 Jahren – kaum verändert haben.

 

KREATIVE Fotografie – mit der Kamera und vor dem Bildschirm

Wir haben schon vor 15 Jahren darüber gestritten, welche Vorgehensweise noch das Attribut „authentisch“ verdient oder nicht, kamen jedoch zu keinem Ergebnis. Was auch der Denklogik entspricht; denn einen absoluten Maßstab für Authentizität im Sinne von „Wahrheit“ gibt es bekanntlich nicht. Eine Kamera sieht letztlich immer das, was wir ihr gestatten bzw. vorgeben. Die Brennweite des Objektivs, der Fokus und die Belichtung beeinflussen maßgeblich das Ergebnis. Wenn man so will, fängt schon hier die „Bildmanipulation“ an. Oder auch nicht. Eben weil uns dogmatische Diskussionen über das „richtige Sehen“ nicht weiterhelfen.

Fotografie ist jedoch unstreitig auch Fotokunst. Namentlich die Überlagerung/Kombination von Fotos, die inhaltlich zusammenpassen, zumal wenn sie in einer Sequenz oder Serie entstanden sind, ist eine künstlerische Ausdrucksweise, die ihre eigene Berechtigung hat. Das gab’s schon immer und sollte deshalb nicht kritisiert werden.

Bevor ich der Versuchung nicht widerstehen kann, eine abstrakte Abhandlung im Sinne eines Beamtenschriftsatzes zu verfassen, gucken wir doch lieber auf das Vogel-Pano (Störche versus Halsbandsittich) oben, damit verständlich wird, was ich meine und womit man sich wirklich kreativ beschäftigen kann.

Frage:               Ist das Bild authentisch?

Gegenfrage:    Welche Definition von “authentisch” im Sinne von “wirklich wahr” legen wir zugrunde?
Es gibt keinen absoluten Maßstab – die Welt ist EINSTEIN, “relativ”.

Antwort:           Beide Bildkomponenten links und rechts hat die Kamera fotografiert; Adobe Firefly (KI) hat sie nicht frei erfunden.

Allerdings: Genau so, wie es das Endprodukt suggeriert, hat es die Kamera (in einer einzigen Aufnahme) nicht gleichzeitig gesehen.

Konkret: Zwischen beiden Motiven liegt deutlich mehr Abstand (blauer Himmel) als nur ein paar Meter.

Technisch: So ähnlich wie in der klassischen Panoramafotografie, bei der die Einzelbilder überlappend fotografiert und anschließend zusammenmontiert werden, hat es das Programm hier auch gemacht. Der Himmel wurde zudem ergänzend von mir händisch so angepasst, dass gleiche Farbtöne links und rechts einen fließenden Übergang ermöglichen. Abgesehen von kleineren Retouchen, die man immer macht, steckt aber nicht mehr dahinter.

Solche Spielereien sind immer dann kein Problem, wenn der Hintergrund für ein Composing “neutral” ist, was beispielsweise bei meinen kreativen Circus-Bildern der Fall ist. 🙂

 

 

Rechtsfrage: Sind die hier gezeigten Composings als solche kennzeichnungspflichtig im Sinne des EU-AI Act?

1 Die Vogel-Panos spiegeln jeweils eine Abbildung wieder, die der Fotograf im Sucher in dieser Kombination nicht gesehen hat.  Ergo sind die Bilder grundsätzlich kennzeichnungspflichtig.

2 Das Circus-Bild zeigt zweimal dieselbe Person in unterschiedlichem Outfit; nach dem Gesetz ist das Composing dadurch leicht erkennbar, eine Kennzeichnung wird nicht verlangt.

3 Hinweis: Diese Aussagen beziehen sich auf die reine Bildbearbeitung. Nur weil in allen Fällen ein nicht erwerbsmäßig handelnder (Hobby)Fotograf im Einsatz war, der als “Betreiber/Verwender” von KI vom Anwendungsbereich des EU-AI-Acts ausdrücklich ausgenommen ist (Art. 3 Abs. 3), scheidet eine Kennzeichnungspflicht von Rechts wegen aus. Was aber nicht heißt, dass der Fotograf gleichwohl transparente Angaben machen sollte.

 

Vergessen wir nicht, dass das neue KI-Recht alle sonstigen Rechtsvorschriften im Kontext der Fotografie unberührt lässt. Selbstverständlich gelten das Datenschutzrecht (DSGVO), das allgemeine Persönlichkeitsrecht (Recht am eigenen Bild) und das Urheberrecht (Kunsturheberrecht) davon unabhängig und sind daher uneingeschränkt zu beachten. Ein Betätigungsfeld für Medienanwälte, mit generierten Standard-Abmahnungen den eigenen Lebensunterhalt zu verdienen.  🙂