Katz und Maus

Indem man eine Linie von einem Schatten in einem Bild zurück zu einer Lichtquelle verfolgt, kann man sehen, ob etwas zu dem Bild hinzugefügt wurde (Bild: Hany Farid)

«Wenn ich fertig bin, fängt die eigentliche Arbeit erst an.»

Der Bereich der Bildforensik ist entstanden, um das Vertrauen in die Fotografie wiederherzustellen. Unser visuelles System ist zwar bemerkenswert darin, Szenen schnell zu erfassen und Gesichter zuverlässig zu erkennen. Bei der Beurteilung von Helligkeit und Farbe, Unstimmigkeiten bei der Beleuchtung, Schatten, Reflexionen, der Blickposition und perspektivischen Verzerrungen jedoch tun wir uns schwer. Im Gespräch mit Matthias Steinke spricht der Berkeley-Professor und Pionier der Bildforensik, Hany Farid über Wahrnehmungsgrenzen bei der Erkennung manipulierter Bilder und stellt repräsentative Beispiele von Computertechniken zur Authentifizierung von Bildern vor.

Text – Matthias Steinke – 19.09.2022

Ursprünglich hat Hany Farid Computer Sciences und Angewandte Mathematik studiert und er ist eher zufällig zur Bildforensik gekommen. 1997 arbeitete er an seiner Habilitationsschrift und stand in der Bibliothek in der Warteschlange, als sein Blick auf ein dickes Buch mit dem Titel «The Federal Rules of Evidence» fiel. Er schlug eine beliebige Seite auf und stieß auf einen Abschnitt, in dem die Regeln für die Einführung von Beweisfotos vor Gericht festgelegt waren.

«Ich habe mich schon immer für Fotografie und das Studium von Bildern interessiert, aber nicht aus einer rechtlichen Perspektive, also beschloss ich, das Buch auszuleihen und es zu lesen», sagt Farid. «Das meiste schien relativ unkompliziert und einleuchtend zu sein, bis ich über eine Definition des Begriffs 'Original' stolperte, die sinngemäß Folgendes zum Ausdruck bringt: Wir akzeptieren ein 35-mm-Negativ als Original; wir akzeptieren einen Abzug vom Negativ als Original; und wir akzeptieren die Reproduktion eines Abzugs von einem Negativ als Original. Das fand ich merkwürdig, denn die Reproduktion eines Abzugs ist schon ziemlich weit vom Original entfernt, aber für die Rechtsprechung stellte dies offenbar kein Problem dar.

Vor der Jahrtausendwende hatte noch kaum jemand eine Digitalkamera, und die digitale Fotografie war gerade erst im Entstehen begriffen. Aber man brauchte keine allzu große Fantasie, um sich bei der rasanten Entwicklungsgeschwindigkeit digitaler Technologien vorzustellen, wohin die Reise gehen würde. Dieser initiale Impuls führte zu meiner mehr als zwei Jahrzehnte währenden Suche nach Methoden und Techniken, digitale Inhalte zu authentifizieren, die bis heute andauert.»

Hany Farids Auftraggeber sind die US-amerikanischen Nachrichtendienste und Strafverfolgungsbehörden, das Weiße Haus und die Vereinten Nationen, aber auch Nachrichtenagenturen, Gerichte und kommerzielle Unternehmen wie Google, Microsoft und Facebook. Nicht zuletzt arbeitet er pro bono für Organisationen wie das National Center for Missing and Exploited Children, das Counter Extremism Project oder das Innocence Project, das sich darum bemüht, Menschen, die unschuldig angeklagt oder verurteilt wurden, wieder in Freiheit zu bringen.

Hinter all diesen Tätigkeiten steht eine Haltung, die sich aus zwei grundsätzlichen Quellen speist: Zum einen treibt ihn eine akademische Neugierde um, die über das Spezialistentum seines Fachs weit hinausgeht. Farid repräsentiert die Sorte von Wissenschaft, die im Sinne des Anthropologen Gregory Bateson nach den Mustern sucht, die verbinden, und die die Phänomene über die oft eng gesteckten Grenzen der Fachdisziplinen hinaus einzuordnen versteht. Der zweite Antreiber ist zutiefst humanistisch: der Glaube an die Möglichkeit einer besseren Welt, für deren Kreation wir selbst verantwortlich sind, und die Sorge um die Errungenschaften der Demokratie und offener Gesellschaften, die wir aus seiner Sicht zunehmend zu verlieren drohen. Farid bringt das auf die Formel: «Vertraut den Experten.»

Das ist kein blinder Irrglaube und schon gar nicht die Annahme, dass Experten nicht auch falsch liegen können. Aber die Idee von Wissenschaft ist es, dass sie sich immer wieder selbst in Frage stellen kann und dadurch erneuert. «Wissen entwickelt sich ständig weiter, und wenn ein Experte heute einen Wissensstand vertritt und morgen einen anderen, dann ist das nicht ein Zeichen von Inkompetenz oder Schwäche. Es könnte einfach nur sein, dass sich sein Wissen inzwischen verändert oder erweitert hat», sagt Farid.

Das bekannte Mondlandungsfoto, das wegen der seltsamen Schatten in Frage gestellt wurde, bestand den Test: «Unser Algorithmus stellte fest, dass die Schatten auf diesem Foto der Mondlandung von 1969 physikalisch mit einer einzigen Lichtquelle übereinstimmen. Die durchgezogenen Linien entsprechen den Beschränkungen durch geworfene Schatten und die gestrichelten Linien entsprechen den Beschränkungen durch aufliegende Schatten. Der schwarz umrandete Bereich, der sich über den Rand der Abbildung hinaus erstreckt, enthält die projizierten Lichtpunkte, die alle diese Bedingungen erfüllen.» (Quelle: Kee, O’Brien and Farid, Originalfoto copyright 1969, NASA)

«Einzelne Techniken können zwar Hinweise auf Manipulationen aufzeigen, aber sie können keinen Beweis für die Echtheit von Bildern liefern.»

Farids letztes Buch «Fake Photos», das 2019 in der «Essential Knowledge Series» bei der MIT Press erschienen ist, verspricht im Klappentext einen «leichten und verständlichen» Zugang zur Identifikation manipulierter und gefälschter Bilder in digitalen Medien. Und tatsächlich erhält man als Laie nach der Lektüre ein Verständnis der Grundprinzipien und wichtigsten Techniken der Bildforensik, die es erlauben zu beurteilen, wann und in welchem Ausmaß Bildern vertraut werden kann.

Man sollte sich jedoch nicht der Illusion hingeben, dass es gewissermaßen universelle Methoden oder gar Patentrezepte zur Authentifizierung der Echtheit von Fotografien gibt. «Alle Techniken beruhen auf bestimmten Annahmen, die ihre Anwendbarkeit einschränken», stellt Farid klar. «Einzelne Techniken können zwar Hinweise auf Manipulationen von Bildern aufzeigen, aber sie können keinen Beweis für deren Echtheit liefern. Nur in Kombination können diese Techniken die Echtheit einer Fotografie begründen (obwohl sie diese niemals beweisen können).»

Besagte «Kombination» beinhaltet unter anderem ein tiefergehendes Verständnis von (digitalen) Bildern und Kompressionsalgorithmen, von der Mathematik und Physik der Optik und des Lichts, sowie der Einsicht in die Funktionsweise von Photoshop oder ähnlicher Bildbearbeitungssoftware. Die Summe all dieser Einflussfaktoren produziert das fertige digitale Bild – und erzeugt zugleich spezifische Artefakte, deren Identifikation dem Forensiker bei der Arbeit Hinweise darauf geben kann, ob ein Bild manipuliert worden ist oder nicht.

Um die Komplexität noch zu erhöhen, muss die Forensik den jeweiligen technologischen State-of-the-art in ihrer Analyse berücksichtigen. Mit jedem Software-Update verändern sich die Artefakte – und auch die Möglichkeiten ihrer Manipulation.

Nicht zuletzt müssen Bildforensiker Fragen nach dem Kontext beantworten, die teilweise weit über das zu untersuchende Bild und dessen technologische Parameter hinausgehen. «Ich hatte einen Fall», beschreibt Farid, «in dem jemand beschuldigt wurde, ein Bild manipuliert zu haben. Es stellte sich aber heraus, dass der Beschuldigte ein Typ war, der kaum sein iPhone bedienen konnte. In seinem Umfeld aber gab es eine Grafikerin mit 20 Jahren Photoshop-Erfahrung. Man konnte kaum davon ausgehen, dass der Beklagte dieses Bild auf eine so raffinierte Weise mit Photoshop bearbeitet hat. Die Grafikerin aber schon.»

An diesem Fall lässt sich unschwer erkennen, welche Konsequenzen sich im Kontext von Bildmanipulationen ergeben können und welche Bedeutung somit die Identifikation von Manipulationen hat. Gerade auf gesellschaftlicher Ebene nehmen wir zunehmend wahr, welche Auswirkungen manipulierte Medien haben und wie die Politik darauf reagiert bzw. sich selbst zunutze macht. Individuell sind wir zudem ständig mit der Frage konfrontiert, ob das, was wir online rezipieren, real ist oder nicht.

Das Problem dabei ist, dass zahlreiche Experimente darauf hindeuten, dass wir eher schlecht darin sind, Manipulationen bzw. Fälschungen zu erkennen. «Meistens denken die Leute, dass die echten Bilder gefälscht sind und dass die, die gefälscht sind, echt sind», sagt Farid. «Schlimmer noch, sie sind sich dabei ihres Urteils in hohem Maße sicher. Die Menschen sind also gleichermaßen unwissend wie überzeugt, was die wohl schlechteste Kombination ist.» Wenn Sie die eigene Fähigkeit, Originale von Photoshop-Bildern unterscheiden zu können, überprüfen möchten, hat Adobe ein kleines Online-Quiz veröffentlicht, das Sie hier finden.

«Meistens denken die Leute, dass die echten Bilder gefälscht sind und dass die, die gefälscht sind, echt sind. Schlimmer noch, sie sind sich dabei ihres Urteils in hohem Maße sicher. Die Menschen sind also gleichermaßen unwissend wie überzeugt, was die wohl schlechteste Kombination ist.» – Hany Farid

Farids Urteil über die mangelnde Fähigkeit, über die Echtheit von Bildern zu urteilen, bezieht er durchaus auch auf sich selbst. Aus diesem Blickwinkel ist es interessant zu hören, wie er selbst über die mehr als zwei Jahrzehnte, in denen er sich mit dem Thema beschäftigte, zu seinen Erkenntnissen kam: «Im Grunde ist es eine kriminalistische Binsenweisheit: Wenn man den Bösewicht aufspüren will, muss man wie der Bösewicht denken. Als wir mit dem Thema anfingen, haben wir uns oft hingesetzt und selbst Fotos gefälscht, um dann im Nachhinein Schritt für Schritt zu analysieren, was wir getan hatten und wie sich die einzelnen Schritte auf das Bild auswirkten.»

Auf die Anfänge zurückblickend, räumt Farid ein, dass vieles über Versuch und Irrtum erkundet werden musste: «Als wir begannen, das Thema ernsthaft zu verfolgen, gab es vielleicht eine Handvoll Fälle pro Jahr, die wir –meist über die großen Nachrichtenagenturen wie Reuters oder AP – auf den Tisch bekamen. Darüber hinaus arbeiteten wir an einzelnen Kriminal- oder anderen Rechtsfällen. Diese Fälle inspirierten uns zu Ideen und Hypothesen über Original und Fälschung, von denen manche Bestand hatten, manche aber auch verworfen wurden. Es war wie eine Art Schleifenbewegung, in der wir auf der einen Seite neue Techniken entwickelten, um sie in der realen Welt auszuprobieren, und gleichzeitig inspirierte die reale Welt neue Techniken, für die wir dann die theoretischen Erklärungen ausarbeiten mussten.

Ich empfand diese Pionierzeit als pures Glück, denn es handelte sich um ernsthafte akademische Forschung, die von kaum einer Handvoll von Leuten weltweit betrieben wurde. Zugleich hatten wir aber auch Schwierigkeiten, unsere Arbeiten zu veröffentlichen, da es keine wissenschaftlichen Zeitschriften und Konferenzen zu dem Thema gab, und es inhaltlich zwischen die Disziplinen fiel. Also mussten wir nach und nach eigene Zeitschriften und Konferenzen ins Leben rufen, und allmählich nahm das Thema an Fahrt auf.»

Wenn Hany Farid sich heute einem interessanten Fall nähert, fragt er zuerst seine Frau, was sie davon hält. Emily Cooper ist Neurowissenschaftlerin mit Spezialisierung auf das visuelle System des Menschen und virtuelle Realität. Hier zeigt sich erneut der wissenschaftliche Zugang Farids zum Thema, der die Einsichten des «gesunden Menschenverstands» aushebelt bzw. ihnen zum Teil widerspricht.

«Das visuelle System ist in vielerlei Hinsicht bemerkenswert, denn es ist in der Lage, überdeutlich zu sehen, Szenen schnell zu erfassen und Gesichter zuverlässig zu erkennen», erklärt Farid. «In anderer Hinsicht ist das visuelle System jedoch auch recht ungeschickt. Zum Beispiel kann es unempfindlich gegenüber bestimmten Helligkeits- und Farbeindrücken sein, sowie gegenüber Unstimmigkeiten in Beleuchtung, Schatten, Reflexionen, Blickrichtung und perspektivischen Verzerrungen. Diese Parameter liefern jedoch oft genau die Hinweise, die es ermöglichen, Bildmanipulationen aufzudecken, weshalb die Einschränkungen unseres Sehapparats bei der Untersuchung von Bildern auf Spuren von Manipulationen oft hinderlich sein können.»

Die Reflexionen in dem ebenen Spiegel in den Feldern a und b stimmen mit der Geometrie der Szene überein. Die Szene in Feld c ist eine Zusammensetzung aus dem Objekt in Feld a und der Reflexion in Feld b, was zu einer inkonsistenten Reflexion und Szenengeometrie führt.

Die Schattenwürfe in den Feldern a und b sind mit einer einzigen Lichtquelle vereinbar. Die Szene in Tafel c setzt sich aus der Rückwand von Tafel a und der Grundfläche von Tafel b zusammen, was zu Schattenwürfen führt, die nicht mit einer einzigen Lichtquelle vereinbar sind.

Abbildung a: Eine Schattenwurf-Beschränkung verbindet einen Punkt auf dem Schatten des Kastens mit dem entsprechenden Punkt auf dem Kasten. Abbildung b: Mehrere solcher Beschränkungen schneiden sich in der Projektion der Lichtquelle. Die geometrische Bedingung, die den Schatten, das Objekt und das Licht miteinander verbindet, gilt unabhängig davon, ob die Lichtquelle in der Nähe (eine Schreibtischlampe) oder in der Ferne (die Sonne) ist. Diese Bedingung gilt auch unabhängig von der Lage und Ausrichtung der Flächen, auf die der Schatten fällt. Unabhängig von der Geometrie der Szene schneiden sich alle Bindungslinien in demselben Punkt.

Drei Boxen werden in einem Spiegel reflektiert (a) und eine virtuelle Vogelperspektive (b) dieser Szene mit den Boxen auf der linken Seite, dem Spiegel in der Mitte und der Reflexion auf der rechten Seite. Die gelben Linien verbinden die Punkte auf einem Kasten mit ihrer Reflexion. Wenn eine solche Szene unter linearperspektivischer Projektion abgebildet wird, schneiden sich die Linien, die einen beliebigen Punkt der Szene mit seinem Spiegelbild verbinden, in einem einzigen Punkt, wie in Tafel a gezeigt.

«Forensische Wissenschaft kann zeigen, dass Dinge, die Leuten merkwürdig vorkommen, keineswegs im Widerspruch zur Realität stehen müssen.»

Die Bilderfluten in den digitalen Medien, die zunehmende Verbreitung von Verschwörungstheorien und die Diskussionen um Fake News haben alle dazu beigetragen, dass dem einstigen Nischenthema Bildmanipulation heute eine größere Aufmerksamkeit beikommt.

Eine der berühmtesten Verschwörungstheorien, die um die Ermordung des amerikanischen Präsidenten John F. Kennedy rankt, bezieht sich auf ein solch «manipuliertes» Bild.

Es handelt sich um das berühmte Foto des mutmaßlichen Todesschützen Lee Harvey Oswald, in dem dieser ein Gewehr und marxistische Zeitschriften in die Kamera präsentiert. Den Behörden zufolge wurde das Foto in Oswalds Vorgarten aufgenommen und im April 1963 an einen Freund geschickt.

Die Ermittler verwendeten es als Beweis für Oswalds Schuld, nachdem sie die Markierungen des Gewehrs auf dem Bild mit der Waffe verglichen hatten, die nach dem Attentat im Texas School Book Depository in Dallas, Texas, gefunden wurde. Oswald selbst hatte behauptet, das Foto sei gefälscht, und einige Verschwörungstheoretiker machten danach geltend, Unregelmäßigkeiten in dem Foto gefunden zu haben, die Oswalds Behauptung beweisen würden.

Die Warren-Kommission, die mit der Aufklärung des Mordes an Kennedy betraut war, fand jedoch keinerlei Hinweise auf eine Manipulation des Bildes und kam zu dem Schluss, die Behauptungen seien ungerechtfertigt. Aber diese Schlussfolgerung hat die Skeptiker kaum beruhigt, geschweige überzeugt.

Die «Unregelmäßigkeiten», die die Verschwörungstheoretiker gefunden zu haben glaubten, bezogen sich auf die Schatten, insbesondere in Oswalds Gesicht, die aussähen, als seien sie von einer anderen Lichtquelle geworfen als die Schatten anderer Objekte auf dem Foto. Oswalds Kinn sehe breiter aus als auf seinem Fahndungsfoto, seine Haltung wirke angesichts des Gewichts der Waffe seltsam, und die Länge der Waffe selbst sei zu bezweifeln.

Farid hat das Foto mit Kollegen untersucht und sich dazu in einer Reihe von Veröffentlichungen geäußert. Für ihre Analysen erstellten die Forscher 3D-Modelle des Ortes und von Oswald auf Grundlage seines Fahndungsfotos, seiner Größe und seines Gewichts, sowie des Gewichts der Waffe. Letztlich konnten die Forscher keinerlei Hinweise auf eine Fotomanipulation finden.

«Das Oswald-Foto ist ein interessantes Beispiel», sagt Farid, «bei dem die forensische Wissenschaft zeigen kann, dass Dinge, die Leuten merkwürdig vorkommen, keineswegs im Widerspruch zur Realität stehen müssen. Sie sind physikalisch absolut plausibel oder verifizierbar.»

Die Forscher aus Dartmouth bauten ein physiologisch plausibles 3-D-Modell von Lee Harvey Oswald und stellten es so auf, dass es seinem Aussehen auf dem berühmten Foto entsprach. Indem sie jedem Teil des 3-D-Modells die entsprechende Gewichtmasse hinzufügten, konnten sie eine Gleichgewichtsanalyse durchführen, die ergab, dass Oswald zwar aus dem Gleichgewicht zu geraten scheint, seine Haltung jedoch stabil ist. (Computerbilder mit freundlicher Genehmigung von Hany Farid; Foto von Oswald von der Warren-Kommission)

«Es gibt kein einheitliches JPEG-Format. Jede Kamera komprimiert in unterschiedlichem Ausmaß.»

Ein weiteres, einfacheres Beispiel für die geschulte Wahrnehmung eines Forensikers, ist der Blick in die Augen von Fotografierten: «Wenn zwei Personen auf einem Foto nebeneinander stehen, sehen wir oft die Reflexion der Lichtquelle (z. B. der Sonne oder eines Kamerablitzes) in ihren Augen», erklärt Farid. «Der Ort, die Größe und die Farbe dieser Reflexion geben Aufschluss über die Position, Größe und Farbe der Lichtquelle. Wenn diese Eigenschaften der Lichtquelle nicht übereinstimmen, handelt es sich bei dem Foto möglicherweise um ein Composite, also ein aus verschiedenen Quellen zusammengesetztes Bild, also eine Fälschung.»

Ein weiterer anatomischer Hinweis ist die Farbe der Ohren der Menschen. «Wenn die Sonne hinter mir steht, sehen meine Ohren von vorne rot aus, weil man dann das Blut sieht», sagt Farid. «Wenn das Licht von vorne kommt, sieht man das Rot im Ohr nicht.»

Andere Authentifizierungsmethoden haben nichts mit dem Inhalt eines Bildes zu tun, sondern damit, wie die Daten von der Software gepackt werden, die sie kodiert. Wenn ein Bild beispielsweise von einem Mobiltelefon oder einer Digitalkamera kommt, wird es oft als JPEG-Datei gespeichert, die eine verlustbehaftete Kompression verwendet.

Um die Größe digitaler Dateien zu verringern, wird ein Teil der Bildinformationen auf Grundlage bestimmter Algorithmen, die die Datei verkleinern, weggelassen (daher verlustbehaftet). Darüber hinaus sind dem Bild Metadaten zugeordnet, die Auskunft darüber geben, wann das Bild aufgenommen wurde, welche Kamera verwendet wurde, wie die Miniaturansicht aussehen soll und sogar der Ort, an dem es aufgenommen wurde.

«Es gibt kein einheitliches JPEG-Format», erklärt Farid. «Jede Kamera komprimiert in unterschiedlichem Ausmaß. Ein iPhone komprimiert zum Beispiel viel stärker als eine hochwertige digitale Spiegelreflexkamera. All diese Faktoren werden dann in die Bilddatei eingebettet. Strafverfolgungsbehörden nutzen die Dateiinformationen, um zu überprüfen, ob ein Bild nach dem Herunterladen von der Kamera verändert wurde. Wenn man sich ein JPEG im Quellcode ansieht, kann man feststellen, dass die Reihenfolge, in der die Informationsbits angeordnet sind, sehr spezifisch ist und mit einiger Bestimmtheit sagen, dass sie Photoshop durchlaufen hat, weil es diese verräterischen Zeichen gibt.»

Gleichwohl ist es möglich, Fotos zu manipulieren und die Daten dann so umzuordnen, dass sie authentisch aussehen, aber das ist ein aufwändiger Prozess. Farid vergleicht es mit dem Versuch, einen Computer wieder als neu zu verpacken, nachdem man ihn einmal aus der Verpackung genommen hat. «Die Art und Weise, wie das Paket eingepackt ist, mit den Folien, dem Styropor, usw. Würde man versuchen, alles auseinanderzunehmen und wieder zusammenzusetzen, wäre es sehr schwierig, es genau so aussehen zu lassen, wie es vorher war. Das digitale Äquivalent dazu wäre das Verstecken von Dateimanipulationen. Man kann es schaffen, wenn man sich wirklich Mühe gibt, aber es ist beinahe unmöglich, sehr zeitaufwändig, und man macht fast immer Fehler.»

Trotzdem betont Farid, dass die forensischen Techniken keine Garantie dafür bieten, dass gefälschte Fotos wirklich erkannt werden. «Das Wettrüsten ist voll im Gange», sagt er. «Wir entwickeln immer bessere Techniken, Fälschungen zu identifizieren, und die Fälscher werden gleichzeitig immer besser darin, diese Techniken zu umgehen, wie bei Spam, Viren und Malware auch schon. Es ist wie ein Katz- und Mausspiel. Alle entwickeln sich ständig weiter. Die Techniken werden besser, die Fälschungen werden besser, die Techniken werden besser, die Fälschungen werden besser, und so weiter. Und ich weiß eigentlich jetzt schon, wie das enden wird: Ich werde verlieren. Zu verteidigen ist schwer. Irgendwann werden die Manipulationen so perfekt sein, dass wir sie nicht mehr als Manipulationen erkennen können.»

Das UFO wurde digital in das linke Bild eingefügt. Auf der rechten Seite ist die Wahrscheinlichkeit dargestellt, dass jedes Pixel in diesem Bild mit einem Farbfilter-Array (CFA) interpoliert wurde. Beachten Sie das periodische Muster im vergrößerten Ausschnitt des umgebenden Himmels und das Fehlen dieses Musters auf dem UFO - ein verräterisches Zeichen für Manipulation.

«Und ich weiß eigentlich jetzt schon, wie das enden wird: Ich werde verlieren. Zu verteidigen ist schwer.» – Hany Farid

«Die Fotografie hat ihre Unschuld fast mit ihren Anfängen verloren: Eines der berühmtesten Porträts von Abraham Lincoln (rechts) ist in Wirklichkeit eine Mischung aus seinem Kopf und dem Körper des Südstaatenpolitikers John Calhoun (links), einem überzeugten Befürworter der Sklaverei. Offenbar wurde diese bizarre Mischung geschaffen, weil Lincoln nicht heroisch genug erschien. Seitdem wurden auch die Bilder anderer Staatsoberhäupter manipuliert, um die fotografischen Aufzeichnungen zu verändern: Stalin ließ bekanntlich seine politischen Feinde aus den offiziellen Fotos herausretuschieren, ebenso wie Mao Tse-tung, Adolf Hitler, Fidel Castro und viele andere. Diese Diktatoren verstanden die Macht der Fotografie. Sie wussten, dass man jemanden aus der Geschichte entfernen kann, wenn man ihn von einem Foto entfernt», erklärt Hany Farid. (Quelle: Library of Congress Prints and Photographs Division Washington, D.C. 20540 USA http://hdl.loc.gov/loc.pnp/pp.print).

«Wenn wir glauben, dass heute jeder ein Bild manipulieren kann, dann besteht eine Gefahr darin, dass wir bald überhaupt nichts mehr als echt ansehen.»

Schon jetzt gibt es Apps, die quasi-automatisch Bilder für uns verändern können, und auch Photoshop ist über die Jahre nicht nur immer leistungsfähiger, sondern auch leichter bedienbar geworden. «Damit haben wir die Einstiegshürde, 'glaubwürdige' Fälschungen herzustellen, gesenkt», sagt Farid.

«Mit der Einführung von Deep Fake AI wird die Hürde noch einmal niedriger. Sie wollen jemanden in ein Foto setzen? Geben Sie es einfach einem Computeralgorithmus, der der KI sagt, dass sie diese Person auf das Foto setzen soll. Drücken Sie den Knopf: fertig! Jedes Mal, wenn wir die Hürde senken, können es immer mehr Menschen tun, die Fälschungen werden besser und der Zugang zur Foto- und Videobearbeitung im Hollywood-Stil wird demokratisiert. Und das ist ein Risiko: Es geht nicht so sehr darum, dass wir Bilder und Videos manipulieren können, sondern wer es kann und wie gut. Wenn ich es also mit den Manipulationen von Hollywood-Studios oder im Regierungsauftrag handelnden Fälschern zu tun habe, dann kann ich damit umgehen. Das kann ich aber nicht bei einem 17-jährigen Schüler, der ein manipuliertes Bild des Präsidenten auf Reddit stellt und damit womöglich eine Wahl verändert. Das wäre eine Katastrophe.»

Wenn wir glauben, dass heute fast jeder ein Bild oder Video manipulieren kann, dann besteht eine weitere Gefahr darin, dass wir bald überhaupt nichts mehr als «echt» ansehen.

Farid gibt einige Beispiele: «2016 kandidierte Donald Trump für das Amt des Präsidenten und wird auf den 'Access-Hollywood'-Bändern dabei erwischt, wie er einige wirklich schlimme Dinge über Frauen sagt. Und ... er entschuldigte sich. Es war wahrscheinlich das erste und einzige Mal, dass er sich öffentlich entschuldigt hat. In 2017 ist Trump Präsident und wird erneut auf die Bänder angesprochen. Jetzt behauptet er, diese seien gefälscht. Und die Leute, die ihn gewählt haben, bestätigen sofort: Ja klar, die Tapes sind gefälscht. Nun betreten wir also diese merkwürdige Welt der Lügendividende, in der jeder ein Bild oder eine Aufnahme von etwas, das nicht mit seiner Weltanschauung übereinstimmt, für gefälscht erklären kann. Wir uns immer weniger über die Fakten einig.

Wie aber sollen wir über unsere Gesellschaft, unsere Demokratien nachdenken und sprechen, wenn wir uns nicht über die Fakten einig sind? Es gibt keine gemeinsame Referenz mehr. In den Weiten des Internets gibt es mehr Rauschen als sinnhafte Signale. Wenn wir in einer Welt leben, in der jeder die Realität manipulieren kann, dann lebt jeder in einer je eigenen Realität. Und ich habe große Bedenken, wie man so gemeinsam eine Demokratie gestalten kann.»

Farid fährt fort: «Letztes Jahr wurde ein Video von Nancy Pelosi in den sozialen Medien veröffentlicht, das sich viral verbreitete. Es war nicht einmal ein Deep Fake, sondern nur ein verlangsamtes Video, das sich anhörte, als würde sie lallen, um zu suggerieren, sie sei betrunken. Ich sollte herauszufinden, ob das Video echt sei, und das war nicht besonders kompliziert, da Pelosis Rede auf C-SPAN ausgestrahlt wurde und ein Vergleich des Originals mit der verlangsamten Version die Manipulation sofort offenlegte.

Als ich das Ergebnis veröffentlichte, nahm ich an, dass sich das Thema damit erledigt hatte. Aber weit gefehlt: Ich erhielt täglich Unmengen von «hate mail» und mir wurde unterstellt, dass ich gemeinsam mit C-SPAN an der Verschwörung beteiligt war, um die Tatsache zu verbergen, dass Nancy Pelosi Alkoholikerin ist. Übrigens hatte sie seit zehn Jahren nichts mehr getrunken ...

Aber das war meinen Kritikern egal. Wir als Akademiker, Forensiker, Journalisten oder Faktenchecker können die harte Arbeit des Aussortierens von Wahrheiten und Unwahrheiten erledigen. Aber dann veröffentlichen wir unsere Ergebnisse und die Leute sagen: Wir glauben euch nicht. Und warum? Weil ich Nancy Pelosi hasse, deshalb.

Und damit sind wir wieder bei der Lügendividende und der Natur von Verschwörungstheorien. Die Leute glauben, dass auch Wissenschaftler, Journalisten und Faktenchecker Teil der Verschwörung sind. Unsere Arbeit ist also notwendig, aber keineswegs ausreichend. Wenn wir mit der Facharbeit fertig sind, fängt die eigentliche Arbeit erst an. Und das ist eine Aufgabe der Politik und ihrer Organe, aber auch eine Aufgabe für die Gesellschaft als Ganzes.

Wir müssen die Menschen wieder dazu bringen, den Experten zu vertrauen, aber ich weiß nicht, wie wir das schaffen können. Bzw. eine Idee habe ich vielleicht doch, wie man das Problem lösen kann: Jeder sollte Facebook, Twitter, YouTube und die anderen Social-Media-Kanäle von seinen Geräten löschen. Das würde schon viel helfen. Aber es dürfte schwierig sein, drei Milliarden Menschen davon zu überzeugen, ihre Social-Media-Konten zu löschen.»

Hany Farid

Hany Farid ist Professor für Elektrotechnik und Computerwissenschaften an der University of California, Berkeley. Er ist Mitglied des Berkeley Artificial Intelligence Lab, des Berkeley Institute for Data Science, des Center for Innovation in Vision and Optics, des Development Engineering, des Vision Science Program und ist Senior Faculty Advisor für das Center for Long-Term Cybersecurity. Seine Forschungsschwerpunkte sind digitale Forensik, forensische Wissenschaft, Fehlinformationen, Bildanalyse und menschliche Wahrnehmung. Er ist der Autor der Bücher «Photo Forensics» und «Fake Photos».

Matthias Steinke

Matthias Steinke bewegt sich mit Vorliebe zwischen Jazz, Neurowissenschaften und postmoderner Literatur. Er lebt und arbeitet als Organisationsberater in Berlin. Steinke besitzt langjährige Führungserfahrung in globalen Unternehmen der IT und Telekommunikation. Bei ReVue ist er als Redakteur verantwortlich für die Rubrik «Im Kopf».

Mehr ReVue
passieren lassen?

Der ReVue Newsletter erscheint einmal im Monat. Immer dann, wenn ein neuer Artikel online geht. Hier en passant abonnieren.

Sie möchten unsere Arbeit
mit einer Spende unterstützen?
Hier en passant spenden!

Fotografie ist allgegenwärtig, wird aber in den journalistischen Medien noch wenig hinterfragt oder erklärt. Wer an Journalismus denkt, denkt an Texte. Das digitale Magazin ReVue verfolgt einen anderen Ansatz: Es nähert sich den Themen vom Bild her. In unseren Beiträgen untersuchen wir die Rolle und Funktion von Bildern im Verhältnis zum Text, zur Wahrheit, zum politischen oder historischen Kontext. Wie nehmen wir Bilder wahr? Welche Geschichte steckt dahinter?
Unsere Beiträge erscheinen auf Deutsch, wir übersetzen aber auch fremdsprachige Texte und erleichtern so den Wissenstransfer zu einer deutschsprachigen Leserschaft.
ReVue ist unabhängig. Die Redaktion arbeitet ehrenamtlich. ReVue ist ein Projekt der gemeinnützigen DEJAVU Gesellschaft für Fotografie und Wahrnehmung e.V. in Berlin.