Der Bilderdetektiv

Es wird unübersichtlich: Durch künstliche Intelligenz generiertes oder manipuliertes Material wird zu vielen Nachrichten im Internet verbreitet – von Landtagswahlen in Deutschland über sexualisierte Deepfakes von Prominenten bis zu militärischen Angriffen der USA. Auch wichtige Quellen wie das Weiße Haus oder die Polizeigewerkschaft in Sachsen haben schon Bilder veröffentlicht, die mit KI erstellt oder bearbeitet wurden.
Nur mit den eigenen Augen ist das kaum noch zu erkennen, auch nicht für Journalisten, die solches Material in Redaktionen erreicht. Deshalb hat der Recherche-Experte Henk van Ess ein digitales Werkzeug entwickelt, das verschiedene Arbeitsschritte der Verifikation automatisch ausführt.

Ein Flüsterer für Redaktionen
Das Tool Image Whisperer ist mehr als ein übli- cher KI-Detektor, der nur eine Prozentzahl als Ergebnis nennt. Das Tool arbeitet detektivischer, indem unterschiedliche Tests für ein Bild durchgeführt werden – darunter Rückwärtssuche, Ortsprüfung, Abgleich mit Faktenchecks und auch KI-Detektion.

Automatische Prüfung mit Urteil
Derzeit umfasst Image Whisperer 41 Tests, die seit dem Start im vergangenen Jahr ständig ergänzt und bei „Features“ erläutert werden. Sobald man auf der Startseite ein Bild eingefügt hat, werden alle Tests parallel ausgeführt, und die Ergebnisse werden schon nach einer halben Minute strukturiert angezeigt – inklusive eines Urteils von Image Whisperer in vier Varianten und entsprechenden Farben:

• Grün – wahrscheinlich echt: Das Bild hat alle wesentlichen Tests bestanden und entspricht einer echten Aufnahme, zum Beispiel bei Perspektive oder Metadaten.
• Rot – wahrscheinlich KI: Das Bild wird von mehreren Tests als KI erkannt, und auch forensische Prüfungen liefern Hinweise auf KI.
• Orange – unsicher: Das Bild zeigt in Tests keine eindeutigen oder überzeugenden Ergebnisse, es ist möglicherweise mit KI erstellt oder bearbeitet.
• Blau – Verifikation erforderlich: Das Bild ergibt in Tests widersprüchliche Ergebnisse, sodass eine genauere Überprüfung durch Menschen erforderlich ist.

Grundsätzlich sollten Redaktionen das Urteil von Image Whisperer prüfen, was anhand der vielen Ergebnisse und Quellen besser möglich ist als bei üblichen KI-Detektoren, die nur eine Prozentzahl ausgeben. Um alle Hinweise, die in das Urteil einfließen, zu sichern, kann ein vollständiger Report zum Bild auch als PDF gespeichert werden.

Rückwärtssuche bis Geolocation
Dazu gehört der Überblick „What‘s in this image“, der anhand der W-Fragen Inhalt und Kontext beschreibt, ergänzt um Hinweise, was auf dem Bild zu lesen ist – inklusive Übersetzung: etwa Plakate, Schilder und andere Beschriftungen. Es folgt die Rückwärtssuche mit übereinstimmenden, teilweise übereinstimmenden und ähnlichen Bildern, die bei Google, Bing, Yandex und Tineye gefunden wurden. Auch die älteste Fundstelle wird mit Datum angegeben, um den zeitlichen Kontext zu prüfen, und es ist einfach zu erkennen, ob das Bild auf Websites von Medien oder Agenturen gefunden wurde.

Danach gibt es eine Analyse zu KI, aber auch Bearbeitungen und Metadaten. Hier werden die individuellen prozentualen Ergebnisse der einzelnen Tests aufgelistet, um
auch selbst urteilen zu können. Ein weiterer Schritt ist die sogenannte Geolocation, indem Hinweise auf einen möglichen Ort gesucht werden, um diese mit Straßenansichten und Satellitenbildern bei Google und anderen Diensten abzugleichen. Nicht zuletzt werden Datenbanken mit vorhandenen Faktenchecks auf mögliche Treffer durchsucht.

Verifikation durch Maschine und Mensch
So liefert Image Whisperer eine schnelle und einordnende Übersicht der Ergebnisse aus vielen Tests, die sonst in Redaktionen einzeln abgearbeitet werden müssten. Dazu kommt ein transparentes Urteil, das sich durch Journalisten gut prüfen lässt. Denn das Tool versucht durch unterschiedliche Tests Hinweise zu finden, ob ein Bild echt oder KI-generiert ist. Insofern ist es für Redaktionen, die sich nicht regelmäßig mit Verifikation beschäftigen, nötig, sich in diese Methoden einzuarbeiten. Das sollte aber keine gravierende Hürde sein, angesichts der hilfreichen Ergebnisse, die „Image Whisperer“ liefert. Um zu üben, können pro Tag drei Bilder kostenfrei geprüft werden, eine höhere Anzahl gibt es ab sechs Dollar für Redaktionen, freiberufliche Journalisten können ein Sponsoring anfragen.

ZUM NACHLESEN

Wie können KI-Tools den Redaktionsalltag noch unterstützen?
Mehr dazu in diesen Internetwerkstatt-Beiträgen:

• Notizen ordnen mithilfe von KI. Zum Beitrag
• Skizzen in Mindmaps verwandeln mit KI. Zum Beitrag

Weiterführende Links

Image Whisperer
Liste der Tests