GretchenAI: Ein Bild prüfen lassen – und trotzdem selbst urteilen

Was GretchenAI anbietet

Der Anbieter beschreibt eine Weboberfläche, in die sich Dateien oder Links einreichen lassen. Sie soll nach Manipulationsspuren suchen und im Netz Herkunft und Zusammenhang der Medien recherchieren. Das Ergebnis soll Hinweise und Quellen liefern. Wie gut das in einem konkreten Fall gelingt, haben wir nicht selbst getestet.

Quelle: Gretchen AI: Produkt

Ein echtes Foto kann eine falsche Geschichte erzählen

Stell dir ein Foto einer überschwemmten Straße vor. Die Bildunterschrift behauptet, die Aufnahme sei von heute und zeige deinen Wohnort. Tatsächlich könnte sie Jahre alt sein und aus einem anderen Land stammen. Das ist ein erfundenes Beispiel zur Erklärung, kein GretchenAI-Testergebnis.

Eine Suche nach künstlich erzeugten Bildteilen würde die falsche Ortsangabe allein nicht klären. Dafür brauchst du den ursprünglichen Beitrag, ein Datum oder andere Aufnahmen desselben Geschehens. Und selbst wenn Foto, Ort und Datum stimmen, kann eine zusätzliche Behauptung über die Ursache weiterhin falsch sein.

Unsere Leitfrage lautet deshalb: Welcher Teil des Beitrags wurde überhaupt geprüft? Ein Ergebnis zum Bild beantwortet nicht automatisch die Frage, ob die dazugehörige Aussage stimmt.

Wo die Erkennung irren kann

Laut GretchenAI können echte Aufnahmen als künstlich eingeordnet und Fälschungen übersehen werden. Screenshots und starke Kompression erschweren die Analyse. Der Anbieter nennt einen Schwerpunkt auf Gesichtern und menschenzentrierten Bildern; Landschaften und unbelebte Objekte seien schwieriger. Auch ein Funddatum in der Kontextsuche könne irreführen.

Quelle: Gretchen AI: FAQ

Was eine hohe Trefferquote nicht verrät

Die Forschung zeigt, weshalb Alltag und Testumgebung auseinandergehalten werden müssen. Deepfake-Eval-2024 untersucht Medien, die tatsächlich im Netz kursierten. Die untersuchten offenen Detektoren schnitten dabei deutlich schlechter ab als auf früheren Vergleichsdatensätzen. Auch die untersuchten kommerziellen Modelle erreichten nicht die Genauigkeit der menschlichen Fachleute. Daraus lässt sich keine konkrete Fehlerquote für das heutige GretchenAI-Dashboard ableiten.

Für uns folgt daraus: Eine beworbene Erkennungsleistung beantwortet noch nicht, wie verlässlich die Einschätzung zu deinem einen Bild ist. Dafür wären Angaben zum verwendeten Verfahren, zu den Testdaten und zu Fehlentscheidungen wichtig. Wir übernehmen deshalb keine Werbezahl als Erfolgsversprechen.

Quelle: Chandra et al.: Deepfake-Eval-2024

Zugang, Kosten und die Frage nach deinen Bildern

Auf der Preisseite steht zum Quellenstand 11. Oktober 2026 ein Starter-Tarif für 9,99 Euro monatlich mit 100 Scans. Daneben wird ein 14-tägiger kostenloser Test mit begrenztem Kontingent und ohne Kreditkarte angeboten. Wir haben weder ein Konto eingerichtet noch den Buchungsablauf geprüft. Prüfe die Bedingungen im jeweiligen Angebot, bevor du dich anmeldest.

Die gelesene Datenschutzerklärung beschreibt vor allem die Website-Nutzung. Daraus leiten wir keine Zusage ab, wie lange hochgeladene Bilder im Dashboard gespeichert oder wofür sie verwendet werden. Diese Punkte haben wir nicht abschließend geklärt. Für einen ersten eigenen Versuch würden wir deshalb eine unkritische Datei wählen, die keine privaten oder vertraulichen Informationen enthält.

Quelle: Gretchen AI: Preise · Gretchen AI: Datenschutzerklärung

Warum der Berliner Einsatz Diskussionen ausgelöst hat

Die Berliner Innenverwaltung kündigte am 26. August 2026 die „Gretchenfrage“ für die Wahl am 20. September an. Über Instagram sollten verdächtige Beiträge eingereicht werden können. Laut Verwaltung war das Ziel eine nachvollziehbare Orientierung mit Quellen und ausgewiesener Unsicherheit. Das beschreibt die damalige Ankündigung; den Betrieb nach der Wahl haben wir nicht geprüft.

Marcel Luthe kritisierte dieses staatliche Angebot in einem Kommentar der Berliner Zeitung vom 27. August als Bevormundung. Seine Kritik richtet sich gegen die Rolle des Staates bei der Einordnung politischer Inhalte. Sie belegt für sich genommen keinen technischen Fehler des Werkzeugs.

Für Hexpex steckt darin eine Frage, die auch außerhalb des Wahlkampfs wichtig bleibt: Kannst du erkennen, auf welche Quellen sich eine Bewertung stützt, was sie nicht weiß und wie sich ein Fehler beanstanden lässt? Ein amtlicher Absender ersetzt diese Prüfung ebenso wenig wie ein bekannter Herstellername.

Quelle: Berliner Innenverwaltung: Start der Gretchenfrage · Marcel Luthe: Kommentar in der Berliner Zeitung

Was du mit einem Ergebnis anfangen kannst

Öffne die genannten Belege. Geht es dort wirklich um dasselbe Bild und dieselbe Behauptung? Schau auf das ursprüngliche Veröffentlichungsdatum und darauf, ob eine spätere Seite nur eine ältere Meldung wiederholt.

Lässt sich die Einschätzung nicht nachvollziehen, bleibt der Fall offen. Du musst aus einer unklaren Antwort kein „echt“ oder „gefälscht“ machen. Beim Weitergeben hilft ein genauer Satz wie: „Die Herkunft konnte ich noch nicht prüfen.“

GretchenAI wäre für uns dann nützlich, wenn es eine überprüfbare Spur zur eigenen Recherche liefert. Ob es das bei deinen Bildern zuverlässig leistet, ist mit dieser Quellenrecherche nicht beantwortet. Wie du Herkunft und Zusammenhang auch selbst prüfst, zeigen wir in unserer Prüfhilfe.

Zur Hexpex-Prüfhilfe: Bilder und Videos prüfen ↗