Dies ist wohl der bekannteste Vers aus Grimms Märchen „Schneewittchen“ aus dem 19. Jahrhundert. Im 21. Jahrhundert lautet die Frage allerdings nicht weiter „Wer ist die Schönste im Land?“, sondern eher: „Wer ist der echte Papst im Videoland?“ Denn derzeit fluten Fakevideos von Papst Leo XIV. das Netz. Doch wie kann der Flut an Deepfakes sinnvoll begegnet werden? Reicht die Kennzeichnung von KI‑generierten Inhalten aus?

Was während des Pontifikates von Papst Franziskus mit gefakten Fotos des Pontifex – zum Beispiel in einem Daunenmantel – begann, weitet sich derzeit durch Deepfake-Videos rasant aus. Quelle: Mode-Papst Franziskus? Nein, ein Bild mit weißem Daunenmantel ist nicht echt

Bereits wenige Tage nach seiner Amtseinführung überfluteten täuschend echte Deepfake-Videos die sozialen Netzwerke, in denen der neue Pontifex angeblich „End-zeitpredigten“ hielt oder kontroverse Aussagen zur Rolle der Frau machte. Wie „BR24“ berichtet (KI fälscht Papst-Reden: "Destabilisierende Wirkung" für Kirche) wurde beispielsweise ein spanisches Fake-Video von Papst Leo XIV. auf Instagram „fast zehn Millionen Mal aufgeru-fen – mehr als jedes bisherige Video auf dem offiziellen Instagram-Kanal des Vatikans“. Mit anderen Worten: Die Fälschung fand breitere Beachtung als das Original.

Hieran wird deutlich, wie Fakenews die kommunikative Deutungshoheit der katholischen Kirche beeinflussen. Wenn Millionen Menschen zuerst die Fake-Botschaft hören, prägt dies ihr Bild mehr als seine echten Worte. Denn eine Kirche, deren offizielle Stimme im „Chor der Desinformation“ untergeht, verliert an Autorität und Vertrauen.

Aus diesem Grund reagierte das Presseamt des Heiligen Stuhls schnell auf die Deepfakes um Papst Leo XIV. und machte am 21. Mai 2025 deutlich, dass „alle Reden, Interventionen und Texte Leos XIV. vollständig auf Vatican.va nachgelesen werden können“ (Fake News: Gefälschte Papst-Botschaft im Umlauf). Mit anderen Worten: Traue nur offiziellen Stellen. Diese klare Linie – Transparenz und Verweis auf verifizierte Originalquellen – kann entscheidend sein, um das Vertrauen der verwirrten Gläubigen zurückzugewinnen. Damit stemmt sich der Vatikan kommunikativ gegen den Vertrauensverlust. Doch es braucht mehr: proaktive Strategien, sowohl technischer als auch kommunikativer Art, die KI nicht als Werkzeug verteufeln, aber auch nicht zum Heilsbringer ernennen.

EU-AI-ACT fordert Kennzeichnungspflicht ab 2026

Der Geist ist aus der Flasche und lässt sich nicht mehr zurück in die Flasche bringen, da durch die schiere Masse der Deepfakes die Bekämpfung der Fakenews eine nahezu aussichtlose Mission ist. Auch wenn Kanalbetreiber wie Meta und Alphabet versuchen, Kanäle mit Fakenews auf Instagram und YouTube zu sperren, haben sie bereits eine schnelle und breite Verbreitung erlangt, wie das o. g. Beispiel des spanischen Instagram-Videos zeigt. Und wie bei der ernäischen „Hydra“ aus der griechischen Mythologie wachsen für einen gesperrten Account mindestens zwei neue Accounts nach.

Der EU ist daher der Einsatz der Plattformen zu gering. Der „EU-AI-Act“ führt daher 2026 – konkret ab dem 2. August – eine Kennzeichnungspflicht für KI-generierte Inhalte ein. Die KI-Kennzeichnungspflicht gilt allerdings nur für einen Teil der KI-generierten Inhalte, insbesondere aber für „Deepfakes“ in Fotos und Videos. Doch sowohl das späte Inkrafttreten als auch die unzureichenden Kontroll- und Sanktionsmöglichkeiten stehen in der Kritik. Es wirkt, als wolle die EU bei allem „guten Willen“, wie Don Quijote gegen Windmühlen ankämpfen …

Fazit: „Kampf um die Wahrheit“

Die Welle von Fakenews und Deepfakes rund um Papst Leo XIV. ist mehr als nur eine kuriose Randnotiz auf die abgewandelte „Schneewittchen“-Spiegelfrage: „Spieglein, Spieglein an der Wand: Wer ist der echte Papst Leo XIV. im Videoland“?

Die Kommunikation der katholischen Kirche beruht vor allem auf den (authentischen) Aussagen und Veröffentlichungen des Pontifex. Wie „BR24“ berichtet, haben die Fake-Videos von Papst Leo XIV. bereits zu einer Verunsicherung bei Gläubigen und zu einer verstärkten Nachfrage nach der „Echtheit“ von Papstvideos geführt. Der Vatikan steht vor der Aufgabe, seine „Mission der Wahrheitsverkündung“ fit für das KI-Zeitalter zu machen, sonst besteht die Gefahr, die (Deutungs-)Hoheit an KI‑Inhalte zu verlieren. Für die katholische Kirche bedeutet dies allerdings auch, ihre Botschaft noch transparenter und glaubwürdiger vermitteln zu müssen – in dem hoffnungsvollen Wissen, dass sich bisher die Wahrheit am Ende – gegen noch so perfekte Täuschungen – durchgesetzt hat. „Wo Desinformation laut wird, darf Aufklärung nicht leise bleiben.“

Bestärkt wird diese Hoffnung dadurch, dass Kirche, Medien und Unternehmen an einem Strang ziehen, um die Verbreitung von Deepfakes und Fakenews einzudämmen. Ganz nach dem Credo „Wo Desinformation laut wird, darf Aufklärung nicht leise bleiben.“

Dies erfordert allerdings nicht nur technische Lösungen, (internationale) rechtliche Rahmenbedingungen und ethische Vereinbarungen (Stichwort: “Rome Call for AI Ethics”). Denn besser als Kennzeichnungspflichten (die trotzdem das Vertrauen in verifizierte Inhalte verstärken können, wenn die Verifizierung glaubwürdig und ohne finanzielle Beeinflussung erfolgt) kann die Förderung der Medienkompetenz Fakenews und Deepfakes bekämpfen. Denn dadurch werden die Gläubigen befähigt, im „Kampf um die Wahrheit“ (Papst Franziskus) die Wahrheit von der Lüge zu unterscheiden und – wie bei den jährlichen Grippe-Impfungen – irgendwann „immun(er)“ gegen Falschmeldungen zu werden. Hinweis: Mit Unterstützung von kath.de veröffentlicht das Partnerportal explizit.net in den Monaten Juni/Juli 2025 eine Artikelserie zum Thema „Künstliche Intelligenz“. Weitere Informationen dazu gibt es auf der Website: Explizit.net

Christian Schnaubelt (Chefredakteur und Herausgeber von kath.de)