“Deep Fake”-Technologie überschwemmt das Internet mit falschen Botschaften von Papst Leo XIV. Gläubige fallen reihenweise auf die Fälschungen herein. Die Anbieter kommen mit dem Löschen nicht hinterher.
Die Warnung klingt dringend, Stimme und Sprache verblüffend echt. “Der Himmel ist schwer von Prophezeiungen. Die Himmelsuhr tickt ihre letzten Sekunden”, schärft Leo XIV. seinen Zuhörern ein, sich auf das Weltende vorzubereiten. Auf Youtube verbreitet sich die angebliche Predigt des neuen Papstes wie ein Lauffeuer. Auch unter Katholiken, die neugierig sind, was der Pontifex zu sagen hat. Nur – nichts davon ist echt. Die mahnenden Worte entstammen den digitalen Untiefen der Künstlichen Intelligenz (KI). Die Stimme ist so manipuliert wie die Leo in den Mund gelegten Sätze.
Und dies ist nicht die einzige Fälschung. Seit der Wahl von Papst Leo XIV. am 8. Mai überschwemmen KI-generierte “Deep Fake”-Videos das Netz. Agence France Presse identifizierte in einer Recherche Dutzende Youtube- und Tiktok-Kanäle, die falsche Predigten unter dem Namen des neuen Papstes verbreiten. Der erfolgreichste Kanal “Pope Leo XIV. Sermons” kam vor seiner Löschung am 21. Mai auf fast eine Million Aufrufe und 18.000 Abonnenten. 26 Videos mit gefälschten Homilien täuschten die Stimme des Pontifex vor.
Gläubige fallen reihenweise auf die über soziale Medien verbreiteten Fälschungen herein – sogar wenn die Videos als KI-generiert gekennzeichnet sind. Priester werden nach den Fake-Videos gefragt. Manche fürchten, dies sei erst der Anfang eines massiven Problems, das auf die Kirche zukommt und die Glaubwürdigkeit der Verkündigung gefährdet.
Ein eklatantes Beispiel der Irreführung durch KI ist ein spanischsprachiges Tiktok-Video, in dem Leo XIV. angeblich über die Rolle von Frauen predigt. Es erreichte 9,6 Millionen Aufrufe. Zum Vergleich: Kein Video auf dem offiziellen Instagram-Account des Papstes kommt über sechs Millionen Aufrufe.
“Es gibt natürliches Interesse daran, was der neue Papst zu sagen hat, und die Menschen kennen bisher nicht seine Haltung und seinen Stil”, erklärt Oren Etzioni, emeritierter Informatik-Professor an der University of Washington und Gründer von TrueMedia.org gegenüber Yahoo News. “Eine perfekte Gelegenheit, mit KI-generierter Desinformation Unheil zu stiften.”
Die Technologie hinter Deep Fakes hat sich rasant entwickelt und macht es zunehmend schwieriger, echte von gefälschten Inhalten zu unterscheiden. Die Algorithmen imitieren nicht nur die Stimme des Papstes, sondern auch seinen Sprachduktus und theologische Wendungen. Um Fälschungen wie die Endzeitwarnungen zu erkennen, ist zumeist ein professioneller Blick notwendig. Der förderte in diesem Fall zutage, dass der mutmaßliche Papst in der 42-minütigen Predigt nirgendwo konkret wird.
Auf die Deep Fakes aufmerksam gemacht, löschte Youtube 16 Kanäle wegen irreführender Praktiken und Betrug. Sprecher Jack Malon erklärte, die Kanäle seien “wegen Verstößen gegen unsere Spam-Richtlinien” abgeschaltet worden. Auch Tiktok entfernte elf Accounts mit zusammen über 1,3 Millionen Abonnenten.
Es scheint indes ein aussichtsloser Kampf. Während die Plattformen entdeckte Fake-Kanäle löschen, entstehen an anderer Stelle neue. Die Kennzeichnungspflicht für KI-Inhalte erweist sich als unzureichend. Auf Youtube verstecken sich die Hinweise oft im aufklappbaren Beschreibungstext, auf Tiktok fehlen sie häufig ganz.
Der Vatikan reagiert alarmiert auf die Flut gefälschter Inhalte und erinnert daran, dass “alle Reden, Ansprachen und Texte von Papst Leo XIV. vollständig auf vatican.va eingesehen werden können.” Der Papst selbst ist sich der Herausforderungen durch KI bewusst: Mit ihrem immensen Potenzial erfordere sie Verantwortung und Unterscheidungsvermögen, “um sicherzustellen, dass sie zum Wohl aller eingesetzt werden kann”, sagte er im Mai in einer Ansprache an die Medien. “Diese Verantwortung betrifft jeden entsprechend seinem Alter und seiner Rolle in der Gesellschaft.”
Die Kirche hat sich bereits früh mit den Gefahren der KI befasst, englisch AI für Artificial Intelligence. 2020 startete die Päpstliche Akademie für das Leben “The Rome Call for AI Ethics”, ein Dokument, das von zahlreichen zivilen und öffentlichen Organisationen unterstützt wird. Es fordert einen weltweiten Konsens über den Einsatz von KI zum Wohl der Menschheit.
Fachleute befürchten, dass selbst scheinbar harmlose Fälschungen problematisch sind – besonders wenn sie dazu dienen, Engagement für Accounts zu generieren, die später ihr Publikum verkaufen oder zu anderer Desinformation wechseln könnten. Und für Gläubige bleibt die Herausforderung, in einer zunehmend komplexen digitalen Welt zwischen Wahrheit und Fälschung zu unterscheiden.