Seit Monatsbeginn ist der „AI Act“ der Europäischen Union in Kraft. Dieser verpflichtet die Betreiber von KI-Modellen zu Transparenzangaben über die verwendeten Modelle und Quellen. Ab August 2026 folgt dann eine verpflichtende Kennzeichnungspflicht für KI‑generierte Inhalte. Doch wird dies reichen, um Vertrauen für KI-Inhalte zu schaffen?

Die KI-Verordnung der EU verlangt klare Kennzeichnungspflichten: Nutzer:innen müssen erkennen können, wann sie es mit einer KI zu tun haben und ob Inhalte, wie Texte, Bilder oder Videos, künstlich erzeugt sind. Neben der Stärkung der Transparenz erhöhen die Regelungen auch dem Datenschutz. Unternehmen müssen offenlegen, mit welchen Daten die KI trainiert wurde und wie sie mit sensiblen Informationen umgehen. Der EU-„AI Act“ soll dabei für einheitliche Standards im gesamten europäischen Binnenmarkt sorgen. Damit sollen „Flickenteppiche“ vermieden und die Sicherheit garantiert werden.

Zustimmung und Ablehnung aus dem Silicon Valley

Erwartungsgemäß stößt die weltweite erste staatenübergreifende Regelung zur Regulierung von Künstlicher Intelligenz nicht nur auf Zustimmung aus dem Silicon Valley. Wie der WDR berichtet Link, lehnt vor allem der Meta-Konzern (Facebook, Instagram, WhatsApp) die EU-Regeln „kategorisch ab“. Trotzdem führt kein Weg an der Umsetzung vorbei, wenn der Konzern nicht auf den Einsatz in der EU verzichten will. Dies hatte zunächst OpenAI als Betreiber von „ChatGPT“ angedroht, dies aber mittlerweile wieder verworfen. Der Konkurrent Anthropic, der Anbieter von „Claude“, will dagegen mit der EU kooperieren. Dies könnte auch an den hohen Strafen liegen, mit denen die EU die Umsetzung des „AI-Act“ durchsetzen möchte. Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes sind dann möglich. Allerdings haben bestehende Dienste von der EU noch eine Übergangszeit bis 2027 eingeräumt bekommen.

Gleichzeitig bedeutet der ab August 2026 vollumfänglich wirkende „AI-Act“, dass dann auch Verbraucher:innen ihre mit KI-Diensten generierte Inhalte „kennzeichnen“ müssen (wie genau, ist noch nicht genau festgelegt). Viele Dienste – vor allem Medien mit redaktionellen Inhalten – haben bereits mit einer freiwilligen Kennzeichnung begonnen.

Schlupflöcher sowie Mängel bei Menschenrechten und Inklusion

Trotz aller Fortschritte reicht der „AI Act“ aus der Sicht von Datenschützer:innen noch nicht aus, um dauerhaftes und umfassendes Vertrauen für KI-Inhalte zu garantieren. Einige Lücken bleiben bestehen. Auch hat die Bundesregierung noch keine nationale Kontrollstelle benannt, wie sie die KI-Verordnung der Europäischen Union vorsieht.

Amnesty International weist ebenfalls auf Defizite bei Menschenrechten und der Inklusion hin: „Wo der AI-Act nicht das ganze Versprechen eingelöst hat, werden wir weiter für eine möglichst menschenrechtsbasierte Umsetzung und Nachbesserung eintreten“ Link.

Eine weitere Herausforderung: Viele Verbraucher:innen hegen Misstrauen, dass staatliche Behörden für eine wirksame Kontrolle sorgen können. Laut einer EU- Umfrage glaubte die Mehrheit, „dass KI zu mehr Manipulation und missbräuchlichem Umgang mit Daten führt – und das Vertrauen in Behörden ist gering“ (Quelle:Link).

„Am Anfang und am Ende muss ein Mensch stehen.“

Der Verein publicatio e. V., der die Portale www.kath.de, www.explizit.net, www.hinsehen.net und www.christlicher-bilderdienst.shop betreibt, hat bereits seit über einem Jahr eine Selbstverpflichtung mit klaren Regeln für den Einsatz von KI eingeführt. Das Credo lautet: „Am Anfang und am Ende muss ein Mensch stehen“. KI-Dienste können z. B. für Recherchen, Zusammenfassungen und Übersetzungen verwendet werden, aber alle Daten werden von Menschen geprüft und final von Menschen redaktionell verantwortet. Damit will publicatio e. V. die Chancen, die im Einsatz von KI-Diensten liegen, nutzen, aber gleichzeitig auch einen sicheren Rahmen schaffen, der den Leser:innen garantiert: Alle Texte sind von Menschen erstellt bzw. kuratiert, alle Quellen werden einzeln geprüft und bei der Erstellung von KI-Bildern werden diese klar gekennzeichnet.

Fazit: Vertrauen ist und bleibt die höchste Währung

Mit der seit dem 02. August 2025 geltenden ersten Phase „AI Act“ setzt die Europäische Union Maßstäbe bei der Regulierung von Künstlicher Intelligenz. Die Verordnung trägt – trotz Schlupflöchern, Mängeln und bis 2027 langen Übergangszeiten – dazu bei, die Rechte und den Schutz der Verbraucher:innen im digitalen Zeitalter deutlich zu stärken.

Die KI-Ordnung kann zudem dazu beitragen, ein Fundament für Akzeptanz und für Vertrauen für den Einsatz von KI (wieder/neu) herzustellen. Vertrauen ist und bleibt die höchste Währung im Internet. Ein dauerhaft tragfähiges Konstrukt kann aber nur entstehen, wenn die EU nachbessert, Lücken schließt, konsequent überwacht – und ethische Maßstäbe auch für alltägliche KI-Anwendungen entwickelt und umsetzt. In diesem Punkt meldet sich auch der Vatikan zu Wort und betont: Schlussendlich gelte trotz aller Chancen, die der technologische Fortschritt biete: Dieser muss den Menschen dienen, nicht umgekehrt, wie Papst Franziskus mit „antiqua et nova“ und Papst Leo XIV. hervorhoben.

Lesetipp: Link

Christian Schnaubelt (Chefredakteur und Herausgeber von kath.de)