Die Kommission für Jugendmedienschutz (KJM) fordert mit Blick auf mögliche Gefahren von Künstlicher Intelligenz (KI) für Kinder und Jugendliche eine zügige Reaktion des Gesetzgebers. Mit KI könnten „kinderleicht Deepfakes, Pornos oder Fake News – wie aktuell im Krieg in Israel – generiert werden“, sagte der KJM-Vorsitzende Marc Jan Eumann dem Evangelischen Pressedienst (epd) anlässlich der Vorstellung erster Ergebnisse eines Gutachtens zum Thema am Mittwoch in Berlin. Dadurch entstünden neue Gefährdungslagen für Kinder und Jugendliche, denen die aktuelle Gesetzgebung nicht gewachsen sei.
„Hier müssen wir gegensteuern – und zwar bevor die Welle an KI-generierten Inhalten uns überrollt“, sagte Eumann. Das juristische Gutachten mit dem Titel „Kinder- und Jugendmedienschutz und Künstliche Intelligenz: Herausforderung für den Jugendmedienschutz-Staatsvertrag (JMStV)?“ wurde vom Institut für Europäisches Medienrecht (EMR) in Saarbrücken im Auftrag der KJM erstellt.
Das Gutachten kommt zu dem Ergebnis, dass der JMStV, das Jugendschutzgesetz und der Digital Services Acts (DSA) der Europäischen Union mit Blick auf KI dringend regelmäßig bewertet werden müssten. Dies gelte insbesondere mit Blick auf Vermittler von Medieninhalten wie große Internet-Plattformen.
Auch sollten Entwickler von KI in Hinblick auf den Kinder- und Jugendmedienschutz stärker reguliert werden, heißt es in dem Gutachten. Ähnlich wie bei Telemedien, Games, Kinofilmen oder Rundfunk sollten zudem Selbstkontrolleinrichtungen einbezogen werden. Der JMStV sollte den Empfehlungen zufolge explizit für KI-Systeme gelten.
Daneben biete die KI-Verordnung (AI-Act) der EU wichtige Anknüpfungspunkte. Dazu gehöre etwa das Verbot von KI-Systemen, die die Schutzbedürftigkeit von Personen beispielsweise aufgrund ihres Alters ausnutzen. Der Schutz Minderjähriger sollte darüber hinaus jedoch ausdrücklich im AI-Act aufgenommen werden, so das Gutachten. In der EU verhandeln Kommission, Rat und Parlament derzeit den finalen Text für den AI-Act.
Die KJM ist ein Organ der Landesmedienanstalten und die zentrale Aufsichtsstelle für den Jugendschutz im privaten Rundfunk und den Telemedien. Ihre Aufgabe ist es, für die Einhaltung der Jugendschutzbestimmungen zu sorgen, die im JMStV verankert sind. In diesem Jahr wird die KJM 20 Jahre alt.