Das Institut für Europäisches Medienrecht (EMR) hat sich in einem neuen Gutachten für den Einsatz von KI-Jugendschutzbeauftragten ausgesprochen. Wer in Deutschland ein System Künstlicher Intelligenz in den Verkehr bringt oder in Betrieb nimmt, sollte im Rahmen des Jugendmedienschutz-Staatsvertrags (JMStV) künftig zur Bestellung eines solchen Beauftragten verpflichtet werden, heißt es in dem Gutachten. Hintergrund ist die Gefahr, dass KI-generierte Inhalte zur Desorientierung von Minderjährigen beitragen könnten, wie die Kommission für Jugendmedienschutz (KJM), die das Gutachten in Auftrag gab, am Donnerstag in Berlin mitteilte.
„KI droht zu einer Art Brandbeschleuniger zu werden“, sagte Jörg Ukrow, Vorstandsmitglied des EMR und Autor des Gutachtens. KI sei eine Herausforderung für die Meinungsbildung von Kindern und Jugendlichen und für die Demokratie. „Mit Blick auf die schnelle technologische Entwicklung ist zügiges Handeln gefragt“, sagte Ukrow.
Laut Mitteilung sollten KI-Systeme explizit in den Geltungsbereich des JMStV aufgenommen werden. Auch sei es sinnvoll, Selbstkontrolleinrichtungen, so wie beispielsweise bei Videospielen oder Kinofilmen, einzubeziehen. Der KI-Jugendschutzbeauftragte solle als Ansprechpartner bei der Entwicklung, dem Training und der Nutzung von KI-Anwendungen einbezogen werden.
Das Gutachten kommt außerdem zu dem Ergebnis, dass der JMStV, das Jugendschutzgesetz und der Digital Services Acts (DSA) der Europäischen Union mit Blick auf KI dringend regelmäßig bewertet werden müssten.
Die KJM ist ein Organ der Landesmedienanstalten und die zentrale Aufsichtsstelle für den Jugendschutz im privaten Rundfunk und den Telemedien. Ihre Aufgabe ist es, für die Einhaltung der Jugendschutzbestimmungen zu sorgen, die im JMStV verankert sind.