Die Jugendschutz-KI „Merm:ai:d“ von RTL wird in einem Modellversuch von verschiedenen Jugendschutz- und Selbstkontroll-Gremien geprüft. Ab Januar wird die Kommission für Jugendmedienschutz (KJM) gemeinsam mit der Freiwilligen Selbstkontrolle Fernsehen und der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter das KI-gestützte Bewertungssystem testen, wie RTL Deutschland am Montag in Köln erklärte. Es sei die erste Jugendschutz-KI, die in Deutschland dieses Verfahren durchlaufe.
„Merm:ai:d“ analysiert den Angaben zufolge audiovisuelle Inhalte automatisiert und soll so Jugendschutz-Teams bei der Altersbewertung unterstützen. Der menschliche Bewertungsprozess werde dabei nicht ersetzt. Das System solle als Werkzeug dienen, um große Inhaltsmengen zielgerichtet, nachvollziehbar und im gesetzlichen Rahmen zu bewerten, hieß es. Damit solle ein „zuverlässiger, transparenter und qualitativ konsistenter Ansatz“ für den Jugendmedienschutz entstehen. Die KI-Lösung sei bereits vor einem Jahr entwickelt worden.
Daniela Hansjosten vom Jugendschutz bei RTL Deutschland, betonte, die KI solle helfen, den Jugendmedienschutz in Deutschland langfristig zu stärken. Der KJM-Modellversuch lege Wert auf transparente Prüfwege, klare Qualitätskriterien und die Integration von Jugendschutzexpertise, hieß es. Die Jugendschutz-KI werde von unabhängigen Expertinnen und Experten evaluiert.
Die KJM ist die zentrale Aufsicht für den Jugendschutz im Netz und privaten Rundfunk. Sie prüft, ob Verstöße gegen diese Bestimmungen vorliegen und entscheidet über entsprechende Folgen für die Anbieter.