Alterskennzeichen im Online-Bereich: KI-System der USK unterstützt beim internationalen Qualitätsmanagement

Bei der Qualitätssicherung der Alterseinstufung von Apps und Spielen im Rahmen der International Age Rating Coalition (IARC) werden nun auch Methoden aus dem Bereich Machine-Learning eingesetzt. Das von der USK entwickelte KI-Tool ATLAS (Artificial Intelligence Testing, Learning And Scraping) wurde als interner Modellversuch 2019 gestartet und kann nach erfolgreicher Testphase nun auch den internationalen Partnern zur Verfügung gestellt werden.

Jeden Tag kommt eine Vielzahl von Online-Spielen und Apps auf den Markt. Um der Menge an neuen Medieninhalten gerecht zu werden und Eltern in diesem Bereich Orientierung zu bieten, ist die USK seit 2013 Teil der International Age Rating Coalition (IARC). Im Rahmen dieser internationalen Zusammenarbeit fördert die USK die Vergabe von Alterskennzeichen im Bereich von Online-Spielen und Apps. Die USK gewährleistet über verfahrensspezifische Kontrollen die Qualität der vergebenen Einstufungen.

Mit dem von der USK entwickelten Tool ATLAS wird nun erstmals ein Machine-Learning-System zur Unterstützung der manuellen Qualitätssicherung eingesetzt. ATLAS ist nun als offizielle Test-Methode im internationalen IARC-Testprozess integriert und unterstützt die IARC Tester*innen maschinell bei ihrer Arbeit die Richtigkeit von Alterseinstufungen zu überprüfen.

So funktioniert ATLAS

ATLAS ist ein KI-gestütztes System, das Online-Spiele und Apps nach entsprechenden Kriterien analysiert und Wahrscheinlichkeiten für falsch eingestufte Apps voraussagt. Grundlage für diese Einschätzung sind die Bilder und Texte im Store des Anbieters, die mit Hilfe eines Image Recognition Tools und eines Natural Language Processing Tools analysiert werden. Die neuronalen Netzwerke von ATLAS wurden hierzu mit Daten von 40.000 manuell ausgewählten Apps trainiert.

ATLAS nimmt also eine automatisierte Vorauswahl möglicherweise kritischer Titel vor, die im Anschluss durch Tester*innern bei IARC händisch überprüft werden. Damit leistet das System einen großen Beitrag zur Qualitätssicherung und unterstützt das Team dabei, nicht korrekt eingestufte Apps ausfindig zu machen.

Elisabeth Secker, Geschäftsführerin der USK: „Für die USK hat das Vertrauen in Alterskennzeichen und damit auch das Qualitätsmanagement bei IARC einen enorm wichtigen Stellenwert. Wir sind stolz, dass ATLAS als neue Testingmethode die Qualitätssicherung bei IARC weiter verbessert und nun sogar international genutzt wird. Der Einsatz von KI-gestützten Methoden bietet spannende Chancen zur Unterstützung der menschlichen Kontrolle im Bereich des technischen Jugendmedienschutzes.“

Leonhardt Appel, Entwickler von ATLAS: „Unser Anliegen war es zusätzlich zu den bewährten Testingmethoden einen neuen, innovativen Weg zu finden, um nicht korrekt eingestufte Apps noch schneller identifizieren zu können. Machine-Learning-Systeme bieten ein hohes Potenzial, in einem spezifischen Kontext treffsichere Prognosen zu erstellen und damit Arbeitsprozesse entscheidend zu erleichtern. Dieses Potenzial haben wir genutzt und ATLAS entwickelt.“

Über IARC

Die International Age Rating Coalition (IARC) ist ein Zusammenschluss der verschiedenen verantwortlichen Organisationen zur weltweiten Altersbewertung von Online-Spielen und Apps. Seit der Gründung im Jahr 2013 stellt IARC ein System zur Verfügung, das von technischen Plattformen wie mobilen App-Stores zum Zwecke des Jugendschutzes in ihr Angebot integriert wird. Über dieses System wird ermöglicht, dass die Anbieter der einzelnen Produkte ihre Inhalte über einen Fragebogen einstufen. Aus dieser Einstufung ergibt sich nach Vorgaben der jeweiligen nationalen Selbstkontrolle (für Deutschland die USK) ein Alterskennzeichen. Zusätzlich zu den Alterskennzeichen bietet das System nähere Informationen zu relevanten Inhalten sowie Hinweise zu interaktiven Elementen wie Nutzerinteraktion oder Onlinekäufen. Die USK überprüft die IARC-Einstufungen regelmäßig, um deren Qualität sicherzustellen. Auch Beschwerden von Nutzern lösen Überprüfungen aus.

Die USK arbeitet mit diesem System auf der rechtlichen Grundlage des Jugendmedienschutz-Staatsvertrags (JMStV), nach dem die USK als Selbstkontrolle sowohl im Bereich Telemedien als auch Rundfunk staatlich anerkannt ist. Nach dem neuen Jugendschutzgesetz des Bundes kann das System nun auch der zuständigen obersten Landesjugendbehörde zur Anerkennung vorgelegt werden und Anbietern von Spieleplattformen die rechtskonforme Erfüllung der Kennzeichnungspflicht ermöglichen.

Mehr zum Thema

Pressemitteilungen
18. August 2021
Die USK (Unterhaltungssoftware Selbstkontrolle) ist Jugendschutzpartnerin der gamescom und gibt im Rahmen von verschiedenen Veranstaltungen Einblicke in ihre Ar...
Mehr...
Pressemitteilungen
7. Juli 2021
Microsoft hat sich der USK.online angeschlossen, um gemeinsam an hohen Jugendschutzstandards im Games-Bereich des Unternehmens zu arbeiten. Die USK.online wird ...
Mehr...
Pressemitteilungen
14. Juni 2021
Im Juni hat die Unterhaltungssoftware Selbstkontrolle (USK) die Marke von insgesamt 50.000 Prüfverfahren im Bereich der Computer- und Videospiele seit ihrer Grü...
Mehr...