Bei der Qualitätssicherung der Alterseinstufung von Apps und Spielen im Rahmen der International Age Rating Coalition (IARC) werden nun auch Methoden aus dem Bereich Machine-Learning eingesetzt. Das von der USK entwickelte KI-Tool ATLAS (Artificial Intelligence Testing, Learning And Scraping) wurde als interner Modellversuch 2019 gestartet und kann nach erfolgreicher Testphase nun auch den internationalen Partnern zur Verfügung gestellt werden.
Jeden Tag kommt eine Vielzahl von Online-Spielen und Apps auf den Markt. Um der Menge an neuen Medieninhalten gerecht zu werden und Eltern in diesem Bereich Orientierung zu bieten, ist die USK seit 2013 Teil der International Age Rating Coalition (IARC). Im Rahmen dieser internationalen Zusammenarbeit fördert die USK die Vergabe von Alterskennzeichen im Bereich von Online-Spielen und Apps. Die USK gewährleistet über verfahrensspezifische Kontrollen die Qualität der vergebenen Einstufungen.
Mit dem von der USK entwickelten Tool ATLAS wird nun erstmals ein Machine-Learning-System zur Unterstützung der manuellen Qualitätssicherung eingesetzt. ATLAS ist nun als offizielle Test-Methode im internationalen IARC-Testprozess integriert und unterstützt die IARC Tester*innen maschinell bei ihrer Arbeit die Richtigkeit von Alterseinstufungen zu überprüfen.
So funktioniert ATLAS
ATLAS ist ein KI-gestütztes System, das Online-Spiele und Apps nach entsprechenden Kriterien analysiert und Wahrscheinlichkeiten für falsch eingestufte Apps voraussagt. Grundlage für diese Einschätzung sind die Bilder und Texte im Store des Anbieters, die mit Hilfe eines Image Recognition Tools und eines Natural Language Processing Tools analysiert werden. Die neuronalen Netzwerke von ATLAS wurden hierzu mit Daten von 40.000 manuell ausgewählten Apps trainiert.
ATLAS nimmt also eine automatisierte Vorauswahl möglicherweise kritischer Titel vor, die im Anschluss durch Tester*innern bei IARC händisch überprüft werden. Damit leistet das System einen großen Beitrag zur Qualitätssicherung und unterstützt das Team dabei, nicht korrekt eingestufte Apps ausfindig zu machen.
Elisabeth Secker, Geschäftsführerin der USK: „Für die USK hat das Vertrauen in Alterskennzeichen und damit auch das Qualitätsmanagement bei IARC einen enorm wichtigen Stellenwert. Wir sind stolz, dass ATLAS als neue Testingmethode die Qualitätssicherung bei IARC weiter verbessert und nun sogar international genutzt wird. Der Einsatz von KI-gestützten Methoden bietet spannende Chancen zur Unterstützung der menschlichen Kontrolle im Bereich des technischen Jugendmedienschutzes.“
Leonhardt Appel, Entwickler von ATLAS: „Unser Anliegen war es zusätzlich zu den bewährten Testingmethoden einen neuen, innovativen Weg zu finden, um nicht korrekt eingestufte Apps noch schneller identifizieren zu können. Machine-Learning-Systeme bieten ein hohes Potenzial, in einem spezifischen Kontext treffsichere Prognosen zu erstellen und damit Arbeitsprozesse entscheidend zu erleichtern. Dieses Potenzial haben wir genutzt und ATLAS entwickelt.“
Über IARC
Die International Age Rating Coalition (IARC) ist ein Zusammenschluss der verschiedenen verantwortlichen Organisationen zur weltweiten Altersbewertung von Online-Spielen und Apps. Seit der Gründung im Jahr 2013 stellt IARC ein System zur Verfügung, das von technischen Plattformen wie mobilen App-Stores zum Zwecke des Jugendschutzes in ihr Angebot integriert wird. Über dieses System wird ermöglicht, dass die Anbieter der einzelnen Produkte ihre Inhalte über einen Fragebogen einstufen. Aus dieser Einstufung ergibt sich nach Vorgaben der jeweiligen nationalen Selbstkontrolle (für Deutschland die USK) ein Alterskennzeichen. Zusätzlich zu den Alterskennzeichen bietet das System nähere Informationen zu relevanten Inhalten sowie Hinweise zu interaktiven Elementen wie Nutzerinteraktion oder Onlinekäufen. Die USK überprüft die IARC-Einstufungen regelmäßig, um deren Qualität sicherzustellen. Auch Beschwerden von Nutzern lösen Überprüfungen aus.
Die USK arbeitet mit diesem System auf der rechtlichen Grundlage des Jugendmedienschutz-Staatsvertrags (JMStV), nach dem die USK als Selbstkontrolle sowohl im Bereich Telemedien als auch Rundfunk staatlich anerkannt ist. Nach dem neuen Jugendschutzgesetz des Bundes kann das System nun auch der zuständigen obersten Landesjugendbehörde zur Anerkennung vorgelegt werden und Anbietern von Spieleplattformen die rechtskonforme Erfüllung der Kennzeichnungspflicht ermöglichen.
Über die Unterhaltungssoftware Selbstkontrolle (USK)
Die Unterhaltungssoftware Selbstkontrolle (USK) ist eine freiwillige Einrichtung der Games-Branche. Sie ist zuständig für die Prüfung zur Alterseinstufung von digitalen Spielen in Deutschland. Die USK ist sowohl unter dem Jugendschutzgesetz des Bundes als auch unter dem Jugendmedienschutz-Staatsvertrag der Länder als zuständige Selbstkontrolle anerkannt. Im klassischen USK-Prüfverfahren nach dem Jugendschutzgesetz erteilen staatliche Vertreter*innen auf Empfehlung von unabhängigen Jugendschutzsachverständigen die Alterskennzeichen. Darüber hinaus vergibt die USK ihre Alterskennzeichen innerhalb des internationalen IARC-Systems für Online-Spiele und Apps. Zahlreiche Unternehmen haben sich der USK als Mitglieder angeschlossen, um beim Thema Jugendschutz dauerhaft und besonders eng zu kooperieren. Die USK engagiert sich zudem über verschiedene Initiativen wie z. B. dem Elternratgeber im Bereich der Medienbildung. Die USK wird von einem Beirat beraten, der u. a. die USK-Grundsätze und die Leitkriterien für die Prüfungen festlegt.
