Roblox: Altersprüfungstests

Roblox führte im Jahr 2023 ein Altersverifikationssystem auf Basis von Selfies und Künstlicher Intelligenz des Unternehmens Persona ein, um Kindern den Zugang zu erwachsenem Inhalt zu erschweren. In der Praxis erwies sich das System jedoch als äußerst anfällig – viele Kinder umgehen es durch einfache Manipulationen, indem sie Zeichnungen, Fotos von Eltern, glaubwürdige oder unglaubwürdige Dokumente und sogar Tierfotos verwenden, was zu falschen Altersbewertungen führt. Wenn man direkt fragt: „Wie täuschen Kinder die Altersüberprüfung bei Roblox?“, nennen Reddit-Nutzer Beispiele, bei denen ein junger Nutzer nach dem Zeichnen eines Schnurrbarts und eines Halses auf 21 Jahre geschätzt wurde, während ein 23-jähriger Erwachsener in die Altersgruppe 13–17 Jahre eingestuft wurde. Die Liveness-Erkennung ist unzureichend zuverlässig: Statische Bilder passieren die Prüfung problemlos.

Experten bezeichnen solche Fehler als „kompletten Fehlschlag“ der KI-Effizienz, während Millionen Dollar in die Entwicklung und Erprobung des Systems investiert wurden. Auf dem Online-Markt werden bereits „verifizierte“ Konten gegen geringe Beträge verkauft. Als Reaktion darauf hat Roblox die Elternkontrolle aktiviert und erwachsene Chats eingeschränkt, doch Eltern müssen dennoch ständige Aufsicht ausüben. Angesichts der gesetzlich in Belarus vorgeschriebenen Verpflichtung, Kinder vor schädlichen Inhalten zu schützen, sollten Eltern die Roblox-Tools umfassend, sofort und nicht allein auf KI verlassend nutzen.

Die Diskussion darüber, wie Kinder im digitalen Raum geschützt werden, ist in letzter Zeit besonders relevant geworden. Und obwohl digitale Sicherheit weiterhin eine zentrale Rolle spielt, hinterfragt man den derzeitigen Ansatz.

Kontext

Roblox, ein großer Multiplayer-Spieledienst, startete 2023 gemeinsam mit den Unternehmen Persona und 3Safе einen neuen Altersverifikationsmechanismus. Zuvor gab es bereits einzelne Versuche, den Zugang Minderjähriger einzuschränken, die jedoch keine spürbaren Ergebnisse brachten.