Roblox delar upp sina 144 miljoner användare i tre ålderskategorier

Tre nivåer med olika tillgång till innehåll och chatt

Systemet delar in användarna i tre grupper med olika behörigheter. Barn mellan 5 och 8 år hamnar i kategorin Kids, där chatten är avstängd som standard och enbart familjevänligt innehåll är tillgängligt. Föräldrar kan godkänna enskilda kontakter som barnet får chatta med.

Kategorin Select gäller användare mellan 9 och 15 år och ger tillgång till spel med måttlig innehållsmärkning samt chatt med jämnåriga och föräldragodkända kontakter. Vid 16 år övergår kontot automatiskt till ett standardkonto, men innehåll märkt som "Restricted" är fortsatt spärrat till 18 år.

Roblox uppger i ett pressmeddelande att utrullningen ska vara klar globalt i juni. Användare som inte genomför en ålderskontroll innan dess placeras automatiskt i en Kids-liknande kategori, utan chatt och utan tillgång till spel över lägsta innehållsnivå. Det gör åldersverifieringen i praktiken obligatorisk för den som vill använda plattformen fullt ut.

Ansiktsigenkänning ifrågasatt efter säkerhetsluckor

Systemet bygger på den ansiktsbaserade åldersverifiering som Roblox införde i januari. Mer än hälften av plattformens 144 miljoner dagliga användare har genomfört kontrollen, enligt Matt Kaufman, Roblox säkerhetschef.

– När du ställer dem den enkla frågan kommer användare att berätta vad de vill för att få tillgång, säger Matt Kaufman till BBC och motiverar varför ansiktsanalys är mer tillförlitligt än självrapporterad ålder.

Kaufman uppger att systemet uppskattar ålder med en felmarginal på ungefär 1,4 år för användare under 18. Föräldrar har dock berättat för BBC att deras barn felaktigt identifierats som vuxna, vilket minskar skyddsnivån snarare än att öka den.

Tekniken har också kringgåtts på andra sätt. Åldersverifierade konton dök upp till försäljning på eBay för 4 dollar inom dagar efter att verifieringskravet infördes, och tidningen Wired rapporterar att ansiktsskanningen kunde luras av småbarn.

Utvecklare måste betala för att nå yngre användare

För att ett spel ska vara tillgängligt för Kids- och Select-konton ställs tre krav på utvecklaren, verifierad identitet med ett statligt ID, aktiverad tvåfaktorsautentisering och ett Roblox Plus-abonnemang för 5 dollar i månaden. Roblox motiverar avgiften med att den visar på ett långsiktigt engagemang för plattformen och ska ge incitament till korrekt innehållsmärkning.

Där märkningen brister ska ett AI-baserat moderationssystem fånga upp felen i realtid. Roblox uppger att systemet övervakar spelaktivitet och chattbeteende för att kontrollera att innehållet matchar den deklarerade mognadsnivån. Användare över 16 år spelar dessutom nya spel först, vilket ger en buffert innan yngre användare exponeras för nytt innehåll.

Plattformen har över två miljoner aktiva spelutvecklare, och hur väl det nya systemet fungerar beror i stor utsträckning på att de märker sitt innehåll korrekt.