Nemmeno la Disney vuole collaborare con Roblox

Un nuovo report di Variety sostiene che Disney sia molto riluttante nel collaborare con Roblox perché non la considera una piattaforma sicura per i bambini. Nel tornado di collaborazioni e crossover che sta investendo il mondo del gaming da quando Fortnite ha spalancato le porte, rinunciare ai milioni di dollari di ricavi che i 150 milioni di utenti settimanali di Roblox potrebbero generare è una presa di posizione molto forte.

Su questa newsletter abbiamo parlato spesso delle cause che Roblox sta affrontando in tutto il mondo per via delle decine di migliaia di casi di abuso su minori che avvengono sulla piattaforma ogni anno. Nonostante le misure di sicurezza promesse dagli amministratori, la nomea della piattaforma è ormai tale per cui c'è un'aria di generale diffidenza nei suoi confronti.

La carta che l'azienda vorrebbe giocare per risolvere tutti i suoi problemi è un sistema di verifica dell'età degli utenti basato sull'analisi di una serie di selfie fatta con l'intelligenza artificiale. Il sistema è in fase di test in Olanda, Australia e Nuova Zelanda e arriverà negli Stati Uniti a gennaio 2026.

Inutile dire che già dalle prime settimane di test è evidente come il sistema non sia solo estremamente fallimentare, ma vada quasi in aiuto dei predatori sessuali. Schlep, lo YouTuber bannato da Roblox per aver fatto arrestare sei predatori sessuali scovati da lui e dal suo team solo quest'anno, ha analizzato le funzionalità presenti bocciandole completamente.

"Verificare l'età degli utenti con un selfie e dividerli in gabbie per fasce d'età farà più male che bene" ha detto in un TikTok. L'aggiornamento, infatti, ha come filosofia di base quella di dividere gli utenti in modo tale che chi è nella fascia 9-12 anni possa parlare solo con propri coetanei, stessa cosa per chi è in quella 13-16 e in quella 16-18.

Il problema principale è che, attualmente, è piuttosto facile usare foto altrui e altri sistemi sia per sembrare più grandi, e non essere limitati dalle gabbie, sia per venire registrati come un minore. Nella pratica questo permette a un malintenzionato di farsi registrare come un bambino di 12 anni dalla piattaforma e interagire solo con altri bambini, lontano dagli occhi di moderatori e altri "agenti del bene" che passano le loro giornate a pattugliare gli spazi condivisi a caccia di malintenzionati.

Questo sistema non riguarda solo la chat di testo: il matchmaking delle esperienze online userà le gabbie d'età come corsia preferenziale per trovare altri giocatori. Questo vuol dire che se un predatore riesce a ingannare il sistema e a venire registrato come una persona di 13 anni, sarà Roblox a fare il lavoro al posto suo mettendolo in lobby con altri tredicenni.

La cliegina sulla torta è che, attualmente, la decisione dell'AI di Roblox è inappellabile quindi se un bambino viene male identificato dal sistema come un adulto, non c'è nulla che lui o i suoi genitori possano fare. Lo stesso vale al contrario e ci sono già annunci su Reddit di persone che mettono in vendita il loro account under 14, per esempio, dopo che l'IA li ha messi nella gabbia sbagliata.

La conclusione è la stessa di ogni approfondimento che ho dedicato a Roblox: se conoscete dei minori che usano estensivamente la piattaforma, cercate di convincerli ad abbandonarla il più in fretta possibile. Io continuo a raccogliere testimonianze per la mia inchiesta sulla scena italiana e, di mese in mese, si fanno più preoccupanti. All'azienda non interessa la sicurezza dei propri utenti: sono i genitori, gli amici e i compagni di giochi che devono prendersi questa responsabilità.

Grazie per aver letto la seconda weekend edition di Letter to a Gamer. Questa è la nuova veste di questa newsletter: un grande approfondimento al mese su un tema importante e poco analizzato.

Buone feste e ci vediamo a gennaio con prossima lettera
Riccardo "tropic" Lichene