Roblox è troppo grande per essere sicuro
Sembra ridicolo detto così, ma la giustificazione che il CEO di Roblox David Baszucki ha dato quando gli è stato chiesto perché ci sono così tanti pedofili su Roblox è che la piattaforma è troppo grande ed è cresciuta troppo in fretta.
Il CEO ha concesso una rara intervista al podcast Hard Fork del New York Times in occasione del lancio del primo vero (e rudimentale) sistema di verifica dell’età nella storia della piattaforma. Da dicembre, infatti, gli utenti dovranno scansionare il proprio volto usando la fotocamera del telefono per poter accedere, a quel punto un’AI farà una stima della loro età e li dividerà in sezioni: meno di 9 anni, 9-11 anni, 12-15 anni e 16-18 anni.
Prima di discutere della disastrosa intervista e delle terribili misure implementate, facciamo un piccolo riassunto. Sono 5 anni (da quando la piattaforma è esplosa in popolarità con la pandemia) che, a cadenza semestrale, Roblox viene accusata di essere un covo di pedofili. L’anno scorso ci sono stati 20mila casi accertati di abuso su minori sulla piattaforma solo negli Stati Uniti.
Lo Youtuber Shlep, fingendosi un minore, ha fatto arrestare cinque pedofili negli ultimi sei mesi e in tutta risposta il suo account su Roblox è stato chiuso con tanto di minacce e lettere da parte degli avvocati dell’azienda. Fortunatamente il grande pubblico non è rimasto a guardare perché metà dei 150 milioni di utenti giornalieri di Roblox sono minori di 13 anni e i casi di abuso sono così tanti che tutti siamo in qualche modo vicini o abbiamo addirittura in famiglia un bambino che gioca.
Io sto ancora raccogliendo testimonianze (e ne ho già diverse) per la mia inchiesta su cosa succede ai minori italiani quando sono sulla piattaforma e ribadisco il mio consiglio di levare Roblox ai propri figli al più presto visto il numero di predatori sessuali presenti sulla piattaforma. Fatto il riassunto e le dovute premesse andiamo ad analizzare la disastrosa intervista di David Baszucki.
“Crediamo che (quello dei pedofili) non sia un problema ma un’opportunità. Abbiamo 151 milioni di utenti attivi ogni giorno e 11 miliardi di ore giocate al messe e pensiamo sempre al modo migliore per continuare a crescere”. Avete letto bene, non solo ci sono voluti 19 anni alla compagnia anche solo per pensare di impedire agli adulti di poter parlare con bambini al di sotto dei 13 anni, ma ora questa è una “nuova opportunità di crescita”.
Nel corso dei 40 minuti di intervista, che vi invito a recuperare anche solo per capire quanto scollegato dalla realtà sia il CEO della piattaforma, non viene mai anche solo riconosciuto che Roblox ha un problema di pedofili, nonostante le cause (anche di interi Stati) che da anni si accumulano proprio perché i filtri, i parental control e gli altri dispositivi di sicurezza sono estremamente facilmente aggirabili.
Uno degli intervistatori glielo chiede direttamente: “I predatori sessuali non stanno facendo molta fatica ad aggirare i vostri filtri e portare gli utenti fuori dalla piattaforma è estremamente facile. Cosa le fa avere la sensazione di stare facendo un buon lavoro in termini di sicurezza e che queste nuove misure funzioneranno?”
La risposta di Baszucki è disarmante: “Non voglio commentare al riguardo. La nostra priorità è tenere gli utenti sulla piattaforma…molti, soprattutto al di sopra dei 13 anni, riescono a trovare un modo di uscire da Roblox e avere conversazioni non filtrate in cui è possibile inviare delle immagini. Noi siamo l’avanguardia dell’industria e abbiamo filtri e dispositivi di sicurezza aggiuntivi rispetto a quelli obbligatori di legge”.
Pressato dai conduttori Biszucki continua: “Le cause indicano un pattern, Roblox e dove i predatori vanno per trovare dei bambini, ma io penso che stiamo facendo un lavoro incredibile considerata la dimensione della piattaforma e il numero di ore giocate. Stiamo davvero esplorando il futuro di come questo tipo di tecnologia andrà avanti”.
Il CEO di Roblox sembra convinto del fatto che l’enormità della sua piattaforma sia una scusa accettabile per le decine (più probabilmente centinaia) di migliaia di casi di abuso di minore che sono avvenuti. Parlando proprio della crescita vertiginosa di Roblox, Biszucki sembra più preoccupato dell’impossibilità da parte della compagnia di monetizzare tutti questi nuovi utenti piuttosto che di proteggere i minori.
“Ora abbiamo il 3% di tutto il gaming globale, non vedo l’ora di vedere come sarà quando avremo il 50%, tutto in un solo luogo”, lo scollegamento dalla realtà è pericolosamente evidente. “Affideremo gran parte della gestione della moderazione e della sicurezza all’AI, perché si è rivelata più efficace degli esseri umani nel gestire queste cose” continua, a dimostrazione di non aver capito il punto della questione, del pericolo e dei danni che la sua compagnia sta causando.
La ciliegina sulla torta è l’ultima sezione dell’intervista in cui Biszucki si lancia in una promozione sfacciata di Polymarket, una piattaforma illegale negli Stati Uniti dove si può scommettere con le cripto su dei mercati predittivi legati agli eventi più disparati. “Penso sia un’idea geniale, immaginatelo in forma legale ed educational su Roblox”. Fatemi sapere se dopo tutto questo vi servono altri motivi per levare Roblox ai vostri figli.
Grazie per aver letto la prima weekend edition di Letter to a Gamer. Questa è la nuova veste di questa newsletter: un grande approfondimento al mese su un tema importante e poco analizzato.
Alla prossima lettera
Riccardo "tropic" Lichene