L’algoritmo di raccomandazione di YouTube indirizzerebbe i minori verso contenuti con armi da fuoco, sparatorie e un serial killer, secondo uno studio.
Secondo il gruppo Tech Transparency Project (TTP) l’algoritmo di raccomandazione di YouTube porta i bambini a vedere video sulle sparatorie nelle scuole, sulle armi da fuoco e su altri contenuti legati alle armi.
I ricercatori hanno creato quattro account YouTube fingendosi due bambini di 9 anni e due ragazzi di 14 anni interessati ai videogiochi. Tutti gli account guardavano playlist di contenuti su videogiochi popolari come Roblox, Lego Star Wars, Halo e Grand Theft Auto. I ricercatori hanno monitorato le raccomandazioni di tutti e quatto gli account per un periodo di 30 giorni.
Secondo quanto è emerso la piattaforma ha inviato contenuti su sparatorie e armi a tutti gli account, ma con un volume molto più elevato agli utenti che hanno cliccato sui video raccomandati da YouTube. Ciò che sicuramente appare sconvolgente è che i video includevano scene di sparatorie nelle scuole, tutorial su come poter convertire una pistola in un’arma automatica, dimostrazioni sui danni che le armi possono infliggere ed anche un film su un serial killer. Molti dei video raccomandati sembravano violare le politiche di YouTube ed inoltre alcuni di essi erano anche monetizzati con annunci pubblicitari.
Il rapporto del TTP non è certo il primo riguardo le raccomandazioni inappropriate di YouTube e non è la prima volta che i ricercatori sollevano dubbi sull’algoritmo della piattaforma. Bisogna riconoscere che YouTube ha lavorato per anni per ridurre dall’apparire nelle raccomandazioni i contenuti definiti “borderline”, ovvero quei video che non violano le sue regole ma che potrebbero essere inadatti alla distribuzione di massa, ma lo studio evidenzia comunque la necessità che YouTube affronti il problema con il suo sistema di raccomandazione, per evitare l’esposizione dei minori a contenuti dannosi, violenti e chiaramente inappropriati.
