• Gli algoritmi di suggerimento di YouTube sono richiamati da Il New York Times in un nuovo articolo.
• Secondo una ricerca condotta daI tempi, Gli algoritmi di YouTube suggeriranno contenuti borderline a coloro che cercano video pedofili.
• Inoltre, gli algoritmi possono anche spingere i contenuti borderline a coloro che non li cercano necessariamente.

Ieri,Il New York Times pubblicato un articolo allarmante incentrato su come gli algoritmi di YouTube per suggerire nuovi contenuti possano aiutare involontariamente i pedofili. In effetti, alcune informazioni raccolte dalla ricerca per il pezzo suggeriscono che gli algoritmi potrebbero persino aiutare a spingere il contenuto pedofilo a coloro che non lo stanno necessariamente cercando.

Poco dopo la pubblicazione dell'articolo, YouTube ha pubblicato sul suo blog una nuova voce che indirizza indirettamente l'articolo. Nel post di YouTube, la società illustra in dettaglio le azioni intraprese nell'ultimo anno per combattere la pedofilia sulla piattaforma, nonché i vari sforzi compiuti per proteggere i bambini.

Tuttavia, il post di YouTube non offre nuove strategie; piuttosto, riassume semplicemente i suoi vari sforzi attuali come una rassicurazione.

Nell'articolo che appare inIl New York Times, gli scrittori raccontano la storia di una madre che ha acconsentito felicemente a consentire alla figlia di 10 anni di pubblicare un video su YouTube di se stessa e un'amica che gioca nella piscina del cortile. La madre è stata scioccata dal fatto che in seguito ha scoperto che questo video - che mostra semplicemente due ragazze che nuotavano e si rilassavano intorno alla piscina con i loro costumi da bagno a due pezzi - aveva accumulato oltre 400.000 visualizzazioni.

Il video è diventato così popolare in parte grazie agli algoritmi di suggerimento di YouTube. Questi algoritmi sono responsabili di suggerire contenuti agli spettatori in base ad altri contenuti che hanno guardato. In un certo senso, YouTube ha incanalato i pedofili in questo video dei bambini che giocano in piscina.

I pedofili non devono cercare contenuti borderline su YouTube perché YouTube glielo suggerirà semplicemente.

Inoltre, un team di ricerca brasiliano ha scoperto che gli algoritmi di YouTube tendono a spingere contenuti sempre più estremi con i suoi suggerimenti. Ad esempio, una persona potrebbe iniziare a guardare un video su come riparare una bicicletta, quindi guardare un video di persone che effettivamente vanno in bicicletta. Quindi, YouTube potrebbe suggerire di guardare un video di ciclisti che si schiantano e poi altri veicoli che si schiantano. Prima che lo spettatore lo sappia, stanno ricevendo suggerimenti per contenuti violenti e inquietanti, tutti derivanti dalla visione di un video su come riparare una bicicletta.

Vedi anche: YouTube Originals sarà gratuito per tutti, solo con annunci pubblicitari

Allo stesso modo, il video della piscina può essere collegato a contenuti per adulti suggestivi. Una persona potrebbe iniziare a guardare contenuti erotici ma legali su YouTube, ad esempio la bobina di una modella bikini.Tale contenuto potrebbe portare a suggerimenti per altri contenuti di costumi da bagno erotici, che a poco a poco porta a video con modelli sempre più giovani. Alla fine, porta a quasi mezzo milione di visualizzazioni di due bambini di dieci anni in una piscina.

YouTube ha tra le mani un grave problema che richiederà all'azienda di agire sull'etica a spese dei profitti.

quandoI tempi informato YouTube di questo problema relativo al video della piscina, la società ha rimosso diversi video correlati ma ne ha lasciati molti altri, inclusi alcuni che sembrano provenire da account falsi. Ha anche modificato i suoi suggerimenti in modo che non venissero visualizzati altri contenuti borderline. Tuttavia, YouTube ha negato di farlo intenzionalmente, sostenendo invece che l'algoritmo continua a imparare.

Ora, nel suo post sul blog di risposta, YouTube sta mettendo in evidenza i suoi recenti sforzi per mantenere i bambini al sicuro sulla piattaforma, inclusa la rimozione di commenti da quasi tutti i video con minori, la limitazione dei minori dallo streaming live senza un adulto presente nel video e la limitazione di raccomandazioni come il quelli descritti daI tempi.

Tuttavia, YouTube non ha apportato le modifiche radicali che avrebbero impedito l'intero problema: disattivare i suggerimenti per i video con minori. Sebbene YouTube abbia la capacità di farlo abbastanza facilmente, non è stato così, probabilmente perché i suggerimenti video generano circa il 70 percento delle visualizzazioni. Sono in ballo molte entrate.

Dopo l'inattesa popolarità del video di sua figlia, la madre che l'ha approvato ha detto che non consentirà più a sua figlia di pubblicare nulla sulla piattaforma.