Meta affronta un nuovo esame sulle affermazioni secondo cui i giovani sarebbero esposti a contenuti dannosi nelle sue app

Mentre X è stato al centro dell’attenzione per i suoi presunti fallimenti nella moderazione dei contenuti negli ultimi tempi, Meta si trova anche ad affrontare le proprie domande su come i suoi sistemi si stanno comportando nel proteggere gli utenti, in particolare i giovani, nonché sull’accuratezza dei suoi rapporti esterni in merito.

Secondo un nuovo denuncia non sigillata contro la società, presentato per conto di 33 stati, Meta ha ripetutamente travisato le prestazioni dei suoi team di moderazione tramite i suoi rapporti sull’applicazione degli standard comunitari, che nuovi risultati suggeriscono non riflettono i dati interni di Meta sulle violazioni.

Come riportato da Business Insider:

“[Meta’s] I rapporti sull’applicazione degli standard comunitari pubblicizzano bassi tassi di violazione degli standard comunitari sulle sue piattaforme, ma escludono i dati chiave dei sondaggi sull’esperienza degli utenti che evidenziano tassi molto più elevati di incontri degli utenti con contenuti dannosi. Ad esempio, Meta afferma che per ogni 10.000 visualizzazioni di contenuti sulle sue piattaforme solo 10 o 11 conterrebbero incitamento all’odio. Ma la denuncia afferma che un sondaggio interno tra gli utenti di Meta, noto come Tracking Reach of Integrity Problems Survey, ha riportato una media del 19,3% degli utenti su Instagram e il 17,6% degli utenti su Facebook ha riferito di aver assistito a discorsi di odio o discriminazione sulle piattaforme.

In questo senso, Meta sembra utilizzare una legge delle medie per annacquare tali incidenti, accogliendo un numero minore di segnalazioni e dividendole per la sua massiccia base di utenti. Ma il feedback effettivo degli utenti indica che tale esposizione è molto più elevata, quindi mentre i dati più ampi suggeriscono tassi molto bassi, l’esperienza dell’utente, evidentemente, è diversa.

La denuncia sostiene che Meta lo sa, eppure ha presentato pubblicamente queste statistiche alternative come mezzo per ridurre il controllo e fornire un falso senso di sicurezza nelle sue app e nel suo approccio alla sicurezza degli utenti.

In un elemento potenzialmente ancora più inquietante della stessa denuncia, Secondo quanto riferito, Meta ha anche ricevuto più di 1,1 milioni di segnalazioni di utenti di età inferiore ai 13 anni che accedono a Instagram dall’inizio del 2019, eppure ha disabilitato “solo una frazione di quegli account”.

Le accuse sono state presentate come parte di una causa federale depositato il mese scorso presso il tribunale distrettuale degli Stati Uniti per il distretto settentrionale della California. Se Meta dovesse risultare in violazione delle leggi sulla privacy a seguito di queste affermazioni, potrebbe affrontare multe enormi e essere sottoposto a ulteriori controlli sulle sue misure di protezione e moderazione, in particolare in relazione all’accesso degli utenti più giovani.

A seconda dei risultati, ciò potrebbe avere un impatto notevole sull’attività di Meta, mentre potrebbe anche portare a informazioni più accurate sui tassi effettivi di esposizione e sui potenziali danni all’interno delle app di Meta.

In risposta, Meta afferma che la denuncia descrive in modo errato il suo lavoro “utilizzando citazioni selettive e documenti selezionati con cura”.

È un’altra sfida per il team di Meta, che potrebbe riportare sotto i riflettori Zuck e Co., per quanto riguarda la moderazione e l’esposizione efficaci, mentre potrebbe anche portare all’implementazione di normative ancora più severe sui giovani utenti e sull’accesso ai dati.

Ciò potrebbe potenzialmente portare gli Stati Uniti ad allinearsi maggiormente alle norme più restrittive dell’UE.

In Europa, il nuovo Digital Services Act (DSA) comprende una serie di disposizioni volte a proteggere gli utenti più giovani, compreso il divieto di raccogliere dati personali per scopi pubblicitari. Restrizioni simili potrebbero derivare da questa nuova spinta statunitense, anche se resta da vedere se la denuncia andrà avanti e come Meta cercherà di contrastarla.

Anche se, in realtà, non sorprende che così tanti giovani accedano a Instagram a ritmi così alti.

Lo ha scoperto l’anno scorso un rapporto di Common Sense Media Il 38% dei bambini di età compresa tra gli 8 e i 12 anni utilizza i social media quotidianamente, un numero in costante aumento nel tempo. E mentre Meta ha cercato di implementare migliori misure di rilevamento dell’età e di sicurezza, molti bambini continuano ad accedere alle versioni per adulti di ciascuna app, semplicemente inserendo in molti casi un anno di nascita diverso.

Naturalmente, i genitori hanno anche l’onere di monitorare il tempo trascorso davanti allo schermo dei propri figli e di assicurarsi che non accedano ad app che non dovrebbero. Ma se un’indagine dovesse effettivamente dimostrare che Meta ha consapevolmente consentito ciò, ciò potrebbe portare a una serie di nuove complicazioni, per Meta e per il settore dei social media più in generale.

Sarà interessante vedere dove porta il reclamo e quali ulteriori informazioni otterremo di conseguenza sulle misure di segnalazione e protezione di Meta.