La strage di Buffalo e l’idea di una no-profit per inchiodare le Big Tech
L’associazione «Everytown for Gun Safety» sta portando avanti diverse cause contro le piattaforme online perché gli algoritmi di raccomandazione dovrebbero essere trattati come un prodotto difettoso (e quindi pericoloso). Fino a ora le Big Tech si sono difese solo in merito alla moderazione dei contenuti estremisti
Velia Alvich
E se Payton Gendron non fosse stato vittima degli algoritmi avremmo potuto evitare un massacro? Un esercizio di pensiero difficile. Innanzitutto perché non si può esattamente definirlo una vittima: nel 2022 ha ucciso 10 persone e ne ha ferite altre tre in quella che è stata chiamata la strage di Buffalo. Un massacro motivato dall’odio razziale e da una pervasiva ideologia accelerazionista — l’auspicata accelerazione verso il collasso della società — che, forse, non lo avrebbero influenzato se non fosse entrato in un circolo vizioso fatto di meme razzisti e perverse idee di violenza. D’altronde lo ha detto lui stesso nel manifesto che ha fatto circolare poco prima della strage. Raccontando l’origine della sua ideologia, aveva scritto che arrivava «principalmente da Internet»: «Non c’è stata quasi nessuna influenza sulle mie idee personali dalle persone che ho conosciuto dal vivo».
Nelle 180 pagine di manifesto si intravede il percorso di radicalizzazione cominciato online, su piattaforme come 4chan. «Lì ho imparato grazie a infografiche, shitpost e meme che la razza bianca sta morendo», aveva scritto, aggiungendo poi di essersi spesso informato anche su Reddit. Infine, a influenzarlo è stata la strage di Christchurch, dove lo stragista di estrema destra Brenton Tarrant ha ucciso 51 fedeli musulmani. «Senza la sua diretta video probabilmente non avrei idea dei problemi reali che l’Occidente sta affrontando». E, ancora: «Ho fatto questo attacco per influenzare altri nel difendersi da chi ci vuole sostituire, diventare famoso era l’unica strada».
La responsabilità delle piattaforme
Colpa del modo in cui sono costruite alcune piattaforme, quindi? Forse. Il problema, però, non è solo dimostrare nei tribunali l’eventuale responsabilità dei social, ma capire anche quale percorso giudiziario intraprendere. Le piattaforme, infatti, possono contare sulla cosiddetta Sezione 230 del Communication Decency Act, la legge statunitense del 1996 che aveva cercato di regolamentare l’accesso alla pornografia online e che alla fine è stato usato per dare delle regole a Internet nella sua interezza.
«Nessun fornitore o utente di un servizio informatico interattivo può essere considerato l’editore o il divulgatore di informazioni fornite da un altro fornitore di contenuti informativi», recita la Sezione 230. Se questo da un lato dà alle piattaforme la libertà di moderare i contenuti, dall’altro dà anche la libertà di non farlo, perché appunto i fornitori del servizio (e quindi, adesso, i social) non sono responsabili di quello che scrivono gli utenti.
Mettere i social di fronte a una possibile responsabilità nella radicalizzazione degli utenti, quindi, non sembra possibile secondo le leggi americane. O almeno non se si intraprende la strada della responsabilità sulla moderazione dei contenuti. Per Everytown for Gun Safety — una no-profit che si batte per il controllo delle armi negli Usa — il problema sta tutto negli algoritmi e in generale nel modo in cui le piattaforme sono costruite per massimizzare il coinvolgimento degli utenti tenendoli incollati allo schermo. Ed è sulla base di questa tesi che l’associazione ha fatto causa a diverse compagnie: da Meta ad Amazon (proprietaria della piattaforma di streaming Twitch), da Discord a 4chan (il famigerato forum dalla moderazione minima dove proliferano contenuti estremisti), passando anche per Reddit. Anche se non tutte le piattaforme usano un algoritmo di raccomandazione dei contenuti, per l’accusa sono comunque progettate con l’obiettivo mantenere sempre viva l’attenzione degli utenti.
L’algoritmo come prodotto difettoso
«Gli editori tutelano il copyright del loro materiale. Ma le aziende che producono brevettano i loro materiali, e ognuno di questi imputati detiene un brevetto», ha detto al giudice l’avvocato dell’accusa John Elmore, come riportato da The Verge. Aggiungendo che questi prodotti brevettati sono «pericolosi e non sicuri» e quindi «difettosi». La tesi dell’accusa non si basa sui contenuti suprematisti e violenti che le piattaforme avrebbero lasciato proliferare, ma su una legge dello Stato di New York che regola la responsabilità di un produttore e che permette ai consumatori di chiedere un risarcimento per i danni.
In una delle cause depositate dall’associazione, si legge che YouTube e le altre piattaforme «non sono riuscite a modificare il loro prodotto per renderlo meno pericoloso, perché cercano di massimizzare il coinvolgimento degli utenti e i profitti».
Per gli avvocati della difesa, però, la protezione offerta alle piattaforme dalla Sezione 230 non può essere ignorata neppure in questo caso. «Caso dopo caso, è stato riconosciuto che non esiste alcuna eccezione “algoritmica” all’applicazione della Sezione 230», ha detto al giudice Eric Shumsky, avvocato di Meta. E in effetti su altri due casi simili la Corte Suprema aveva già mantenuto posizioni in difesa dell’applicazione della Sezione 230, che quindi continua a proteggere le compagnie dalle responsabilità nella moderazione dei contenuti.
Ma, d’altra parte, sembra esserci un’apertura sulla strategia di Everytown for Gun Safety: l’anno scorso la giudice Paula Feroleto ha rifiutato la richiesta delle compagnie di archiviare il caso. «Gendron è venuto a conoscenza di questo concetto (cioè la teoria del complotto della Grande Sostituzione, ndr) attraverso informazioni e post sulle piattaforme degli imputati» e che le piattaforme social sono «sono prodotti sofisticati progettati per creare dipendenza tra i giovani utenti e hanno specificamente indirizzato Gendron verso ulteriori piattaforme o post che lo hanno indottrinato con la “teoria della sostituzione bianca”». La partita di Everytown for Gun Safety nei tribunali rimane ancora aperta. Così come la domanda da cui siamo partiti: se le piattaforme fossero costruite in maniera diversa, Gendron si sarebbe comunque radicalizzato?
