Esistono circa 4500 content moderators, quasi tutti nel sud-est asiatico, che ogni giorno setacciano contenuti violenti o sessualmente espliciti ed applicano regole di censura più o meno aderenti alle specifiche situazioni.
Ogni giorno, infatti, Facebook riceve circa 2 miliardi di segnalazioni da parte dei suoi utenti, che riguardano foto, video, testo. Facebook interviene attraverso algoritmi e moderatori che applicano regole scritte, trasmesse loro durante il corso d’addestramento. Questo codice censorio è contenuto in quelli che il Guardian ha ribattezzato “Facebook Files”. Si tratta di un centinaio di documenti di formazione, grafici, etc. Ecco ad esempio il vademecum relativo al revenge porn.
Nonostante gli sforzi, il Guardian ha rintracciato qualche nonsense qua e là. Ad esempio, è consentito scrivere “per spezzare il collo di una stronza, assicuratevi di applicare tutta la pressione in mezzo alla gola” perché non è considerata una minaccia credibile. Ma non si può scrivere “qualcuno spari a Trump”, perché il presidente degli Stati Uniti gode di un livello di protezione particolare. Le figure pubbliche (tutti quelli che hanno più di 100mila seguaci), invece, non godono della protezione destinata ai profili privati. È consentito postare frasi come “la bambina deve smetterla prima che il padre le spacchi la faccia” o “spero che qualcuno ti uccida” perché entrambe sono considerate minacce generiche. Ok, sono effettivamente generiche nell’intenzione, ma potremmo provare a preoccuparci anche del linguaggio.
In questo marasma sembra che i moderatori si sentano travolti dalla mole di contenuti che devono analizzare nel giro di una manciata di secondi e questo sembra essere il principale fattore che crea errori frequenti ed aberrazioni come quella che riguarda la pubblicazione della foto della bambina vietnamita che- nuda – scappa in lacrime dal napalm. In quell’occasione – e in molte altre – Facebook è stato chiamato a rispondere e a palesare le logiche che governano i meccanismi della sua censura.
In un primo momento Zuck si era precipitato ad affermare che Facebook è solo un mezzo, al pari del telefono: le responsabilità dei contenuti pubblicati sono da imputare esclusivamente agli utenti. Col tempo e le polemiche, la posizione di Facebook è cambiata ed è chiamata oggi – senza più nessuna scusa – ad assumersi la responsabilità che compete all’editore più grande e potente del mondo.
Oltre a questo aspetto, più politico e sociale, la censura si porta dietro un’altra questione spinosa: il limite di ciò che è giusto o appropriato per le persone, un aspetto squisitamente morale. Un esempio: la fotografa Heather Whitten pubblicò un’immagine che ritrae suo marito e suo figlio nudi sotto la doccia, apparentemente un’immagine innocua, tenera eppure molti contestarono lo scatto vedendoci dentro “un accenno di pedofilia” e chiedendo quindi la rimozione della foto. Come comportarsi in questi casi?
In fondo la censura dal punto di vista degli intellettuali ha sempre avuto il sapore dello scoglio che prova ad arginare il mare. La pensano così quelli di Genderless nipples, ad esempio. La questione è semplice: i capezzoli sono un soggetto censurato su Instagram solo se appartengono ad una donna, mentre quelli maschili sono perfettamente ammessi. Mettere in risalto questa disparità di genere è un modo per evidenziare l’assurdità delle regole che hanno il compito di dire cosa va bene e cosa no, in maniera assoluta e una volta per tutte.