Tutto quello che non dicono sull'odio online. Credits Unsplash
Tutto quello che non dicono sull'odio online. Credits Unsplash

Quello che nessuno dice sull'odio online

Il dibattito sull'hate speech espresso in Rete coinvolge, ormai da anni, le massime istituzioni. Ma le responsabilità del fenomeno, difficile da monitorare, vanno cercate soprattutto nella politica

Rosita Rijtano

Rosita Rijtano Redattrice lavialibera

2 febbraio 2020

Un gruppo di lavoro con l'obiettivo di analizzare l'odio online e individuare i potenziali strumenti per contrastarlo. L'ha avviato la ministra dell'innovazione tecnologica, Paola Pisano, con il guardasigilli Alfonso Bonafede, e il sottosegretario della presidenza del consiglio con delega all'editoria, Andrea Martella

Proposte di legge, progetti dell'Unione Europea, rapporti delle Nazioni Unite: il dibattito sull'odio espresso in Rete coinvolge, ormai da anni, le massime istituzioni. Tutti dicono hate speech. Quello che, però, tutti dimenticano di dire è che “monitorare i discorsi d'odio online è estremamente difficile e altrettanto difficile è non commettere errori di valutazione", spiega Giancarlo Ruffo, professore di informatica dell'Università di Torino e uno dei docenti coinvolti in Contro L'odio, un progetto promosso dall'associazione Acmos che ha l'obiettivo di mappare l'odio su Twitter. Un lavoro complesso per diverse ragioni. 

Di cosa parliamo quando parliamo di hate speech 

La prima difficoltà sta nella definizione. L'espressione hate speech non è disciplinata dalle leggi internazionali e presenta una doppia ambiguità, ricorda nel suo ultimo rapporto David Kaye, relatore speciale delle Nazioni Unite per la promozione e la protezione del diritto alla libertà di opinione e di espressione. Un'ambivalenza che da una parte può essere sfruttata per consentire la censura di un'ampia gamma di espressioni lecite. Dall'altra, frena l'azione di governi e aziende impedendo di affrontare un problema che può avere serie ripercussioni, come nel caso dei discorsi che incitano violenza e discriminazioni contro i più vulnerabili o silenziano gli emarginati. 

"Trovare una definizione univoca e soddisfacente non è semplice", ammette Viviana Patti, docente d'informatica dell'università di Torino che si è occupata degli aspetti linguistici del progetto Contro L'odio. Una base di partenza comune viene fornita da quanto raccomandato nel 1997 dal Consiglio d'Europa, secondo cui ricadono nei discorsi d'odio tutte quelle "espressioni che diffondono, incitano, promuovono o giustificano l'odio razziale, la xenofobia, l'antisemitismo o altre forme di minaccia basate sull'intolleranza — inclusa l'intolleranza espressa dal nazionalismo aggressivo e dall'etnocentrismo —, sulla discriminazione e sull'ostilità verso i minori, i migranti e le persone di origine straniera". 

Ma, come si legge in un report dell'Osservatorio Balcani e Caucaso Transeuropa pubblicato lo scorso luglio, "continua a mancare una definizione condivisa di hate speech sufficientemente precisa", di conseguenza "a livello europeo la rilevazione dei dati sulla ricorrenza dei discorsi d'odio rimane assai scarsa o, nella migliore delle ipotesi, disomogenea". 

Hate speech online e limiti tecnologici

Quando si tratta di mappare l'hate speech sul web, oltre all'ambiguità del termine, vanno considerate altre difficoltà in cui si intrecciano limiti umani e tecnologici. Innanzitutto, i programmi usati per analizzare i miliardi di post pubblicati sui social network ogni giorno e individuare i discorsi d'odio imparano da una banca dati messa a punto da esseri umani. Persone che per motivi psicologici sono più o meno sensibili a certi temi, mentre per ragioni culturali e sociali possono comprendere l'intento ironico di un determinato contenuto e non di un altro. "Gli esseri umani possono commettere errori, di conseguenza anche le macchine", spiega Ruffo.

Un'altra sfida è legata alla comprensione del linguaggio naturale che, nonostante i progressi compiuti negli ultimi anni, per i computer risulta ancora ostico. "Contrariamente al linguaggio delle macchine, che è stato progettato per non esserlo, quello naturale è ambiguo per antonomasia — prosegue il ricercatore —. In più i testi che analizziamo sui social network, in particolar modo su Twitter, sono brevi, caratterizzati da errori di ortografia, slang, parole nuove, abbreviazioni, hashtag ed emoji. Un linguaggio informale, simile al parlato. C'è poi da considerare l'impiego di metafore, sarcasmo o ironia, che può cambiare completamente il senso di un messaggio. Infine, per comprendere correttamente una frase spesso abbiamo bisogno di conoscere chi l'ha pronunciata o il contesto. Una complessità che rende il monitoraggio ulteriormente problematico". 

La dimostrazione di quanto la cosiddetta intelligenza artificiale faccia fatica a capire ciò che scriviamo la fornisce una ricerca sui filtri automatici sviluppati per contrastare l'odio online condotta nel 2018 da un team di scienziati dell'università finlandese di Aalto e dell'ateneo di Padova. Uno studio che ha testato i più importanti strumenti hi-tech disponibili su piazza, tra cui Perspective: un programma che Google utilizza sulle proprie piattaforme. L’analisi ha dimostrato che per ingannare questi sistemi bastano dei semplici trucchi come rimuovere gli spazi tra una parola e l’altra, commettere dei piccoli errori, sostituire le lettere con dei numeri, o persino interrompere la frase di hate speech con delle parole d’amore random affiancando — ad esempio — “vi amo” a “dovrebbero bruciarli tutti”. Un’inaffidabilità che rende difficile avere un’esatta stima dei discorsi d’odio pubblicati sui social network. 

Migranti e rom nel mirino degli odiatori sul web

Certo, l’importante monitoraggio portato avanti da associazioni e università fornisce un’idea del problema. Dal 1 ottobre 2018 al 30 settembre 2019 Contro l’Odio ha collezionato 7,9 milioni di tweet diretti a rom, minoranze etniche e religiose, di cui il 17,6% è stato classificato come discorso d'odio. Mentre Vox, l'osservatorio italiano sui diritti, ha individuato 151.783 tweet negativi su un totale di 215.377, presi in considerazione tra marzo e maggio 2019. La classifica dei più odiati vede in testa gli immigrati, contro cui è stato rivolto il 32% dei messaggi negativi: il 15,1% in più rispetto allo scorso anno. 

Ma non è solo un problema di quantità

Cifre che non vanno sottovalutate, anche se ridurre il fenomeno a una questione di numeri sarebbe riduttivo. "C'è anche un altro aspetto da valutare", dice Arianna Ciccone, fondatrice di Valigia Blu ed esperta di digitale. "L'impatto che ha il messaggio di un uomo di potere è completamente diverso rispetto a quello di un comune cittadino. Poco importa se i commenti d'odio pubblicati sul web, diretta espressione di ciò che siamo nella realtà, sono 20 o 200: è il clima a fare la differenza e le responsabilità vanno individuate in politici e giornalisti". 

"Per la politica e i media l’odio è diventato una valuta", aggiunge Giovanni Ziccardi, professore d'informatica giuridica dell'Università di Milano, e autore del libro L'odio online. Violenza verbale e ossessioni in Rete. "I primi lo usano per guadagnare consensi. I secondi per fare clic, vendere più copie, e guadagnare telespettatori". 

Non a caso un'analisi condotta da Amnesty International Italia prima delle elezioni europee ha rivelato che a mettere la firma sui post Facebook maggiormente capaci di aizzare gli animi, scatenare insulti e minacce sono stati tre esponenti della Lega. Sul podio si piazza Angelo Ciocca, allora candidato al Parlamento europeo, poi eletto, seguito da due donne: Alessandra Cappellari, non eletta, e Silvia Sardone che ha, invece, guadagnato il seggio a Bruxelles. Il principale bersaglio di questi politici sono stati i migranti, presi di mira seguendo un identico modus operandi: veniva selezionata una notizia di cronaca che li vedeva protagonisti negativi e la si dava in pasto ai social. È il caso, per esempio, di un articolo de Il Giornale dal titolo: "Torino, stuprata da immigrati. In balia degli aguzzini per ore". Sardone l'ha rilanciato il giorno stesso, il 21 aprile, scrivendo: "Una povera ragazza costretta ad ore di incubo e violentata da stupratori stranieri. Questi vermi meritano solo carcere duro a lungo. Inoltre per quanto mi riguarda bisogna aumentare le pene per gli stupri". Il commento che ha guadagnato più like (215) dà la misura della discussione: "E sarà sempre peggio — si legge —. Tranquilli buonisti, non è vostra figlia o vostra moglie. Ma la ruota gira. Meglio che ti (vi, ndr) svegliate. Tutti". 

Le responsabilità della politica

Un discorso analogo vale tanto per Giorgia Meloni, leader di Fratelli d’Italia, quanto per l'ex ministro dell'Interno Matteo Salvini. In particolare, uno strumento messo a disposizione da Menlo Park ha permesso di scoprire che nei sette giorni antecedenti l'apertura delle urne lo staff social del Capitano, come lo appellano i fan, ha pagato 30mila e 581 euro per promuovere undici contenuti. Quattro avevano per tema l'immigrazione e presentavano i migranti in modo negativo. Un esempio è il video che mostra una violenta lite tra un capotreno e un passeggero straniero salito a bordo senza biglietto, la cui promozione è costata dai cinque ai diecimila euro. 


Intervista esclusiva: "Io, moderatrice di Facebook, al lavoro contro l'odio. Salvini protetto speciale"

Del resto, proprio sul trattamento dei post dei politici i social network sono sempre stati poco trasparenti: vengono valutati come quelli degli altri utenti e, se no, in base a quali criteri? Dopo diverse critiche, lo scorso ottobre Twitter ha annunciato provvedimenti su qualsiasi account — leader mondiale o no — che minacci violenze nei confronti di una persona. Ma continuerà a far prevalere il contesto e se il contenuto è di chiaro interesse pubblico rimarrà online. Un esempio è quanto accaduto nelle scorse settimane, quando Donald Trump ha minacciato di bombardare i siti culturali iraniani, considerato un crimine di guerra, via Twitter. Nonostante le proteste, il cinguettio è rimasto online. 

Facebook non ha mai fatto chiarezza in materia, anche se sembra adottare un criterio simile. "Se il post rientra nel concetto di notiziabilità, è ammesso. Ma se mette a rischio qualcuno prevale la tutela della persona", dice informalmente a lavialibera una fonte di Menlo Park. Un quadro che, secondo Ciccone, rende "inutile e anche stucchevole inseguire improbabili hater online e parlare dell'anonimato come causa di tutti i mali. Il problema è nella società, è politico e culturale"

Il giornalismo che serve
nel mondo che cambia

Servono parole nuove per esprimere pensieri diversi. Serve schierarsi con coraggio per difendere la libertà. Serve stimolare la partecipazione per provocare cambiamenti duraturi.

La newsletter de lavialibera

Ogni sabato la raccolta degli articoli della settimana, per non perdere neanche una notizia. 

Ogni prima domenica del mese un approfondimento speciale, per saperne di più e stupire gli amici al bar