Hate economy: come i social guadagnano con l’odio, bloccano le leggi e condizionano le elezioni

È la vigilia del Ringraziamento 2024. A West Palm Beach, Florida, il sole tramonta sul campo da golf di Mar-a-Lago – il club privato di Donald Trump, presidente eletto degli Stati Uniti da tre settimane. Quella sera, tra i tanti ospiti che si avvicendano al tavolo del padrone di casa, arriva anche Mark Zuckerberg. Ha preso un volo privato da San Francisco. Ha quarant’anni, controlla una piattaforma da tre miliardi di utenti, e – secondo le persone presenti che hanno parlato con il Washington Post e la Seattle Times – è stato lui a chiedere l’incontro.

I due uomini hanno una storia complicata. Trump era stato bannato da Facebook e Instagram il 7 gennaio 2021, dopo l’assalto al Campidoglio. Zuckerberg lo aveva definito “un rischio troppo grande”. Trump aveva risposto minacciando di mandarlo in prigione. Poi, lentamente, le cose erano cambiate. In estate Zuckerberg subito dopo l’attentato a Trump, lo aveva definito “badass”, “uno tosto”. A luglio Meta aveva rimosso le ultime restrizioni sull’account di Trump.

E ora eccolo qui, a cena, nel feudo del presidente eletto.

Ufficialmente si tratta di “un’importante opportunità per discutere del futuro dell’innovazione americana”. È quello che dice il comunicato di Meta. Stephen Miller, futuro vice capo di gabinetto di Trump, commenta a Fox News: “Mark ha chiarito di voler supportare il rinnovamento nazionale dell’America sotto la leadership del presidente Trump“.

Sei settimane dopo, il 7 gennaio 2025, Zuckerberg pubblica un video. Annuncia che Meta abbandona il sistema di fact-checking di terze parti su Facebook, Instagram e Threads. Elimina le restrizioni sui contenuti relativi a immigrazione e identità di genere. 

Riporta i contenuti politici nei feed dopo anni di declassamento algoritmico. Dice che Meta ha “esagerato” con la moderazione. Dice che la vittoria di Trump è “un punto di svolta culturale verso la prioritizzazione della libertà di parola”. Usa parole che sembrano uscite direttamente dai discorsi di Trump.

Trump commenta: “Hanno fatto molta strada.” Elon Musk scrive su X: “This is cool.”

Le conseguenze di quella cena – o di quella sequenza di eventi, se si preferisce la cautela – sono misurabili con precisione.

Il Center for Countering Digital Hate calcola che le modifiche annunciate da Zuckerberg potrebbero fermare il 97% dell’enforcement di Meta sui contenuti d’odio nelle aree a rischio. Prima della marcia indietro, Meta rimuoveva proattivamente quasi 277 milioni di pezzi di contenuto classificati come violazioni. Dopo, quella rimozione proattiva viene quasi interamente eliminata: le piattaforme aspettano che siano gli utenti a segnalare.

I risultati non tardano. L’Anti-Defamation League documenta nei mesi successivi un aumento quasi quintuplo delle molestie antisemite sui profili Facebook di parlamentari ebrei americani. Il GLAAD 2026 Social Media Safety Index certifica che i contenuti anti-LGBTQ in violazione delle stesse policy di Meta continuano a circolare liberamente sulle piattaforme. 

Un sopravvissuto alle atrocità in Maymar contro i Rohingya, Maung Sawyeddollah, con il supporto di Amnesty International, presenta una denuncia alla SEC a gennaio 2025: sostiene che Meta sta ripetendo esattamente lo stesso schema del Myanmar – minimizzare pubblicamente i rischi mentre internamente li conosce – e chiede un’indagine per false dichiarazioni agli azionisti.

Southport, Regno Unito, 29 luglio 2024

Tre bambine vengono uccise a coltellate durante un corso di danza. Si chiamano Bebe King, sei anni, Elsie Dot Stancombe, sette anni, Alice Dasilva Aguiar, nove anni. Prima ancora che la polizia identifichi l’aggressore, su X cominciano a girare post che lo descrivono come un immigrato musulmano arrivato clandestinamente su un barcone. È falso in ogni sua parte: l’aggressore si chiama Axel Rudakubana, è gallese, di origini ruandesi, cristiano, nato nel Regno Unito diciassette anni prima.

Ma i post viaggiano. L’algoritmo di X li amplifica, in particolare quelli prodotti con immagini generate dall’intelligenza artificiale – che ottengono quasi il triplo delle visualizzazioni rispetto ai contenuti ordinari. Un singolo post raggiunge undici milioni di visualizzazioni. Il ricercatore Marc Owen Jones, dell’Università di Hamad bin Khalifa, documenta in tempo reale quello che sta succedendo: in ventiquattro ore, almeno ventisette milioni di impressioni per post che affermano o speculano che l’aggressore fosse musulmano, migrante, straniero.

Nei giorni successivi: moschee attaccate, hotel per rifugiati incendiati, scontri con la polizia in decine di città inglesi, trecentosessantuno agenti feriti, milleottocentoquaranta arresti. Ofcom, il regolatore britannico delle comunicazioni, dichiara che la disinformazione si era diffusa “rapidamente e capillarmente” e che le “raccomandazioni algoritmiche” hanno avuto un ruolo determinante nell’alimentare le narrative divisive. 

Il Parlamento britannico apre un’indagine. La London School of Economics (LSE) documenta come due account verificati su X – uno appartenente a un partito di estrema destra britannico, l’altro di origine ignota – avessero usato immagini AI per accelerare la diffusione di teorie del complotto islamofobe, con post AI-generated che ottenevano quasi il triplo delle visualizzazioni medie.

Si potrebbe dire che è si tratti soltanto dell’ultimo caso virale registrato nei social, ma ormai chili di letteratura scientifica e inchieste giornalistiche hanno dimostrato che le condivisioni dell’odio non sono un fatto casuale, ma una vera industria algoritmica che ha il compito di vendere odio in cambio di profitti. Una vera e propria “hate economy”. 

1. Il meccanismo. Come l’algoritmo trasforma l’attenzione in denaro

C’è una diapositiva PowerPoint che circola negli atti del Congresso americano dal 2021. È stata prodotta da un ricercatore interno di Facebook nel 2018 ed è parte delle migliaia di documenti consegnati alla SEC (Securities and Exchange Commission) e al Congresso da Frances Haugen, ex product manager della piattaforma diventato un whistleblower, una fonte interna. Il testo recita: “I nostri algoritmi sfruttano l’attrazione del cervello umano per la divisività. Se non controllato, alimenterà contenuti sempre più divisivi per catturare l’attenzione degli utenti e aumentare il tempo sulla piattaforma.”

È una valutazione interna, scritta da chi quell’algoritmo lo conosceva dall’interno.

Per capire perché, bisogna capire come funziona il modello di business. Le piattaforme social non fanno pagare gli utenti. Vendono attenzione agli inserzionisti. Ogni minuto in più che un utente trascorre sulla piattaforma vale denaro – in termini di annunci visualizzati, dati raccolti, capacità di targeting affinata. L’algoritmo esiste per massimizzare questo tempo di permanenza. Per tenerti incollato allo schermo il più a lungo possibile.

Il modo in cui lo fa è semplice. L’algoritmo osserva il tuo comportamento – quanto tempo passi su un contenuto, se lo commenti, se lo condividi, se ci torni sopra – e ne deduce cosa ti tiene più a lungo in quella posizione. Poi ti mostra più cose simili. È un sistema di apprendimento per rinforzo: ogni tuo clic è un segnale che l’algoritmo registra e usa per calibrare il prossimo contenuto.

L’ottimizzazione dell’indignazione

Il problema è quello che emerge da questo processo di ottimizzazione. Molly Crockett, psicologa dell’Università di Yale, ha dedicato anni a studiare come le tecnologie digitali modificano l’espressione dell’indignazione morale. 

Il suo paper del 2017 su Nature Human Behaviour stabilisce il framework teorico: nell’ambiente digitale, le emozioni morali – indignazione, disgusto, senso di ingiustizia – si comportano in modo diverso rispetto all’interazione faccia a faccia. Vengono semplificate, amplificate, private del contesto. E soprattutto si propagano molto più velocemente e lontano.

La ragione è quella stessa ottimizzazione algoritmica. I contenuti che suscitano reazioni emotive forti – in particolare l’indignazione verso qualcuno o qualcosa – generano più engagement di qualsiasi altro tipo di contenuto. Più commenti, più condivisioni, più tempo di lettura, più ritorni. L’algoritmo impara questo e ne produce di più.

“L’amplificazione dell’indignazione“, ha scritto Crockett, “è una conseguenza diretta del modello di business dei social media, che ottimizza per l’engagement degli utenti“. 

2. Il carburante – Outrage, outgroup, contagio morale: perché l’odio viaggia più veloce di qualsiasi altra cosa

Nel 2021, William Brady e Molly Crockett pubblicano su Science Advances i risultati di uno studio su dodici milioni di tweet di 7331 utenti di Twitter. Vogliono capire se e come la piattaforma modifichi il comportamento degli utenti nel tempo. 

Quello che trovano è un meccanismo di condizionamento preciso e misurabile: chi riceve più like e condivisioni per i propri post di outrage morale tende a produrre sempre più post di outrage morale nelle settimane successive. 

Non è un effetto del carattere delle persone, non è una tendenza preesistente che la piattaforma semplicemente rivela: è un processo di apprendimento indotto dalla struttura dei premi sociali della piattaforma stessa.

Il punto più interessante dello studio riguarda chi viene condizionato più facilmente. Non sono gli utenti già estremizzati, quelli con reti di follower politicamente omogenee e radicalizzate. Sono gli utenti moderati, quelli con reti miste. “Le persone con amici e follower politicamente moderati sono più sensibili al feedback sociale che rinforza le loro espressioni di outrage“, spiega Crockett. “Questo suggerisce un meccanismo attraverso cui gruppi moderati possono radicalizzarsi nel tempo tramite loop di feedback che esasperano l’indignazione“.

Non è l’estremismo che si radicalizza ulteriormente. È la moderazione che viene trascinata verso l’estremismo.

Denuncia il tuo nemico, ti premierò

Un secondo meccanismo si sovrappone a questo. Steve Rathje, Jay Van Bavel e Sander van der Linden pubblicano nel 2021 sui Proceedings of the National Academy of Sciences (PNAS) i risultati di un’analisi di due milioni settecentotrentamila post di organi di informazione e di parlamentari americani su Facebook e Twitter. 

La domanda che si fanno è: cosa rende un post più condiviso? La risposta è univoca: i post che menzionano l’outgroup politico – il partito avversario, il gruppo nemico, i “loro” – vengono condivisi il doppio rispetto ai post che parlano dell’ingroup. 

L’effetto outgroup è il predittore più forte di condivisione: più forte del linguaggio emotivo, più forte della notizia in sé, più forte di qualsiasi altra variabile testata.

In altre parole: parlare del nemico funziona meglio di qualsiasi altra cosa. Non importa se il contenuto è vero o falso, ragionato o emotivo, costruttivo o distruttivo. Se nomina l’avversario con ostilità, viaggia.

L’algoritmo plasma le opinioni e le indirizza verso l’ostilità 

Un terzo piano di evidenza viene da uno studio del 2025 pubblicato su PNAS Nexus da Smitha Milli e colleghi. I ricercatori conducono un audit pre-registrato sull’algoritmo di ranking di X rispetto a un feed cronologico di controllo. 

Risultato: l’algoritmo di ranking amplifica sistematicamente i contenuti emotivamente carichi e ostili verso l’outgroup politico. Gli utenti stessi, interrogati dopo l’esposizione, dichiarano di sentirsi peggio riguardo al gruppo politico avversario. 

L’algoritmo non riflette semplicemente le preferenze degli utenti: le plasma attivamente. E le plasma in direzione dell’ostilità.

Messi insieme, questi tre meccanismi – rinforzo dell’outrage individuale, amplificazione dei contenuti sull’outgroup, distorsione algoritmica verso l’ostilità – producono un ambiente informativo sistematicamente avvelenato. 

Non perché qualcuno lo abbia progettato così per cattiveria. Ma perché è esattamente quello che massimizza il tempo di permanenza sulla piattaforma. E il tempo di permanenza è il prodotto che le piattaforme vendono.

3. Le bolle e i rabbit hole – Da Carol Smith a QAnon: come si costruisce una realtà parallela

Nell’estate del 2019, un ricercatore di Facebook crea un account fittizio. Lo chiama Carol Smith. Carol Smith è una madre di quarantun anni, conservatrice, del North Carolina. Il suo profilo indica interesse per la politica, la famiglia, il Cristianesimo. Segue Fox News e Donald Trump. Non ha mai mostrato interesse per le teorie del complotto.

In quarantotto ore, Facebook le raccomanda di iscriversi a gruppi dedicati a QAnon – il movimento cospirazionista che sosteneva che Trump stesse combattendo segretamente una rete satanico-pedofila che controllava il mondo. 

Carol Smith non aveva cliccato su nulla di simile, non aveva cercato nulla di simile, non aveva espresso nessuna opinione sul tema. Ma l’algoritmo aveva elaborato il suo profilo, aveva incrociato i suoi interessi dichiarati con i pattern di comportamento di utenti simili, e aveva calcolato che QAnon era il passo successivo nel suo percorso di engagement ottimale.

L’indottrinamento di Carol

Dopo una settimana, il feed di Carol Smith era, nelle parole del ricercatore che aveva condotto l’esperimento, “una raffica di contenuti estremi, cospirazionisti e grafici”.

Il documento interno di Facebook che descrive questo esperimento si intitola “Carol’s Journey to QAnon” ed è tra le migliaia di pagine consegnate al Congresso e alla SEC da Frances Haugen nel 2021. Non è un caso isolato nel corpo di ricerca interna di Facebook. È parte di un pattern sistematicamente documentato.

“Potresti conoscere anche…”

Un altro documento interno, datato 2016 e relativo al mercato tedesco, è ancora più esplicito. Tra le grandi community politiche tedesche su Facebook, il sessantaquattro per cento delle iscrizioni a gruppi estremisti avviene tramite gli strumenti di raccomandazione della piattaforma. 

La conclusione, scritta dai ricercatori stessi: “I nostri sistemi di raccomandazione aggravano il problema.”. 

Questo documento è stato ottenuto dal Wall Street Journal nell’ambito della prima inchiesta di Jeff Horwitz nel 2020, poi confluita nelle Facebook Files del 2021.

Il meccanismo del rabbit hole – il modo in cui un utente scivola progressivamente verso contenuti sempre più estremi seguendo le raccomandazioni algoritmiche – è documentato anche in contesti diversi da Facebook.

Una ricerca del 2019 su YouTube, condotta da Ribeiro e colleghi, mostra come l’algoritmo di raccomandazione tenda a portare gli utenti che guardano contenuti politicamente orientati verso canali progressivamente più estremi nella stessa direzione. 

Una ricerca della University of California Davis ha trovato che oltre il 36% degli account sperimentali ha ricevuto raccomandazioni da canali classificati come problematici.

C’è da dire che su questo punto il dibattito accademico è aperto. Uno studio del 2025 pubblicato su PNAS, condotto su quasi novemila utenti con una piattaforma sperimentale simile a YouTube, trova che l’esposizione a breve termine a raccomandazioni polarizzanti ha effetti limitati sugli atteggiamenti degli utenti.

E una ricerca della Northeastern University documenta come, dopo le modifiche all’algoritmo di YouTube nel 2019, la maggior parte del traffico verso contenuti estremi provenga ormai da abbonamenti diretti e link esterni, non dalle raccomandazioni.

Ma il punto non è se l’algoritmo trasformi in modo automatico chiunque in un estremista, probabilmente non lo fa. 

La questione è di scala.

Anche una piccola percentuale di utenti vulnerabili, su una platea di tre miliardi di persone, significa decine di milioni di individui.

E la ricerca di Kalra del 2025, condotta dalla Brown University con il supporto della National Science Foundation (NSF) su otto milioni di utenti di una piattaforma simile a TikTok in India, fornisce la misura più diretta disponibile: quando l’algoritmo di raccomandazione viene sostituito con un sistema casuale, il contenuto tossico nel feed si riduce del 27%. A costo di una riduzione dell’engagement del 35%.

Questo 35% è la dimensione economica del problema. Le piattaforme lo sanno. E scelgono di non farne a meno.

4. Il terreno fertile – Come si informano gli italiani: un paese che ha cambiato fonte senza accorgersene

Nel 2013, il 59% degli italiani leggeva quotidiani in formato cartaceo. Nel 2025 quella percentuale è crollata al 12%. In dodici anni, la stampa scritta ha perso quasi cinquanta punti come fonte primaria di informazione. È uno dei cambiamenti strutturali più rapidi mai registrati nelle abitudini informative di un paese occidentale.

Il vuoto non è rimasto tale. Lo ha riempito una combinazione di televisione – ancora dominante con il 65% degli italiani che la usa almeno una volta a settimana per le notizie – e di piattaforme social, che secondo lo stesso rapporto raccolgono oggi il 39% degli italiani come fonte informativa regolare.

TikTok, che fino a pochi anni fa era considerata una piattaforma di intrattenimento per adolescenti, è cresciuta di quattro punti percentuali in un anno e ora raggiunge il 17% degli utenti italiani anche come canale di informazione.

Il report Digital 2025 di We Are Social, elaborato su dati Meltwater, fotografa la stessa dinamica con numeri leggermente diversi ma coerenti: il 32% degli utenti internet italiani dichiara di informarsi tramite i social media, e informarsi su cosa accade nel mondo è la prima ragione dichiarata per accedere alle piattaforme – prima dell’intrattenimento, prima del contatto con amici e familiari. 

I 44 milioni di italiani attivi sui social trascorrono in media un’ora e quarantotto minuti al giorno su queste piattaforme. Facebook – nonostante il declino della propria base utenti – è ancora quella su cui si trascorre più tempo: tredici ore e ventinove minuti al mese per persona, secondo i dati di analisi Vincos.

Il dato più preoccupante riguarda le generazioni più giovani. Secondo la Flash Eurobarometer Youth Survey 2024, il 42% dei giovani europei tra i 16 e i 30 anni si rivolge ai social per notizie di stampo politico e sociale. I teenager tra 16 e 18 anni sono in testa con il 45%. Non si tratta più di un’abitudine marginale di una minoranza: è la modalità informativa prevalente di un’intera generazione.

Questo non sarebbe necessariamente un problema se le piattaforme social funzionassero come agenzie di stampa – fonti neutrali che distribuiscono informazioni verificate in ordine cronologico. 

Ma come abbiamo visto, non funzionano così. Selezionano, amplificano e personalizzano i contenuti in base all’engagement. E l’engagement, come documentano Brady, Crockett, Rathje e gli altri ricercatori citati in questo articolo, è massimizzato dall’indignazione, dalla paura, dall’ostilità verso l’outgroup.

Il risultato pratico è che una quota crescente degli italiani costruisce la propria visione del mondo attraverso un filtro progettato non per informare ma per trattenere l’attenzione – e che trattiene meglio l’attenzione quando alimenta la conflittualità.

4. Le piattaforme sanno – I documenti interni, i whistleblower, il Myanmar

Il 3 ottobre 2021, Frances Haugen si presenta in uno studio televisivo di CBS e rivela la propria identità. È lei la fonte delle Facebook Files, la serie di inchieste del Wall Street Journal di Jeff Horwitz basata su oltre ventimila documenti interni. 

Haugen ha lavorato come product manager per Facebook fino a maggio dello stesso anno, nella divisione Civic Integrity – quella che si occupava di “disinformazione e interferenze elettorali”. Prima di andarsene, aveva copiato sistematicamente una raccolta di ricerche interne, presentazioni, email e report. Poi li aveva consegnati alla SEC, al Congresso, e a un consorzio di diciassette testate giornalistiche.

“Facebook sa che i contenuti che suscitano una reazione estrema generano più click, commenti e condivisioni”, ha detto Haugen durante la sua testimonianza al Senato. “E quei click non sono necessariamente a tuo vantaggio. Facebook ha ripetutamente scelto di ottimizzare per i propri interessi piuttosto che per quelli degli utenti e della società”.

Il bene da tutelare in ogni caso: le metriche di crescita

Quello che emerge dai documenti di Haugen, e da quelli successivamente ottenuti da altri ricercatori, non è il ritratto di un’azienda inconsapevole degli effetti delle proprie scelte. È il ritratto di un’azienda che aveva misurato quegli effetti con precisione, li aveva discussi internamente in decine di presentazioni, e aveva sistematicamente scelto di non intervenire perché farlo avrebbe colpito le metriche di crescita.

Horwitz, intervistato da NPR dopo la pubblicazione delle Facebook Files, ricostruisce il pattern: “L’azienda si è resa conto che promuovere l’engagement tramite algoritmi produceva contenuti molto arrabbiati, e che i propri ricercatori erano preoccupati di stare rendendo il dibattito politico nel mondo molto più conflittuale e polarizzato. E se ne sono resi conto, ma non volevano correggere i cambiamenti fatti all’algoritmo perché questo avrebbe danneggiato le loro metriche di crescita“.

Ci sono casi in cui le conseguenze di questa scelta si sono tradotte in morti reali e documentate.

Il genocidio in Myanmar

Dal 2012, attivisti birmani per i diritti umani avvertono regolarmente Facebook che la piattaforma viene usata dall’esercito del Myanmar (Tatmadaw) per diffondere propaganda anti-Rohingya. La ricercatrice Htaike Htaike Aung, che documenta la storia di internet in Myanmar tramite il Myanmar Internet Project, ha incontrato dirigenti senior di Facebook nel 2012 e nel 2013. “Era come parlare al vuoto”, ha detto al magazine TIME nel 2022.

Nel 2016, un documento interno di Facebook riconosce esplicitamente il ruolo della piattaforma nell’alimentare tensioni etniche nel paese. 

Nel 2017, l’esercito birmano lancia quella che il relatore speciale delle Nazioni Unite definirà un’operazione con “le caratteristiche del genocidio”: più di settecentotrenta mila Rohingya fuggono nello spazio di pochi mesi, un milione si trova in esilio, le accuse di genocidio arrivano alla Corte Internazionale di Giustizia.

Nel 2018, la Missione ONU di accertamento dei fatti sul Myanmar pubblica il proprio rapporto. Facebook, si legge, ha avuto “un ruolo determinante” nel diffondere l’odio. Il relatore Marzuki Darusman è esplicito: “Per quanto riguarda il Myanmar, i social media sono Facebook, e Facebook sono i social media”.

Nel settembre 2022, Amnesty International pubblica un rapporto dettagliato in cui documenta che Meta “aveva profittato della camera eco dell’odio creata dai suoi algoritmi a spirale d’odio“. 

La sintesi più efficace di questo schema di conoscenza consapevole e scelta deliberata viene da Renée DiResta, ricercatrice dello Stanford Internet Observatory tra le prime a documentare i rischi degli algoritmi di raccomandazione di Facebook: “Questi documenti confermano quello che i ricercatori esterni dicevano da anni e che veniva sistematicamente ignorato dall’azienda. Facebook ha letteralmente contribuito a far crescere un culto.”

5. Il perception gap – L’algoritmo non ha preferenze politiche. Ma le sue conseguenze sì.

Nel novembre 2024, tre giorni dopo la vittoria di Donald Trump alle presidenziali americane, l’economista J. Bradford DeLong di Berkeley pubblica un commento su Project Syndicate. Cita senza commento un’infografica di Ipsos con il titolo: “Le opinioni errate su immigrazione, criminalità ed economia sono correlate alle scelte di voto”. 

I dati mostrano una correlazione precisa: chi aveva credenze fattuali errate sui principali temi della campagna – immigrazione, criminalità, stato dell’economia – aveva votato Trump in misura significativamente maggiore di chi aveva credenze corrispondenti ai dati disponibili.

Non si tratta di una valutazione politica. Si tratta di una constatazione empirica su come la disinformazione sistematica abbia plasmato la percezione della realtà di una parte dell’elettorato.

Sul tema dell’immigrazione e della criminalità, i dati sono inequivocabili. Secondo i dati del Texas – uno dei pochi stati americani che disaggrega le statistiche per status migratorio – i cittadini nati negli Stati Uniti commettono circa millecento reati ogni centomila abitanti. Gli immigrati regolari circa ottocento. Gli immigrati irregolari circa quattrocento. 

Gli immigrati commettono più delitti. E se non è vero, è lo stesso

L’analisi su tutti i cinquanta stati non trova alcuna correlazione statistica significativa tra la quota di immigrati in un’area e il tasso di criminalità. Ciononostante, il quarantacinque per cento degli elettori repubblicani intervistati dal Kaiser Family Foundation (KFF) nel 2024 ritiene “decisamente vero” che gli immigrati causino un aumento della criminalità violenta.

Il caso italiano non è dissimile. Una ricerca pubblicata sulla Rivista il Mulino nel 2025, basata su quindici anni di dati relativi a flussi migratori e tassi di criminalità in duecentosedici regioni di ventitré paesi europei, non trova alcun collegamento significativo tra i due fenomeni. 

I dati Istat mostrano che nel 2024 il 26.6% delle famiglie italiane percepisce il rischio di criminalità nella propria zona – in aumento rispetto all’anno precedente, in controtendenza rispetto alla diminuzione dei reati effettivamente denunciati. Una ricerca Ipsos dell’aprile 2026 rileva che il 44% degli italiani indica l’immigrazione irregolare come causa principale del proprio senso di insicurezza.

Questa distanza tra percezione e realtà non si produce nel vuoto. Si produce in un ambiente informativo sistematicamente distorto verso i contenuti che generano paura dell’outgroup – e l’immigrazione, nella narrazione social dominante, è il caso paradigmatico di outgroup utilizzabile politicamente.

La disinformazione produce crimini

Il meccanismo è documentato: uno studio pubblicato nel 2021 sul Journal of the European Economic Association, analizza i dati tedeschi usando una variabile esogena di grande eleganza metodologica: i guasti tecnici di Facebook nei singoli comuni. Quando Facebook è offline, la gente non può pubblicare contenuti di hate speech anti-rifugiati. Quando torna online, li pubblica di nuovo. 

Confrontando i periodi di guasto con quelli di normale funzionamento, i ricercatori dimostrano causalmente – non solo in modo correlazionale – che l’hate speech anti-rifugiati su Facebook predice un aumento dei crimini contro i rifugiati nelle settimane successive in comuni altrimenti comparabili.

L’immagine complessiva che emerge non è quella di un complotto algoritmico per eleggere governi specifici. 

È quella di un sistema di incentivi che produce sistematicamente un ambiente informativo distorto in favore della paura, della semplificazione, dell’ostilità verso l’outgroup – e che avvantaggia chiunque abbia la capacità e la volontà di capitalizzare politicamente su quella distorsione.

6. Lo scudo legale – Le 26 parole del 1996 che proteggono un’industria da centinaia di miliardi

La parola è immunità.

La sezione 230 del Communications Decency Act americano del 1996 contiene ventisei parole che hanno plasmato l’internet commerciale come lo conosciamo. “No provider or user of an interactive computer service shall be treated as the publisher or speaker of any information provided by another information content provider.”

Nessun fornitore di servizi interattivi può essere considerato responsabile per i contenuti pubblicati da terze parti.

Nel 1996 aveva senso. Serviva a proteggere i piccoli forum di discussione, i provider di posta elettronica, i siti di notizie con sezione commenti: soggetti che non avevano le risorse per esaminare ogni contenuto generato dagli utenti. Senza quella protezione, qualsiasi diffamazione o contenuto illegale postato da un utente avrebbe potuto esporre il gestore del forum a responsabilità civile o penale. 

È una norma che ha permesso la nascita dell’internet partecipativo.

Il problema è quello che è successo nei venticinque anni successivi. I tribunali americani hanno progressivamente esteso l’interpretazione della sezione 230 fino a coprire non solo l’hosting passivo di contenuti, ma le scelte algoritmiche attive di amplificazione. 

Il Dipartimento di Giustizia americano ha riconosciuto l’anomalia in una valutazione formale: “La combinazione di significativi cambiamenti tecnologici dal 1996 e dell’interpretazione estensiva che i tribunali hanno dato alla sezione 230 ha lasciato le piattaforme online immuni per un’ampia gamma di attività illecite sui loro servizi e libere di moderare i contenuti con scarsa trasparenza o responsabilità”.

Nel 2023, la Corte Suprema americana ha avuto l’occasione di pronunciarsi direttamente sulla questione. Il caso si chiamava Gonzalez v. Google. 

I genitori di Nohemi Gonzalez, uccisa negli attacchi terroristici di Parigi del 2015, sostenevano che l’algoritmo di YouTube avesse raccomandato attivamente video di reclutamento ISIS – e che questa scelta di amplificazione algoritmica non potesse essere protetta dalla sezione 230, perché non era “hosting passivo di contenuti altrui” ma una scelta editoriale attiva della piattaforma. 

La Corte d’Appello del nono Distretto aveva confermato l’immunità. La Corte Suprema ha esaminato il caso. Ha scritto tre pagine. Ha evitato la domanda risolvendo il caso su un piano procedurale diverso, senza pronunciarsi sul merito.

Lo scudo ha tenuto. Ma comincia a mostrare le prime crepe.

Se l’algoritmo è interno, non è più “un contenuto di terze parti”

Nell’agosto del 2024, la Corte d’Appello del Terzo distretto emette una sentenza destinata a diventare un precedente. Il caso è Anderson v. TikTok. Nylah Anderson, dieci anni, muore dopo aver tentato il “Blackout Challenge” – una sfida virale che consiste nel tagliarsi l’ossigeno fino allo svenimento – che l’algoritmo del suo For You Page le aveva raccomandato spontaneamente. Il tribunale distrettuale aveva respinto la causa: sezione 230, immunità. La Corte d’Appello ribalta la decisione con una interpretazione più aderente alla realtà dei nostri anni.

Le piattaforme avevano sostenuto – in un caso precedente della Corte Suprema (Moody v. NetChoice, 2024) – che il loro algoritmo di raccomandazione fosse una forma di “espressione editoriale” protetta dal Primo Emendamento: una scelta curatoriale, come quella di un editore che decide cosa pubblicare. 

La Corte d’Appello  ha preso questo argomento e lo ha usato contro di loro: se l’algoritmo è espressione editoriale propria della piattaforma, allora non è “contenuto di terze parti” e non è protetto dalla sezione 230, che copre solo i contenuti altrui. TikTok può quindi essere citata in giudizio per le proprie scelte di raccomandazione algoritmica.

Le piattaforme si sono incastrate da sole nel tentativo di rivendicare contemporaneamente la libertà editoriale del Primo Emendamento e l’immunità della sezione 230. TikTok ha chiesto il riesame en banc della decisione – la vicenda è ancora in corso – ma la logica giuridica aperta dal Terzo Circuito è difficile da contestare.

7. L’inerzia della politica – Audizioni, lacrime, lobbying: perché le leggi non passano

Sono in tanti a chiedersi perché, nonostante tutta questa mole di informazioni, testimonianze interne, letteratura scientifica, e inchieste giornalistiche, non producano interventi legislativi adeguati.

La risposta è in una sola parola: lobbying.

Il 31 gennaio 2024, la Commissione Giudiziaria del Senato americano convoca i CEO di Meta, TikTok, Snap, X e Discord per un’audizione sulla sicurezza dei minori online. La sala è gremita di genitori di ragazzi morti – per overdose, per sfide virali, per suicidio dopo bullismo digitale. Mark Zuckerberg viene incalzato dai senatori fino a quando si alza, si volta verso i presenti e si scusa direttamente con le famiglie.

Era la sesta audizione di alto profilo al Congresso americano su questi temi in tre anni. Dopo quella del 2021 in cui Haugen aveva testimoniato per la prima volta. Dopo quella del 2022 sui minorenni. Dopo quella del 2023 con il CEO di TikTok Shou Chew, durata cinque ore. Audizioni bipartisan, con senatori repubblicani e democratici che per una volta parlavano la stessa lingua.

Il 30 luglio 2024, il Senato vota il Kids Online Safety and Privacy Act (KOSPA) con novantuno voti a favore e tre contrari. È descritto dai proponenti come “il passo più significativo del Congresso per la sicurezza online dall’era Clinton” – dall’ultima legge federale sul settore, il Children’s Online Privacy Protection Act del 1998, ventisei anni prima.

Ma alla Camera dei Rappresentanti, il KOSPA non arriverà mai al voto. La leadership repubblicana non fissa una data. Il 118° Congresso scade. La legge muore. Nel 2025 viene reintrodotta per la terza volta. 

La versione elaborata dai repubblicani alla Camera svuota già nel testo il nucleo della norma originale – il “duty of care”, l’obbligo legale per le piattaforme di progettare i propri sistemi tenendo conto dell’interesse degli utenti – rendendo molto più difficile intentare cause legali contro le aziende.

Il lobbying sfrenato delle piattaforme

Il perché di questo stallo non è un mistero. Nel 2024, le sei principali piattaforme digitali hanno complessivamente speso 61.5 milioni di dollari in attività di lobbying al Congresso. Un record storico, in aumento del tredici per cento rispetto all’anno precedente. 

Meta da sola ha speso 24.4 milioni – il massimo nella storia dell’azienda, in aumento del 27% rispetto al 2023. ByteDance ha speso 10.4 milioni. Insieme, Meta e ByteDance impiegavano più di centoventi lobbisti, uno ogni cinque parlamentari. Nel periodo di lavori del Congresso, Meta e ByteDance spendevano in lobbying duecentoquarantamila dollari al giorno.

La senatrice Amy Klobuchar lo ha detto senza giri di parole durante i lavori del Congresso: “Il tech lobby è così potente che disfa in 24 ore leggi con forte supporto bipartisan”.

In Europa la situazione è parzialmente diversa. Il Digital Services Act (DSA), entrato in vigore per tutte le piattaforme nel febbraio 2024, impone obblighi significativi alle Very Large Online Platforms – trasparenza sugli algoritmi, accesso dei ricercatori ai dati, valutazioni del rischio sistemico. Il 5 dicembre 2025, la Commissione Europea emette la prima multa formale sotto il DSA: 120 milioni di euro comminate a X, per violazioni di trasparenza relative al checkmark a pagamento, all’archivio pubblicitario e all’accesso ai dati per i ricercatori.

È una vittoria simbolicamente importante. Elon Musk ha risposto dichiarando che l’Unione Europea andrebbe abolita. Ma la multa – 120 milioni – è meno della metà di quello che Meta spende ogni anno solo in lobbying al Congresso americano. E le violazioni contestate non riguardano l’amplificazione dell’odio ma obblighi tecnici di trasparenza. 

Il tetto massimo previsto dal DSA – il sei per cento del fatturato globale – non è mai stato applicato.

Il UK Online Safety Act del 2023 introduce un approccio concettualmente più avanzato: non valuta le piattaforme sul singolo contenuto illegale, ma sulla progettazione complessiva del servizio. Se l’architettura algoritmica produce danni prevedibili – in particolare ai minori – la piattaforma è responsabile. Le prime obbligazioni hanno iniziato a diventare esigibili nel 2025. È troppo presto per valutarne l’efficacia reale.

la realtà è che la politica non è impotente in assoluto. Ma appare strutturalmente svantaggiata da un’asimmetria di risorse che sembra insuperabile nei tempi brevi di una legislatura. 

Le piattaforme hanno le dimensioni, i capitali e le competenze tecniche per resistere a qualsiasi intervento regolatorio che non sia sostenuto da una volontà politica eccezionalmente forte e sostenuta. E quella volontà, almeno negli Stati Uniti, viene sistematicamente erosa da 61 milioni di dollari all’anno di lobbying.

8. Le strade possibili – Cinque proposte per riaffermare il primato della politica

Il problema non è che le soluzioni non esistano. È che ciascuna ha costi politici significativi e che le forze economiche contrarie sono ben organizzate.

La prima strada è la riforma della sezione 230 americana con condizionalità algoritmica. L’idea centrale è che  l’immunità resta, ma viene subordinata alla dimostrazione che l’algoritmo di raccomandazione non amplifica contenuti illegali in modo sistematico. In altre parole, chi vuole l’immunità è tenuto a guadagnarsela con trasparenza misurabile, non con la sola dichiarazione di buona fede. Il SAFE TECH Act del 2021 prevedeva qualcosa di simile e non è mai passato. La crepa aperta da Anderson v. TikTok potrebbe rendere il percorso giudiziario più rapido di quello legislativo.

La seconda strada è il “duty of care” algoritmico sul modello britannico: responsabilità sull’architettura del servizio, non sul singolo contenuto. Non si chiede alle piattaforme di censurare nulla: si chiede loro di dimostrare che il design dei propri sistemi non produce danni prevedibili agli utenti. È concettualmente la più solida, perché aggira la trappola della libertà di espressione: non regolamenta le parole, regolamenta l’ingegneria.

La terza strada è il rafforzamento del DSA europeo in direzione di una accountability reale sui risultati, non solo sulla trasparenza dichiarativa. Il DSA attuale chiede alle piattaforme di descrivere come funzionano i propri algoritmi. Il passo successivo è richiedere che i ricercatori indipendenti abbiano accesso forense ai dati per verificare se quei risultati corrispondono alle dichiarazioni. La multa a X per aver bloccato l’accesso ai ricercatori è il precedente giusto: va esteso e irrobustito.

La quarta strada, proposta nel campo accademico da Daron Acemoglu del MIT e altri economisti, è una tassazione dell’engagement da contenuto divisivo: un prelievo fiscale proporzionale al tempo trascorso dagli utenti su contenuti classificati come politicamente polarizzanti o a bassa qualità informativa. È un disincentivo economico diretto al modello di business basato sull’outrage. Non ha ancora un referente legislativo serio in nessun paese, ma la logica è coerente e misurabile.

La quinta strada è la più semplice politicamente e la meno invasiva dal punto di vista della libertà di espressione: l’obbligo di offrire un feed cronologico come opzione di default, con l’algoritmo di raccomandazione disponibile come scelta opt-in dell’utente. Non si vieta nulla, non si censura nulla, non si interviene sui contenuti: si restituisce all’utente la scelta di come ordinare le informazioni. 

Questa misura da sola, secondo la ricerca di Kalra del 2025, ridurrebbe del ventisette per cento l’esposizione ai contenuti tossici. Ma le piattaforme resistono. E il motivo è ovvio: sanno che l’utente medio, dato il confronto diretto, preferirebbe il feed cronologico – e questo farebbe crollare l’engagement e i ricavi.

9. Il conto – Stima ragionata dei profitti della hate economy

Per tentare un calcolo di quanto guadagnano le piattaforme con la Hate economy è necessario premettere che nessuna piattaforma pubblica dati disaggregati per tipologia di contenuto. Non esiste di conseguenza, un bilancio certificato della hate economy. 

Qualsiasi cifra deve essere costruita su proiezioni, che hanno margini di errore ampi. Quello che segue è uno scenario plausibile basato su dati pubblicamente disponibili

I dati di partenza. Nel 2024: Meta ha incassato 162 miliardi di dollari di ricavi pubblicitari, il 97.5% del proprio totale. Google/Alphabet ha incassato 264 miliardi di ricavi da advertising. TikTok circa 23.6 miliardi. Il totale delle tre principali piattaforme social engagement-based supera i 450 miliardi di dollari.

La prima stima viene dallo studio di Kalra del 2025: disattivare l’algoritmo di raccomandazione riduce l’engagement del 35%.

Se l’engagement è proporzionale ai ricavi pubblicitari – ipotesi ragionevole in un modello basato sulle impression – allora la componente algoritmica dell’ottimizzazione vale circa il 35%  dei ricavi totali. Su 450 miliardi, questo equivale a circa 160 miliardi. Ma questa è la contribuzione algoritmica totale, non solo quella derivante da contenuti conflittuali.

La seconda proiezione viene da un dato emerso dalla letteratura sulla cosiddetta “Monetisation of Toxicity“: i video controversi su YouTube generano il 60% in più di engagement rispetto ai video neutrali, ma il 27% di ricavi in meno per visualizzazione a causa dei brand safety block degli inserzionisti.

Le piattaforme li distribuiscono comunque perché il volume compensa il costo per mille (CPM) ridotto: preferiscono 60% in più di engagement a 27% in meno di ricavo per singola visualizzazione.

La terza stima viene dalla ricerca di Brady e colleghi: il linguaggio emotivo-moralizzante è il principale driver di virality. La stima accademica conservativa è che i contenuti classificabili come “outrage-driven” rappresentino tra il 15 e il 25% del feed politicamente attivo sulle principali piattaforme.

Incrociando questi tre elementi, lo scenario plausibile è il seguente. 

Se tra il 15 e il 25% dei ricavi pubblicitari totali delle piattaforme dipende strutturalmente dall’amplificazione di contenuti conflittuali e divisivi – una stima conservativa data la dipendenza algoritmica documentata dallo studio Kalra – stiamo parlando di una cifra compresa tra 67 e 112 miliardi di dollari annui.

Per collocare questo numero nel contesto: è tra due e quattro volte il PIL dell’Ungheria. È circa tre volte il bilancio annuale dell’Organizzazione Mondiale della Sanità. È abbastanza da finanziare 61 milioni di dollari all’anno di lobbying al Congresso americano per i prossimi milleottocento anni.

È un ordine di grandezza che basta a capire perché nulla cambia.

Epilogo

Il 6 agosto 2024, mentre le rivolte di Southport erano ancora in corso, Elon Musk scriveva su X che “la guerra civile è inevitabile” nel Regno Unito.

In quelle stesse ore, i server di X registravano picchi di traffico. L’algoritmo funzionava esattamente come progettato. I post sull’outgroup – immigrati, musulmani, il governo – generavano engagement altissimo. Gli inserzionisti in alcuni casi avevano attivato i brand safety block, riducendo il CPM di quei contenuti. Ma il volume era tale da compensare ampiamente.

Bebe King, sei anni. Elsie Dot Stancombe, sette anni. Alice Dasilva Aguiar, nove anni.

Una falsa notizia. Ventisette milioni di impressioni in ventiquattro ore. Un algoritmo che ottimizza per l’engagement.

Il trimestre finanziario di X è andato come previsto.

Note sulle fonti principali

Studi scientifici peer-reviewed

• Kalra, A. (2025). Hate in the Time of Algorithms: Evidence on Online Behavior from a Large-Scale Experiment. arXiv, Brown University/NSF.
• Brady, W.J., McLoughlin, K., Doan, T.N., Crockett, M.J. (2021). How social learning amplifies moral outrage expression in online social networks. Science Advances. PubMed: 34389534.
• Crockett, M.J. (2017). Moral outrage in the digital age. Nature Human Behaviour, 1, 769-771. DOI: 10.1038/s41562-017-0213-3.
• Rathje, S., Van Bavel, J.J., van der Linden, S. (2021). Out-group animosity drives engagement on social media. PNAS, 118(26), e2024292118. DOI: 10.1073/pnas.2024292118.
• Milli, S., Carroll, M., et al. (2025). Engagement, user satisfaction, and the amplification of divisive content on social media. PNAS Nexus, 4(3). DOI: 10.1093/pnasnexus/pgaf062.
• Müller, K., Schwarz, C. (2021). Fanning the Flames of Hate: Social Media and Hate Crime. Journal of the European Economic Association, 19(4), 2131-2167. DOI: 10.1093/jeea/jvaa045.
• Fujiwara, T., Müller, K., Schwarz, C. (2024). The Effect of Social Media on Elections: Evidence from the United States. Journal of the European Economic Association, 22(3), 1495-1539.
• Acemoglu, D. (2025). AI and Social Media: A Political Economy Perspective. MIT. [preprint].

Documenti interni / whistleblower

• Facebook Papers (ottobre 2021). Consorzio di 17 testate. Documenti consegnati alla SEC da Frances Haugen.
• Facebook Files (settembre 2021). Wall Street Journal, Jeff Horwitz. 20.000+ documenti interni.
• “Carol’s Journey to QAnon” (2019, pubblicato 2021). Documento interno Facebook. NBC News.
• Haugen, F. (2021). Testimonianza al Senato USA, Commissione Commerce, 5 ottobre 2021.

Fonti istituzionali

• ONU, Missione di accertamento dei fatti sul Myanmar (2018).
• Amnesty International (2022). Myanmar: Facebook’s systems promoted violence against Rohingya.
• UK Parliament, Science, Innovation and Technology Committee (2024-2025). Social media, misinformation and harmful algorithms.
• Ofcom (2024). Dichiarazioni post-rivolte di Southport.
• Commissione Europea (dicembre 2025). Multa a X, 120 milioni di euro, DSA.
• Issue One (2025). Social media companies cozy up to new administration after spending record sums on lobbying in 2024.

Fonti economiche

• Meta Annual Report 2024.
• Statista: Google annual advertising revenue 2024; TikTok ad revenue 2024.

Casi giuridici

• Gonzalez v. Google LLC, Corte Suprema USA, maggio 2023.
• Anderson v. TikTok, Terzo Circuito USA, agosto 2024.

Fonti giornalistiche e saggistiche

• Ronson, J. (2015). So You’ve Been Publicly Shamed. Riverhead Books.
• Horwitz, J. (2023). Broken Code. Doubleday.
• DeLong, J.B. (novembre 2024). Misinformation Decided the US Election. Project Syndicate.
• Brookings Institution (novembre 2024). How disinformation defined the 2024 election narrative.
• KFF (2024). Misinformation About Immigrants in the 2024 Presidential Election.
• Rivista il Mulino (2025). L’immigrazione aumenta davvero la criminalità?
• LSE (gennaio 2026). How X fuelled UK riot misinformation.
• GNET (agosto 2024). Fanning the Flames: Online Misinformation and Far-Right Violence in the UK.