Il progetto “Mappa dell’Intolleranza” monitora sistematicamente il linguaggio ostile online in Italia, con l’obiettivo di documentare e analizzare la diffusione di fenomeni come l’hate speech, gli stereotipi e le forme di disumanizzazione nei confronti di gruppi sociali vulnerabili. Giunto alla sua nona edizione, il progetto si avvale di un’infrastruttura di ricerca interdisciplinare che coinvolge esperti di diritto, linguistica computazionale e scienze sociali.

Nell’edizione 2025 il quadro metodologico ha subito un significativo aggiornamento, con l’introduzione di strumenti basati su Large Language Models (LLM) per migliorare la qualità dell’identificazione e dell’analisi delle diverse forme di linguaggio ostile. Questi strumenti si affiancano ai metodi tradizionali già consolidati nelle edizioni precedenti, ampliando le capacità interpretative senza sostituire il giudizio umano degli esperti.

L’obiettivo principale di questo aggiornamento è stato duplice:

• rafforzare la qualità interpretativa dell’analisi dei dati, integrando nuove variabili che permettono una comprensione più sfumata dei fenomeni linguistici osservati;
• fornire strumenti più utili per la pianificazione delle attività future del progetto, in particolare per identificare le aree tematiche e geografiche che richiedono una raccolta dati più mirata.

Le innovazioni introdotte si articolano in tre livelli di analisi complementari e progressivi, ciascuno focalizzato su un aspetto distinto del fenomeno: il rilevamento e arricchimento del testo (Livello 1), l’analisi dei meccanismi di disumanizzazione (Livello 2) e la valutazione della completezza e rappresentatività del dataset (Livello 3). Questa struttura a tre livelli garantisce che l’analisi proceda dall’identificazione di base verso una comprensione sempre più profonda e critica del fenomeno.

1. Rilevamento del linguaggio e arricchimento del testo

Il primo livello costituisce il fondamento del nuovo framework metodologico e riguarda l’utilizzo delle capacità di analisi linguistica dei LLM per arricchire il dataset con nuove informazioni interpretative. L’obiettivo è trasformare dati grezzi in informazioni strutturate, estraendo segnali semantici che i metodi tradizionali basati su dizionari o regole sintattiche faticano a cogliere.

1.1 Dataset e processo di analisi

La raccolta dei dati relativi al periodo gennaio–novembre 2025 ha seguito le procedure consolidate nelle edizioni precedenti, basate su un sistema automatizzato di monitoraggio delle principali piattaforme social italiane. I dati sono stati pre-processati per rimuovere duplicati, contenuti non pertinenti e profili automatizzati (bot), prima di essere sottoposti all’analisi con LLM.

Una volta completata la fase di raccolta e integrazione, è stato applicato un prompt analitico strutturato a ciascun contenuto del dataset. Il prompt è stato sviluppato in modo iterativo da un team interdisciplinare composto da esperti in diritto e linguistica, ed è stato sottoposto a un ciclo di revisione e validazione prima del suo utilizzo su larga scala. La progettazione del prompt ha tenuto conto delle specificità del linguaggio online italiano, incluse varianti dialettali, neologismi e costruzioni tipiche del discorso digitale.

L’analisi è stata condotta utilizzando il modello OpenAI GPT-5 Nano. La scelta di questo modello risponde a criteri di efficienza computazionale e scalabilità: il modello combina un’elevata capacità di comprensione del linguaggio naturale con costi operativi contenuti, rendendolo adatto all’elaborazione di un corpus di grandi dimensioni. Il processo ha portato all’introduzione di cinque nuove variabili di annotazione, descritte in dettaglio nella sezione seguente.

1.2 Variabili di annotazione introdotte

Per ciascun contenuto analizzato, il modello ha prodotto valori per le seguenti cinque variabili:

Tipo di linguaggio (Language Type): Classifica ogni contenuto in una delle seguenti quattro categorie esclusive, sulla base dell’intenzione comunicativa e della connotazione semantica del testo:

• neutro – contenuto privo di linguaggio ostile o discriminatorio;
• hate speech – linguaggio che incita all’odio, alla discriminazione o alla violenza nei confronti di individui o gruppi;
• stereotipo – contenuto che veicola generalizzazioni negative su gruppi sociali senza ricorrere a un linguaggio esplicitamente violento;
• misto (hate speech + stereotipo) – contenuto che combina elementi di entrambe le categorie precedenti.

Parole chiave (Keywords): Il modello individua i termini o le espressioni specifiche che hanno determinato l’attribuzione della categoria. Questa variabile svolge una duplice funzione: da un lato documenta le unità lessicali più ricorrenti nel corpus ostile, dall’altro contribuisce allo sviluppo e all’aggiornamento di strumenti di rilevazione automatica del linguaggio dannoso per le edizioni future del progetto.

Spiegazione (Explanation): Fornisce una motivazione testuale della classificazione assegnata, ricostruendo il ragionamento che ha portato il modello a categorizzare il contenuto in un certo modo. Questa variabile migliora la trasparenza e la spiegabilità (“explainability”) del processo analitico, facilitando la revisione umana e la validazione dei risultati.

Target e intersezionalità (Target and Intersectionality): Identifica i gruppi sociali menzionati o coinvolti nel testo, con riferimento a categorie quali etnia, religione, genere, orientamento sessuale, disabilità e provenienza geografica. Grazie a un sistema di classificazione multi-etichetta, il modello può rilevare simultaneamente la presenza di più gruppi bersaglio, consentendo di analizzare i fenomeni di discriminazione intersezionale in cui più identità si sovrappongono.

Direzione (Direction): Indica se il contenuto è rivolto a un individuo specifico o a un gruppo in senso ampio. Questa distinzione è rilevante per valutare la potenziale gravità del messaggio: un attacco diretto a una persona ha implicazioni diverse rispetto a un’affermazione generalizzante su un’intera categoria sociale.

1.3 Riepilogo delle variabili introdotte

2. Analisi della disumanizzazione

Il secondo livello di analisi si concentra sui contenuti già classificati come hate speech nella fase precedente, con l’obiettivo di individuare meccanismi discorsivi più profondi riconducibili alla disumanizzazione. Questo livello rappresenta un approfondimento qualitativo che va oltre la semplice classificazione del linguaggio ostile, esplorando le strutture retoriche attraverso cui l’umanità degli individui viene negata o ridotta.

2.1 Definizione del fenomeno

La disumanizzazione consiste nella rappresentazione di individui o gruppi come privi di caratteristiche fondamentali dell’essere umano, quali dignità, razionalità, empatia, autonomia morale e individualità. Non si tratta semplicemente di insulti o espressioni aggressive, ma di un processo discorsivo sistematico che ridefinisce l’identità dell’altro in termini che ne negano l’appartenenza alla categoria “uomo”.

La letteratura scientifica di riferimento – che spazia dalla psicologia sociale alla linguistica critica, dalla criminologia ai diritti umani – evidenzia come tali rappresentazioni svolgano un ruolo strutturale nei processi di esclusione e violenza. La disumanizzazione può emergere attraverso diverse tipologie retoriche:

• animalistica – comparazione con animali selvatici, parassiti o bestie, evocando pericolosiïa, sporcizia o istintualità;
• demoniaca – associazione con figure del male, del soprannaturale o del demoniaco;
• biologica – metafore di malattia, contaminazione o infestazione parassitaria, che evocano un’idea di “infezione” sociale;
• meccanica – riduzione delle persone a oggetti tecnici, ingranaggi o macchine prive di sentimenti;
• oggettuale – trattamento delle persone come oggetti di uso, strumenti o merci;
• invisibilizzante – negazione dell’esistenza, dell’agentività o della visibilità sociale di individui o gruppi.

La letteratura scientifica evidenzia come tali rappresentazioni possano rafforzare pregiudizi e stereotipi preesistenti, alimentare processi di discriminazione sistemica e favorire l’esclusione sociale, fino a creare il substrato culturale che storicamente ha preceduto episodi di violenza collettiva. Per questo, il loro rilevamento e monitoraggio riveste un significato che va ben oltre la semplice analisi del linguaggio online.

2.2 Metodologia di analisi

Per ciascun contenuto classificato come hate speech, l’analisi del secondo livello produce tre output distinti:

• Presenza o assenza di disumanizzazione (classificazione binaria): un flag che indica se nel contenuto sono rilevabili meccanismi disumanizzanti.
• Identificazione delle parole chiave: le espressioni o costruzioni linguistiche specifiche che segnalano la presenza di disumanizzazione, con funzione analoga a quelle del Livello 1.
• Classificazione della tipologia di disumanizzazione: assegnazione a una o più delle categorie descritte nella sezione precedente, con possibilità di classificazione multi-etichetta per contenuti che combinano più strategie retoriche.

2.3 Tipologie di disumanizzazione monitorate

3. Analisi della completezza dei dati

Il terzo livello introduce una dimensione meta-analitica: una valutazione sistematica della completezza e della rappresentatività del dataset, con l’obiettivo di comprendere se i dati osservati riflettano adeguatamente la varietà e la diversità dei fenomeni analizzati. Questo livello risponde a una domanda fondamentale per qualsiasi progetto di monitoraggio: quanto ci stiamo perdendo?

3.1 Origine metodologica

L’analisi si basa su stimatori statistici originariamente sviluppati nell’ecologia per studiare la biodiversità delle specie animali e vegetali. Questi strumenti sono stati successivamente adattati al contesto dell’analisi dei dati nel machine learning, dove il problema della stima della diversità di categorie non osservate presenta analogie strutturali con quello ecologico.

L’approccio consente di stimare tre dimensioni chiave del dataset:

• grado di copertura del dataset: proporzione dei fenomeni esistenti che sono stati effettivamente osservati;
• diversità dei fenomeni osservati: varietà delle combinazioni di caratteristiche presenti nel campione raccolto;
• categorie che richiedono ulteriore raccolta dati: identificazione delle aree in cui il campionamento è insufficiente per rappresentare adeguatamente il fenomeno.

3.2 Definizione delle ‘specie’

In analogia con l’ecologia, dove una “specie” è definita da caratteristiche biologiche distinte, nel contesto del progetto una “specie” è definita come una combinazione unica di quattro variabili:

• categoria: la tipologia di contenuto ostile (es. hate speech contro una minoranza etnica, sessismo, omofobia, ecc.);
• sentiment: il tono emotivo del contenuto (es. rabbia, disprezzo, sarcasmo);
• regione: la provenienza geografica dell’autore del contenuto, laddove determinabile;
• tipo di linguaggio (LLM): la classificazione assegnata dal modello linguistico nel Livello 1.

Ogni combinazione unica di questi quattro valori costituisce una “specie”. Il numero totale di specie osservate nel dataset è confrontato con il numero totale stimato di specie esistenti nella popolazione, per calcolare il grado di completezza.

3.3 Stimatori statistici utilizzati

Gli stimatori statistici adottati sono Chao1 e ACE (Abundance-based Coverage Estimator), entrambi ampiamente validati nella letteratura ecologica e statistica:

• Chao1: stima il numero totale di specie in una popolazione basandosi sul numero di specie osservate una sola volta (“singletons”) e due volte (“doubletons”) nel campione. È particolarmente efficace quando molte specie sono rare o poco rappresentate.
• ACE: considera l’abbondanza relativa delle specie rare (osservate meno di 10 volte) per stimare il numero totale di specie, offrendo una stima generalmente più stabile rispetto a Chao1 in presenza di distribuzioni fortemente sbilanciate.

La completezza del dataset è definita formalmente come il rapporto tra il numero di specie osservate e il numero totale stimato di specie presenti nella popolazione. Un valore prossimo a 1 indica un dataset altamente rappresentativo; valori bassi segnalano la necessità di integrare la raccolta dati.

3.4 Utilità dell’analisi per la pianificazione futura

Questo approccio consente di valutare in modo rigoroso quanto il campione osservato rappresenti la diversità dei comportamenti linguistici presenti nel contesto sociale reale. In termini pratici, l’analisi della completezza fornisce indicazioni operative per:

• migliorare le strategie di raccolta dati nelle edizioni future, concentrando le risorse di monitoraggio sulle aree e le tipologie meno rappresentate;
• calibrare l’interpretazione dei risultati quantitativi, tenendo conto del grado di completezza del campione analizzato;
• pianificare eventuali campagne di raccolta dati mirata per colmare le lacune identificate.

L’integrazione di questo terzo livello di analisi rappresenta quindi non solo un contributo metodologico in senso stretto, ma un supporto concreto alla governance del progetto e alla programmazione delle attività future.

Conclusioni

Gli aggiornamenti metodologici introdotti nell’edizione 2025 del progetto “Mappa dell’Intolleranza” rappresentano un avanzamento significativo nella capacità di analizzare e comprendere il linguaggio ostile online. L’integrazione di strumenti basati su Large Language Models non sostituisce il giudizio degli esperti umani, ma lo potenzia, automatizzando le operazioni più meccaniche e liberando risorse per l’interpretazione critica dei risultati.

I tre livelli di analisi – rilevamento e arricchimento, analisi della disumanizzazione, valutazione della completezza – si combinano in un framework coerente e progressivo, che permette di passare dall’identificazione di base dei contenuti ostili a una comprensione strutturata dei meccanismi retorici sottostanti, fino a una valutazione critica della rappresentatività dei dati raccolti.

Questi strumenti saranno ulteriormente raffinati nelle edizioni future del progetto, integrando i feedback degli esperti e l’esperienza accumulata nell’applicazione su larga scala. L’obiettivo finale rimane quello del progetto nella sua interezza: contribuire a un monitoraggio sistematico, rigoroso e trasparente del fenomeno dell’intolleranza online in Italia, a supporto della ricerca accademica, del dibattito pubblico e delle politiche di contrasto al discorso d’odio.