L’intelligenza artificiale come strategia per educare al rispetto e alla responsabilità.

Il caso di LLaMAntino

Abstract

I discorsi d’odio rappresentano una minaccia crescente per la coesione sociale e il benessere individuale. I loro effetti possono essere devastanti, soprattutto per i più giovani, incidendo negativamente sulla salute mentale e sullo sviluppo sociale. Social media e tecnologie possono esacerbare questi comportamenti, ma alcune “impronte digitali”, come le conversazioni testuali, possono essere sfruttate dai modelli di Intelligenza Artificiale e per rilevare questi comportamenti e prevenire la violenza. Dopo aver esplorato l’impatto dei discorsi d’odio sui giovani, l’articolo evidenzia quanto si sta elaborando nell’ambito del Progetto XXX, finanziato dal PNRR. Utilizzando il modello linguistico italiano della famiglia LLaMantino, i ricercatori stanno implementando uno strumento che spiega la presenza di elementi di tossicità nelle conversazioni tra adolescenti. L’obiettivo è quello di usare tale strumento anche per attivare processi educativi in virtù dei quali gli utilizzatori sono in grado di riconoscere elementi di odio nei messaggi ricevuti e, conseguentemente, a essere capaci di maggiore tolleranza e rispetto in contesti più inclusivi.