Le raccomandazioni AI cambiano idea? Scopriamo il Cognitive Drift!

Immagina di aprire YouTube e vedere sempre più video su un argomento, anche se i tuoi gusti cambiano. Questo è il “cognitive drift”, cioè la tendenza degli algoritmi a spostare le raccomandazioni verso contenuti che non rispecchiano più le tue preferenze. Un gruppo di ricercatori ha creato un protocollo per individuare e monitorare questo fenomeno, chiamato Cognitive Drift Index (CDI). Il CDI misura tre aspetti: la coerenza dei contenuti, la varietà tematica e la velocità di cambiamento. Per capire come funziona, hanno testato il metodo con brevi video sulla salute. Usando un’analisi statistica chiamata ANOVA a minimi quadrati pesati, hanno verificato che il CDI è sensibile a piccoli spostamenti e riproducibile in diversi contesti. I risultati sono stati poi tradotti in “action bands”, cioè fasce di intervento che indicano se è necessario intervenire, modificare l’algoritmo o monitorare ulteriormente. Il protocollo è pensato per ricercatori di neuroscienze, ma può essere usato anche da team di intelligenza artificiale responsabile. Inoltre, gli autori suggeriscono di combinare il CDI con eye‑tracking o EEG per una validazione multimodale, cioè controllare anche come gli occhi e il cervello reagiscono alle raccomandazioni. In pratica, questo strumento aiuta a tenere sotto controllo le “scelte” delle AI, garantendo che rimangano utili e rispettose dei nostri interessi.

Il Cognitive Drift Index (CDI) è stato concepito come una metrica composita capace di quantificare la deviazione cognitiva introdotta da sistemi di raccomandazione basati su machine learning. La sua struttura a tre dimensioni – coerenza semantica (CS), diversità tematica (DT) e velocità di evoluzione (VE) – deriva da una revisione della letteratura su bias algoritmico e dinamiche di apprendimento online. La CS valuta la similarità tra i contenuti suggeriti e il profilo utente mediante embedding semantici (es. BERT), normalizzati su una scala 0‑1. La DT misura la distribuzione di categorie tematiche usando l’indice di Shannon, mentre la VE calcola la variazione temporale del punteggio CS mediante differenze finite su finestre di tempo scorrevoli. Il CDI è quindi definito come CDI = w1·CS + w2·DT + w3·VE, dove i pesi w1‑w3 sono calibrati tramite regressione ridge su dataset di benchmark contenenti annotazioni umane di drift. Per la validazione, è stato condotto un esperimento pilota su 500 video di salute, con un campione di 120 utenti. L’analisi ANOVA a minimi quadrati pesati ha mostrato che il CDI spiega il 68% della varianza nella percezione soggettiva di “cambiamento di interesse”. Inoltre, la mappatura in action bands (Low, Medium, High) è stata definita tramite soglie percentile (33° e 66°) sulla distribuzione del CDI, garantendo una risposta proporzionale: interventi di revisione del modello per band alta, monitoraggio periodico per band media e nessuna azione per band bassa. L’estensione multimodale prevede l’integrazione di segnali oculari (pupil dilation, fixation duration) e EEG (event‑related potentials) per arricchire la valutazione del drift cognitivo, fornendo una triangolazione dei dati comportamentali, fisiologici e algoritmici. Questo approccio consente di rilevare drift sub‑consci, migliorando la trasparenza e l’affidabilità dei sistemi di raccomandazione in ambiti sensibili come la salute, l’educazione e la finanza.