Perché l'IA vede tutto "neutro"? Il mistero del bias nelle recensioni d'albergo

Immagina di chiedere a tre amici di leggere la stessa recensione di un hotel e di dirti se il cliente è contento, arrabbiato o indifferente. Probabilmente sareste d'accordo quasi sempre. Ma se al posto degli amici metti tre versioni di ChatGPT? Le cose cambiano, e non poco.

Uno studio recente ha messo alla prova GPT-3.5, GPT-4 e GPT-4-mini usando il dataset HRAST: oltre 23.000 frasi reali scritte da viaggiatori veri e 2.000 frasi sintetiche create proprio dall'IA. L'obiettivo? Capire se le macchine sanno "leggere tra le righe" come un umano.

Risultato: tra di loro le IA vanno d'amor e d'accordo, soprattutto sui testi artificiali. Ma quando confrontiamo le loro etichette con quelle di un esperto umano, l'accordo scende a "moderato" o "scarso", specialmente sui sentimenti e sugli aspetti specifici (pulizia, colazione, wifi).

Il difetto principale? Una forte "tendenza alla neutralità". Di fronte a frasi ambigue, i modelli scelgono spesso "neutro" per non sbagliare, come uno studente che risponde "non so" all'interrogazione. Non solo: il modo in cui poni la domanda cambia tutto. Se guidi l'IA passo passo (prompting one-to-one) funziona meglio che se le dai in pasto mille recensioni insieme (batch).

Gli autori hanno battezzato tre "vizi" dell'IA: ripetitività, comportamento rigido e, appunto, neutralità eccessiva. Una lezione preziosa: se usiamo questi modelli per analizzare feedback reali o generare dati sintetici, dobbiamo conoscere i loro punti ciechi. L'IA non è un giudice imparziale, ma uno specchio che deforma leggermente la realtà.

Lo studio, pubblicato sulla rivista *AI* (Vol. 6, pag. 178), utilizza l'accordo inter-valutatore (Inter-Annotator Agreement, IAA) come metrica proxy per quantificare il bias di annotazione. Il dataset HRAST (Hotel Review Annotated Sentences) contiene annotazioni su tre dimensioni: sentiment (positivo/negativo/neutro), topic (es. camera, staff, posizione) e aspect-based sentiment analysis (ABSA).

I risultati mostrano coefficienti di Fleiss' Kappa e Krippendorff's Alpha elevati tra i tre LLM (spesso > 0.8 su dati sintetici), indicando alta consistenza interna. Tuttavia, l'accordo con l'annotatore umano crolla su sentiment (Kappa ~0.4-0.5) e ABSA, configurandosi come "moderato" secondo la scala di Landis & Koch.

L'analisi qualitativa rivela il "neutrality bias": i modelli assegnano la classe "neutro" con frequenza significativamente superiore all'umano, specialmente in frasi con polarità mista o ironia. Il "repetition bias" emerge nella tendenza a replicare pattern lessicali visti durante l'addestramento o nel contesto immediato. Il "behavioral bias" si manifesta come rigidità nell'aderire a schemi di annotazione appresi tramite RLHF, ignorando sfumature contestuali.

Crucialmente, la modalità di prompting incide pesantemente: il prompting manuale, iterativo e one-to-one produce allineamento umano-IA superiore rispetto al prompting automatizzato batch (zero-shot/few-shot su larga scala). Questo suggerisce che l'interazione uomo-macchina nel loop di annotazione non è sostituibile dalla semplice scalabilità computazionale. Implicazioni: i dataset sintetici generati da LLM ereditano questi bias sistematici, rischiando di amplificarli nei cicli di addestramento successivi (model collapse). Per la ricerca in digital marketing e NLP, serve cautela nell'uso di LLM come "oracoli" di ground truth.