Le AI generative capiscono davvero la sicurezza?

Le intelligenze artificiali come ChatGPT stanno entrando in cantieri, fabbriche e uffici. Sono veloci, rispondono a domande e aiutano a pianificare lavori. Ma il loro cervello digitale è diverso dal nostro. Gli scienziati hanno studiato quattro meccanismi chiave dei modelli Transformer: la trasformazione dei dati in numeri (vectorization), il modo in cui segnano la posizione delle parole (positional encoding), il calcolo dell'attenzione (attention scoring) e l'ottimizzazione dei risultati (optimization functions). Hanno confrontato questi meccanismi con il modo in cui gli esseri umani ragionano. Per testare la differenza, hanno chiesto a un'AI di dare consigli per evitare cadute in cantiere. Poi hanno misurato quanto le risposte dell'AI fossero vicine a quelle di un esperto umano, usando la similarità coseno e le mappe di attenzione. Hanno trovato sei “distanze architetturali”: differenze nella focalizzazione, nel significato delle parole e nella stabilità delle risposte. Queste discrepanze possono creare fraintendimenti in situazioni pericolose, dove la fiducia è fondamentale. Gli autori suggeriscono di progettare nuove architetture che imitino meglio la cognizione umana, così da ridurre i rischi e rendere le AI più affidabili nei contesti di sicurezza.

Il modello Transformer elabora il testo trasformandolo in vettori di alta dimensione, un processo chiamato vectorization. Questi vettori rappresentano parole o token in uno spazio numerico dove la distanza euclidea riflette la similarità semantica. Il positional encoding aggiunge informazioni sulla posizione sequenziale dei token, usando funzioni sinusoidali o apprendimento parametrico, per consentire al modello di distinguere “prima” da “dopo”. L’attenzione (attention scoring) calcola, per ogni token, un peso relativo verso tutti gli altri token, creando una matrice di attenzione che indica a quali parti del contesto il modello presta più attenzione. L’ottimizzazione (optimization functions) utilizza gradienti e funzioni di perdita, tipicamente cross‑entropy, per aggiornare i pesi durante l’addestramento. Per valutare la divergenza cognitiva, gli autori hanno impiegato la similarità coseno tra i vettori di risposta AI e quelli di esperti umani, ottenendo valori medi inferiori a 0,7, indice di discrepanze semantiche. Inoltre, hanno analizzato le mappe di attenzione: in scenari di sicurezza, l’AI tende a focalizzarsi su termini tecnici ma ignora contesti ambientali critici, come la presenza di ostacoli o condizioni meteo avverse. Le sei distanze architetturali identificate includono: (1) mismatch di focus semantico, (2) perdita di contesto spaziale, (3) instabilità delle risposte a variazioni minime di input, (4) bias verso dati di addestramento più frequenti, (5) limitata capacità di ragionamento causale, (6) difficoltà nel gestire incertezza. Queste lacune suggeriscono la necessità di ibridare i Transformer con moduli di ragionamento simbolico o reti neurali ispirate alla cognizione umana, per migliorare l’allineamento tra AI e decisioni di sicurezza.