Immagina di guidare un'auto super tecnologica dove l'intelligenza artificiale ti aiuta a frenare. Tutto sembra perfetto, finché l'auto decide di frenare e tu, confuso, premi l'acceleratore. Cosa è andato storto? Non è colpa solo del software, ma del modo in cui l'uomo e la macchina hanno interagito.
Molti esperti si stanno accorgendo che valutare la sicurezza dell'IA è un po' come guardare solo un pezzo di un puzzle gigante. Spesso ci concentriamo solo sul codice e sugli algoritmi, dimenticando che l'IA non vive in un vuoto. Lavora insieme a persone reali e all'interno di organizzazioni con regole e procedure precise. Questo insieme viene chiamato 'istema socio-tecnico'.
Un nuovo studio ha evidenziato che i metodi attuali per calcolare i rischi spesso ignorano proprio questo aspetto. Per risolvere il problema, i ricercatori hanno proposto una nuova variabile chiamata 'Allineamento Socio-Tecnico' (STA). Immaginala come un termometro che misura quanto l'IA, l'operatore umano e le regole aziendali siano 'intonizzati' tra loro. Se la sintonizzazione è bassa, il rischio di incidenti aumenta, anche se l'IA sembra perfetta.
Per testare questa idea, gli scienziati hanno analizzato un sistema complesso che gestisce l'idrogeno liquido. Hanno dimostrato che includere l'elemento umano e organizzativo nei calcoli rende la valutazione della sicurezza molto più precisa e affidabile. In pratica, per rendere l'IA sicura, dobbiamo smettere di guardare solo i chip e iniziare a guardare anche come noi interagiamo con essi.
