Immagina un assistente AI che non si limita a rispondere, ma prenota voli, sposta soldi o scrive codice per tuo conto. Sembra fantascienza, ma gli "agenti LLM" stanno diventando realtà: modelli linguistici che usano tool esterni per agire nel mondo reale. Qui nasce il problema: la sicurezza informatica classica è nata per programmi rigidi, dove "se clicchi A succede B". Gli agenti LLM, invece, ragionano per probabilità e linguaggio naturale: "forse l'utente intendeva A, forse B".
Uno studio recente (arXiv:2512.06914) mette nero su bianco il rischio principale: un divario tra **fiducia** e **autorizzazione**. Tendiamo a fidarci dell'agente perché "capisce" il contesto, ma i suoi permessi (cosa può fare davvero) restano statici e spesso troppo larghi. È il principio del minimo privilegio violato dall'ambiguità del linguaggio.
I ricercatori hanno costruito un modello formale per misurare questo "Trust-Authorization Gap". Lo usano come lente per classificare attacchi noti — come le *prompt injection* che dirottano l'agente, o l'abuso di tool — e difese attuali, spesso scollegate tra loro. Il risultato? Una mappa unificata che mostra dove siamo scoperti: mancano meccanismi di autorizzazione dinamici che si adattino al contesto della conversazione, e modelli di fiducia calcolabili, non solo intuitivi.
La strada indicata è chiara: servono agenti "robusti" che sappiano dire "non ho capito, non agisco" e sistemi di permessi che si restringono o allargano in tempo reale, proprio come farebbe un umano prudente. La sicurezza dell'AI non è più solo codice, è gestione dell'incertezza.
