Hai paura che la tua IA nasconda un segreto? Ecco uno scudo per i modelli linguistici

I modelli linguistici pre-addestrati (PLM) sono potenti, ma possono nascondere backdoor nascoste che compromettono i dati e le decisioni. Patronus è un nuovo sistema di difesa che protegge questi modelli scoprendo i trigger nascosti prima che possano causare danni. A differenza dei metodi precedenti, che controllavano solo i risultati, Patronus sfrutta l'invarianza dei trigger rispetto ai cambiamenti dei parametri del modello durante il fine-tuning. Utilizza una ricerca contrastiva multi-trigger per trovare i segnali nascosti in modo efficiente, combinando l'ottimizzazione basata sul gradiente con l'apprendimento contrastivo. Inoltre, Patronus adotta una strategia di mitigazione a due fasi: monitoraggio in tempo reale degli input e purificazione del modello tramite addestramento avversario. Gli esperimenti su 15 PLM e 10 attività mostrano che Patronus rileva oltre il 98,7% dei backdoor e riduce i tassi di attacco a livelli quasi nulli, superando di gran lunga i metodi precedenti. Con il codice disponibile pubblicamente, Patronus rende più sicuro l'ecosistema dell'intelligenza artificiale per tutti.

Patronus affronta il problema delle backdoor trasferibili, un rischio critico nella catena di fornitura dei PLM. Il punto debole identificato è che il fine-tuning su compiti a valle altera inevitabilmente i parametri del modello, rendendo le difese basate sulla rilevazione di anomalie nello spazio delle caratteristiche di output inefficaci. Il framework proposto introduce un approccio di invarianza lato input, sfruttando il fatto che i trigger rimangono coerenti nonostante i cambiamenti dei parametri. Per superare le difficoltà di ottimizzazione discreta del testo, Patronus implementa un algoritmo di ricerca contrastiva multi-trigger che combina l'ottimizzazione basata sul gradiente con obiettivi di apprendimento contrastivo, consentendo una ricerca efficiente nello spazio dei trigger. La strategia di mitigazione a due fasi comprende un monitoraggio continuo degli input per rilevare comportamenti sospetti e una purificazione del modello tramite addestramento avversario, che rimuove gradualmente le influenze dannose incorporate. Gli esperimenti estesi su 15 diversi PLM e 10 compiti diversificati dimostrano che Patronus raggiunge un richiamo di rilevamento ≥98,7% e riduce i tassi di successo degli attacchi a livelli paragonabili a quelli di un modello pulito, superando significativamente tutti i baseline esistenti. Questo lavoro apre nuove direzioni per la ricerca sulla sicurezza dei PLM, ponendo l'accento sulla necessità di soluzioni di difesa robuste e adattive che funzionino in ambienti dinamici e in evoluzione.