Come i modelli di diffusione possono spiegare e fermare gli attacchi informatici?

I sistemi di rilevamento delle intrusioni (NIDS) usano reti neurali profonde per individuare attacchi informatici. Però, questi modelli sono spesso delle “scatole nere”: danno un risultato, ma non spiegano il perché. Senza trasparenza, è difficile reagire in tempo e mettere in atto contromisure efficaci.

La ricerca descritta in questo studio propone una soluzione innovativa: spiegazioni controfattuali basate su modelli di diffusione tabulari. In pratica, il metodo genera versioni alternative dei dati di rete che avrebbero portato a una classificazione diversa, indicando così quali caratteristiche hanno spinto il modello a segnalare un attacco.

I ricercatori hanno testato il loro algoritmo su tre dataset moderni di intrusioni, confrontandolo con altri metodi di spiegazione controfattuale. I risultati mostrano che il nuovo approccio produce spiegazioni più plausibili, più varie e in meno tempo. Inoltre, le spiegazioni possono essere sintetizzate in regole globali: un insieme di “se‑allora” che filtra rapidamente le richieste sospette. Queste regole trasformano le spiegazioni tecniche in azioni concrete per difendere la rete.

Il codice è stato rilasciato su GitHub, invitando la comunità a sperimentare e migliorare la trasparenza dei NIDS. In futuro, queste tecniche potrebbero rendere le difese informatiche più intelligenti e reattive, riducendo il divario tra rilevamento e risposta.

I modelli di diffusione, originariamente sviluppati per la generazione di immagini, sono stati adattati a dati tabulari mediante un processo di forward‑reverse. In fase forward, i dati originali vengono gradualmente perturbati aggiungendo rumore gaussiano; nella fase reverse, un modello neurale appreso ricostruisce i dati passo dopo passo, guidato da una condizione target (ad esempio, la classe "non attacco"). Per generare controfattuali, si parte da un campione attaccato e si guida la diffusione inversa verso lo spazio delle osservazioni classificate come "normali", mantenendo al contempo vincoli di plausibilità (ad esempio, valori entro range realistici).

Il vantaggio rispetto a metodi basati su gradienti è la capacità di esplorare percorsi non lineari nel manifold dei dati, evitando soluzioni artefatte o fuori distribuzione. Inoltre, la diversità delle spiegazioni è garantita dalla natura stocastica del rumore introdotto, che produce molteplici traiettorie di ricostruzione.

Nel contesto dei NIDS, le regole globali estratte dalle controfattuali possono essere formalizzate mediante algoritmi di apprendimento di regole (ad esempio, RIPPER o CART). Queste regole sintetizzano le feature più influenti (come porte, protocolli o flag TCP) in condizioni logiche facilmente implementabili nei firewall o nei sistemi di prevenzione delle intrusioni (IPS). La valutazione su dataset come CIC‑IDS2017, UNSW‑NB15 e NSL‑KDD ha mostrato una riduzione del 30‑40% del tempo medio di generazione rispetto a metodi basati su GAN o VAE, mantenendo un tasso di accuratezza delle spiegazioni superiore al 85%.

Infine, la pubblicazione del codice su GitHub, con licenza MIT, favorisce la replicabilità e l’estensione del framework, consentendo a ricercatori e professionisti di integrare le spiegazioni controfattuali nei loro pipeline di sicurezza operativa.