Come si può distinguere davvero interpretabilità ed esplicabilità nell'IA?

Nel mondo dell’intelligenza artificiale (IA) due parole suonano spesso come gemelle: interpretabilità ed esplicabilità. Ma cosa significano davvero? Interpretabilità è la capacità di capire, “a occhio nudo”, come un modello prende decisioni. Un albero decisionale o una regressione logistica, per esempio, mostrano direttamente le regole che usano. Esplicabilità, invece, è il “racconto” che un algoritmo più complesso (come una foresta casuale o una rete neurale) può fornire dopo il fatto, usando tecniche post‑hoc.

Un gruppo di ricercatori ha proposto una nuova classificazione per mettere ordine in questo campo. Partendo dalla distinzione formale di Dib, hanno creato tre assi di valutazione:
1. **Intrinseco vs. estrinseco** – il modello è già interpretabile o richiede un metodo aggiuntivo?
2. **Specifico vs. agnostico** – la tecnica è pensata per un tipo di modello o funziona su tutti?
3. **Locale vs. globale** – spiega una singola previsione o l’intero comportamento del modello?

Questa griglia a tre dimensioni supera le vecchie classificazioni a due facce, offrendo una mappa più completa. Per dimostrarlo, gli autori hanno analizzato il famoso dataset sul cancro al seno. Hanno confrontato modelli intrinsecamente interpretabili (regressione logistica, albero decisionale) con metodi post‑hoc come TreeInterpreter per le foreste casuali e LIME, applicato anche ai modelli già chiari per testarne la robustezza.

Il risultato? Una panoramica più chiara su quale strumento scegliere a seconda del contesto, rendendo l’IA più trasparente e affidabile. Un passo importante verso sistemi intelligenti che non solo funzionano, ma che possiamo anche spiegare.

La distinzione formale tra interpretabilità ed esplicabilità è stata introdotta da Dib (2020) mediante una definizione basata su due proprietà: (i) la **trasparenza strutturale**, ovvero la possibilità di leggere direttamente i parametri del modello (peso, soglia, regola), e (ii) la **generazione di spiegazioni post‑hoc**, che richiedono un algoritmo ausiliario per mappare l’input nello spazio delle feature di importanza.

Nel contesto della classificazione proposta, l’asse **intrinseco‑estrinseco** corrisponde a una differenziazione ontologica: i modelli intrinsecamente interpretabili (es. regressione lineare, alberi di decisione) hanno una funzione di decisione f(x) esplicita e decomponibile, mentre i modelli estrinseci (es. reti neurali profonde) necessitano di funzioni di spiegazione g(x) che approssimano localmente f(x).

L’asse **specifico‑agnostico** richiama la teoria della **model‑agnostic explainability**, dove metodi come LIME (Ribeiro et al., 2016) e SHAP (Lundberg & Lee, 2017) costruiscono un modello surrogate lineare locale intorno a un punto di interesse, indipendentemente dalla struttura originale. Al contrario, tecniche specifiche (es. visualizzazioni di attivazioni per CNN) sfruttano la conoscenza interna del modello.

Infine, l’asse **locale‑globale** si collega al concetto di **fidelity**: le spiegazioni locali massimizzano la fedeltà intorno a un singolo campione, mentre le spiegazioni globali cercano di preservare la struttura complessiva del modello, spesso a costo di una minore precisione locale.

L’esperimento sul dataset Breast Cancer (Wisconsin Diagnostic) ha mostrato che, sebbene i modelli intrinseci forniscano già una buona interpretabilità, l’applicazione di LIME su di essi evidenzia la **robustezza** delle spiegazioni: le feature più influenti rimangono costanti tra le due analisi, confermando la coerenza delle metriche di importanza (Gini, coefficiente log‑odds). Questo risultato supporta l’idea che le tecniche post‑hoc possano fungere da “audit” indipendente, utile per verificare bias o errori di implementazione anche in modelli teoricamente trasparenti.