Come capire se una rete neurale segmenta bene le immagini mediche?

La segmentazione è il processo che permette di isolare organi, tessuti o lesioni in una scansione medica. Negli ultimi anni, le reti neurali profonde hanno raggiunto risultati sorprendenti, ma i medici chiedono ancora: "Perché il modello ha scelto proprio quelle aree?".

Un gruppo di ricercatori ha provato a rispondere usando i valori di Shapley, una tecnica che misura quanto ogni contrasto di risonanza magnetica (MRI) influisce sulla decisione del modello. In pratica, si “spegne” temporaneamente una sequenza di immagini e si osserva quanto peggiora la performance.

Con il dataset BraTS 2024, hanno confrontato quattro tipi di MRI (T1, T1‑c, T2, FLAIR) su quattro architetture di rete. Hanno creato due indicatori: 1) l’accordo tra la classifica dei contrasti data dal modello e quella proposta da un clinico, e 2) la varianza di queste classifiche tra diverse validazioni incrociate, che indica l’incertezza.

I risultati mostrano che i casi con Dice > 0.6 (una buona misura di accuratezza) hanno un alto accordo con i clinici, mentre una varianza elevata nei valori di Shapley è collegata a performance peggiori (ad esempio, per U‑Net, r = –0,58). In sostanza, questi metriche offrono un “termometro” di affidabilità che i medici possono leggere per capire se fidarsi o meno del risultato della rete.

Questa ricerca apre la strada a sistemi di intelligenza artificiale più trasparenti, dove le decisioni non sono solo accurate, ma anche spiegabili in termini clinici.

I valori di Shapley, originariamente sviluppati nella teoria dei giochi, attribuiscono a ciascuna caratteristica un contributo marginale medio, calcolato su tutte le possibili combinazioni di feature. Applicati alla segmentazione MRI, richiedono la generazione di molteplici perturbazioni dell’immagine: per ogni contrasto si sostituisce il valore originale con un valore di riferimento (ad esempio lo zero) e si ricalcola la loss di segmentazione. La differenza di loss rispetto al modello originale fornisce il valore di Shapley per quel contrasto.

Dal punto di vista computazionale, il calcolo esatto è proibitivo (2^N combinazioni per N contrasti). I ricercatori hanno quindi adottato una stima Monte‑Carlo, campionando un numero limitato di permutazioni. La varianza di questi valori su più fold di cross‑validation è stata poi interpretata come misura di incertezza: una varianza elevata indica che il modello dipende in modo instabile da un certo contrasto, suggerendo una possibile fragilità a variazioni di protocollo di acquisizione.

L’accordo con la classifica clinica è stato valutato tramite la correlazione di Spearman tra le posizioni dei contrasti nel ranking Shapley e quelle proposte da esperti radiologi. Un coefficiente di 0,8 o superiore è stato considerato indicativo di forte concordanza. Inoltre, è stata analizzata la relazione tra questi indicatori e la metrica Dice, evidenziando una correlazione negativa significativa tra varianza Shapley e performance (r = –0,58 per U‑Net).

Questi risultati suggeriscono che i valori di Shapley possono fungere da proxy interpretabile per la robustezza del modello, integrandosi con le pratiche cliniche senza richiedere ulteriori annotazioni o interventi invasivi. Futuri lavori potrebbero estendere l’approccio a modelli multimodali e a dataset con più variabili di contrasto, oltre a esplorare metodi di riduzione della varianza, come l’uso di ensemble di modelli o tecniche di regularizzazione specifiche per la stabilità delle feature importance.