Come valutare dati per l'IA senza svelarli?

L’intelligenza artificiale cresce alla velocità della luce, ma c’è un ostacolo: i dati sono preziosi e, allo stesso tempo, devono restare segreti. È il classico dilemma “valore‑privacy”. Un acquirente vuole sapere se un dataset è utile, ma per capirlo dovrebbe guardarlo, rischiando di esporre informazioni sensibili.

Il Trustworthy Influence Protocol, o TIP, risolve il problema. Usa la crittografia omomorfica, che permette di fare calcoli su dati cifrati come se fossero in chiaro. Così, un venditore può inviare i suoi dati criptati e il compratore può valutare quanto questi migliorerebbero il suo modello di IA, senza mai decifrarli.

Il trucco sta nelle “funzioni di influenza” basate sui gradienti: misurano l’impatto di ogni punto dati sul modello. TIP combina queste funzioni con la crittografia omomorfica, ottenendo un punteggio “alla cieca” per ogni dato. Per i grandi modelli, come BERT o GPT‑2, il protocollo usa proiezioni a bassa dimensione dei gradienti, riducendo i tempi di calcolo ma mantenendo quasi la stessa precisione dei dati in chiaro.

I test mostrano che i punteggi ottenuti su dati criptati corrispondono molto a quelli reali, sia in ambito sanitario che nella generazione di testo. Inoltre, emerge che il valore dei dati è distribuito in modo molto sbilanciato: pochi testi portano la maggior parte del miglioramento, mentre la maggior parte è quasi neutra o addirittura dannosa. Questo mette in dubbio i modelli di pagamento a tariffa fissa, suggerendo un futuro in cui i dati vengono ricompensati in base al loro vero contributo.

In sintesi, TIP apre la strada a un mercato dei dati più sicuro e meritocratico, dove chi vende può dimostrare il valore senza perdere la privacy, e chi compra può investire con fiducia.

Il protocollo TIP si basa su due pilastri teorici: la crittografia omomorfica (HE) e le funzioni di influenza basate sui gradienti.

1. **Crittografia omomorfica**: HE consente operazioni aritmetiche (addizione, moltiplicazione) direttamente su ciphertexts. Le versioni più pratiche, come BFV o CKKS, supportano calcoli su numeri reali con controlli di rumore. In TIP, i dati di addestramento sono criptati con una chiave pubblica del compratore; il venditore non possiede la chiave privata, quindi non può decrittare.

2. **Funzioni di influenza**: Derivate dal lavoro di Koh & Liang (2017), queste funzioni stimano l’effetto di rimuovere o aggiungere un punto dati sul loss del modello. Formalmente, l’influenza di un punto \(z\) su un parametro \(\theta\) è \(\nabla_\theta L(z) \cdot H^{-1}_\theta \nabla_\theta L_{train}\), dove \(H\) è la matrice Hessiana. TIP calcola questi termini su dati criptati, sfruttando HE per mantenere la privacy.

3. **Proiezioni a bassa dimensione**: Per modelli di grandi dimensioni, calcolare l’intera Hessiana è proibitivo. TIP utilizza una decomposizione a rango ridotto (ad es. SVD) dei gradienti, mantenendo solo i primi k componenti che catturano la maggior parte della varianza. Questo riduce la complessità da \(O(d^2)\) a \(O(kd)\), dove \(d\) è il numero di parametri e \(k \ll d\).

4. **Correlazione con utility reale**: Gli esperimenti su dataset medici (es. MIMIC‑III) e corpora per LLM (OpenWebText) mostrano una correlazione Pearson > 0.92 tra i punteggi TIP e le metriche di performance (AUROC, perplexity). Questo indica che la valutazione “cieca” è quasi indistinguibile da quella tradizionale.

5. **Distribuzione del valore dei dati**: Analizzando la curva di Lorenz, si osserva che il 20% dei testi genera l'80% del miglioramento di capacità nei LLM, confermando una distribuzione di tipo Pareto. Tale evidenza supporta modelli di compensazione basati su token‑level contribution o su metriche di marginal utility.

6. **Sicurezza e limiti**: TIP è resistente a attacchi di inferenza finché la chiave privata rimane segreta. Tuttavia, la quantità di rumore introdotto da HE può degradare la precisione se i parametri di sicurezza sono troppo elevati; è necessario un bilanciamento tra privacy (bit di sicurezza) e accuratezza del punteggio. Inoltre, la scalabilità a modelli con miliardi di parametri richiede hardware specializzato (GPU/TPU con supporto HE).

In conclusione, TIP rappresenta un passo decisivo verso mercati dei dati trasparenti e sicuri, combinando avanzamenti crittografici e statistici per valutare il valore reale dei dati senza comprometterne la riservatezza.