Perché le stime DML a volte sbagliano? Scopri il ruolo del numero di condizione

Il Double Machine Learning (DML) è una tecnica statistica che combina modelli di apprendimento automatico con inferenza econometrica. In teoria, dovrebbe fornire intervalli di confidenza affidabili anche quando le funzioni di disturbo sono complesse. Però, nella pratica, gli intervalli possono essere molto imprecisi se il “punteggio ortogonale” è mal condizionato.

Gli autori hanno introdotto un indice semplice, kappa_DML = 1/|J_theta|, che misura quanto è “ben posto” il problema. Se kappa_DML è piccolo (meno di 1), la stima è stabile e gli intervalli di confidenza coprono correttamente il valore vero. Se invece kappa_DML è grande, la varianza e il bias si gonfiano, portando a intervalli troppo stretti o a coperture molto basse, anche del 40% per un livello nominale del 95%.

Il risultato chiave è una formula non asintotica che lega l’errore di copertura a due termini: n^{-1/2} (la classica radice quadrata del campione) e sqrt(n)·r_n (l’errore di stima dei nuisance). Il numero di condizione amplifica entrambi. Gli esperimenti Monte Carlo mostrano tre regimi: ben condizionato, moderatamente mal condizionato e gravemente mal condizionato. Solo nel primo caso gli intervalli sono brevi e affidabili.

La proposta pratica è semplice: calcolare kappa_DML e riportarlo insieme ai risultati DML, proprio come si controlla il numero di condizione in algebra lineare o la forza degli strumenti in regressioni IV. Così, ricercatori e data scientist possono capire subito se le loro inferenze sono robuste o se rischiano di essere ingannevoli.

Nel modello di regressione parzialmente lineare (PLR) considerato, il parametro di interesse θ appare in una equazione di momento ortogonale: ψ(W;θ,η)= (Y‑Xθ‑g(Z))·(D‑m(Z)). Qui η raccoglie le funzioni di nuisance g e m, stimate con metodi flessibili (Lasso, Random Forest, Neural Nets). La matrice di informazione J_θ = ∂E[ψ]/∂θ è un valore scalare, la cui inversa assoluta definisce kappa_DML.

Il teorema di Berry‑Esseen non‑asintotico dimostra che la distanza di Kolmogorov tra la distribuzione del t‑statistico DML e la normale standard è limitata da C·(n^{-1/2}+√n·r_n). Il termine r_n è l’errore di stima combinato dei nuisance, tipicamente O_p(s_n·a_n) dove s_n è la sparsità e a_n la velocità di convergenza dei metodi di machine learning. Quando kappa_DML cresce, la varianza effettiva diventa kappa_DML^2·σ^2/n e il bias aggiuntivo è dell’ordine kappa_DML·r_n.

Questa dipendenza lineare porta a tre scenari: (i) kappa_DML = o_p(√n) e kappa_DML·r_n →0 garantiscono intervalli di lunghezza O_p(kappa_DML/√n) con copertura corretta; (ii) se kappa_DML è dell’ordine √n, la varianza è gonfiata e la copertura peggiora; (iii) per kappa_DML≫√n, il bias domina e gli intervalli diventano inutili.

Le simulazioni mostrano che, anche con learner di ultima generazione, la presenza di collinearità tra D e Z o di scarsa sovrapposizione (propensity score vicino a 0 o 1) aumenta drasticamente kappa_DML. In contesti ad alta dimensionalità (p>n), la regolarizzazione L1 o le foreste casuali possono ridurre r_n ma non influenzano direttamente kappa_DML, che dipende dalla geometria del design matrix.

Per implementare il diagnostic, basta calcolare J_θ̂ = (1/n)∑_i ∂ψ_i/∂θ̂ e prendere kappa_DML = 1/|J_θ̂|. Un valore soglia consigliato è 1: al di sopra, si consiglia di rivedere la specificazione del modello, aumentare la sovrapposizione o ridurre la dimensionalità. Questo approccio è analogo al controllo del numero di condizione in regressioni OLS o al test di weak instruments in IV, fornendo una misura interpretabile e computazionalmente leggera per valutare l’affidabilità delle inferenze DML.