Le informazioni dirette (directed information) sono uno strumento per capire chi influenza chi in due serie temporali. Quando i dati sono numeri reali, come le misurazioni di sensori o i segnali audio, la sfida è stimare questi valori con pochi campioni. Un nuovo studio ha affrontato il problema per sequenze di vettori Gaussiani, cioè insiemi di numeri che seguono una distribuzione a campana. Gli autori hanno derivato una formula chiara per il tasso di informazione diretta condizionata causalmente, basata sulla previsione ottimale: prevedere il prossimo valore usando tutti i dati passati. Da questa formula hanno costruito un estimatore pratico. Il risultato più sorprendente è che l’errore dell’estimatore diminuisce come N⁻¹ᐟ²·log(N), dove N è il numero totale di osservazioni. In parole semplici, raddoppiando i dati, l’errore si riduce di circa il 30 %, con un piccolo extra dovuto al logaritmo. Questo limite è “non asintotico”, cioè vale anche per campioni di dimensioni moderate, non solo all’infinito. La scoperta apre la porta a analisi più affidabili di causalità in campi come neuroscienze, finanza o climatologia, dove i dati sono spesso Gaussiani e le serie non sono infinite.
Il tasso di informazione diretta condizionata causalmente (CDI) per processi Gaussiani può essere espresso tramite la matrice di covarianza condizionata dei residui di predizione. In pratica, si costruisce il filtro di predizione lineare minimo (LMMSE) che minimizza l’errore quadratico medio tra il valore futuro e la sua stima basata sul passato. La matrice di errore di predizione Σ_e è data da Σ_X|Y = Σ_X - Σ_XY Σ_Y⁻¹ Σ_YX, dove Σ_X e Σ_Y sono le covarianze dei vettori X e Y, e Σ_XY la loro covarianza incrociata. Il CDI rate è quindi ½ log det(Σ_X|Y)⁻¹ Σ_X|Y, che coincide con la differenza di entropia differenziale tra il processo non condizionato e quello condizionato. L’estimatore proposto calcola queste matrici a partire da campioni finiti, usando stime non bias di covarianza e regolarizzazioni per garantire invertibilità. L’analisi di concentrazione delle matrici di covarianza mostra che, con alta probabilità, la deviazione fra la stima campionaria e la vera matrice è O(√(log N / N)). Inserendo questa deviazione nella formula del CDI, si ottiene l’errore complessivo O(N⁻¹ᐟ² log N). Questo risultato sfrutta tecniche di teoria delle matrici random e disuguaglianze di Bernstein per matrici, estendendo i classici limiti di Cramér‑Rao a contesti non asintotici. L’implicazione è che, anche con pochi centinaia di campioni, l’estimatore fornisce una valutazione affidabile della causalità, a patto che le ipotesi di Gaussianità e di stazionarietà debbano essere verificate empiricamente.
