Come si scoprono i gruppi nascosti nei dati multivariati?

Immagina di avere un enorme foglio di calcolo pieno di misure: altezza, peso, battito cardiaco, ore di sonno e così via, raccolte da centinaia di persone. In un mondo così vario, è difficile capire se tutti appartengono a un unico gruppo o se, in realtà, ci sono sottogruppi con caratteristiche simili. Questo è il problema dell'eterogeneità, cioè la presenza di “sottopopolazioni” diverse all'interno di un dataset.

Fino a poco tempo fa, la maggior parte dei metodi per scoprire questi gruppi funzionava solo quando la risposta era una sola variabile, per esempio solo il peso. Ma nella vita reale le risposte sono spesso molteplici: pensiamo a un medico che vuole prevedere sia la pressione sanguigna sia il colesterolo contemporaneamente. Qui entra in gioco la regressione multivariata, che studia più risposte insieme.

Il nuovo approccio proposto combina due idee: "heterogeneity learning" per trovare i sottogruppi e "reduced‑rank learning" per semplificare le relazioni tra variabili. In pratica, si impone un vincolo di rango basso alla matrice dei coefficienti, cioè si costringe il modello a usare solo poche combinazioni lineari dei dati. Inoltre, si usa una penalizzazione che “fonde” i coefficienti di osservazioni simili, creando così i gruppi senza sapere in anticipo chi appartiene a quale.

Per risolvere il problema, gli autori hanno sviluppato un algoritmo ADMM (Alternating Direction Method of Multipliers), una specie di ricetta iterativa che garantisce la convergenza verso la soluzione migliore. Hanno anche introdotto un criterio di informazione predittiva per scegliere il rango ottimale della matrice, supportato da dimostrazioni teoriche.

I test su dati simulati e su un caso reale mostrano che il metodo individua correttamente i gruppi e stima con precisione gli effetti delle variabili. In sostanza, ora possiamo analizzare dataset complessi, scoprire strutture nascoste e fare previsioni più affidabili, tutto in un unico passo.

Il modello proposto si basa su una regressione multivariata con risposta Y∈ℝ^{n×q} e covariate X∈ℝ^{n×p}. L’obiettivo è stimare la matrice di coefficienti B∈ℝ^{p×q} tenendo conto di due strutture: (i) la presenza di K sottogruppi non osservati, ciascuno con un proprio B_k, e (ii) la bassa dimensionalità intrinseca di B, cioè il suo rango r≪min(p,q). Si introduce una penalizzazione di fusione pairwise, ∑_{i<j} w_{ij}‖β_i−β_j‖_2, dove β_i è la riga i‑esima di B e i pesi w_{ij} sono scelti in base alla distanza tra le covariate. Questa penalizzazione incoraggia β_i e β_j a coincidere quando le osservazioni i e j appartengono allo stesso sottogruppo, portando alla formazione automatica dei gruppi.

Il vincolo di rango è implementato mediante una decomposizione B=UV^T con U∈ℝ^{p×r}, V∈ℝ^{q×r} e r fissato. Il problema di ottimizzazione diventa:
min_{U,V} ½‖Y−XUV^T‖_F^2 + λ∑_{i<j} w_{ij}‖U_iV^T−U_jV^T‖_2,
dove λ controlla la forza della fusione. L’algoritmo ADMM alterna aggiornamenti chiusi‑forma per U, V e per le variabili ausiliarie introdotte per gestire il termine di fusione, garantendo convergenza globale sotto condizioni di convexità parziale.

Per la selezione del rango r si propone il Predictive Information Criterion (PIC): PIC(r)=log(σ̂^2)+c·r·(p+q)/n, dove σ̂^2 è la varianza residua stimata e c è una costante di penalizzazione derivata da teoria di informazione. Il PIC bilancia la bontà di adattamento con la complessità del modello, evitando over‑fitting.

Le proprietà asintotiche dimostrano che, con n→∞ e condizioni di separabilità dei gruppi, gli stimatori (Û,V̂) sono consistenti e la stima dei gruppi converge al clustering vero con probabilità 1. Inoltre, la distribuzione asintotica dei coefficienti segue una normale multivariata centrata sui veri parametri, consentendo inferenze standard.

Applicazioni pratiche includono genomica (espressione genica multivariata), imaging medico (pixel intensità in più canali) e analisi di mercato (multiple metriche di consumo). In tutti questi casi, il metodo permette di ridurre la dimensionalità, migliorare l’interpretabilità e identificare segmenti di popolazione con comportamenti distinti, senza richiedere etichette di gruppo a priori.