Robot che parlano meno tra loro ma imparano meglio: il segreto è nella compressione

Immagina mille robot che devono risolvere un problema insieme, ma possono comunicare solo con messaggi brevissimi. Come fanno a coordinarsi? Un nuovo studio mostra che la risposta sta nella compressione dei dati e in un trucchetto chiamato momentum.

I ricercatori hanno sviluppato un algoritmo speciale per l'ottimizzazione distribuita, ovvero quando molti agenti (potrebbero essere droni, sensori o dispositivi smart) lavorano insieme senza un capo che li guida. Il problema? Inviare messaggi tra dispositivi consuma tanta energia e rallenta tutto.

La soluzione si chiama compressione: invece di mandare numeri lunghissimi, ogni robot invia solo una versione semplificata, come riassumere un tema da mille parole in tre frasi. Ma c'è un rischio: così facendo si perde precisione e il gruppo potrebbe sbagliare direzione.

Qui entra in gioco il momentum, una tecnica già usata nell'apprendimento automatico. Pensatelo come la memoria muscolare: se negli ultimi passi siete andati sempre a destra, è probabile che la direzione giusta sia ancora lì. L'algoritmo usa questa "memoria" per compensare gli errori della compressione.

I test dimostrano che il sistema funziona: i robot raggiungono la soluzione migliore anche con messaggi compressi al minimo, risparmiando energia e tempo. Un passo avanti per le reti di oggetti connessi, dalle smart city ai droni di consegna.

L'algoritmo sviluppato appartiene alla classe dei metodi zero-order, che non richiedono il calcolo esatto del gradiente della funzione obiettivo. Questo è cruciale quando il gradiente non è disponibile in forma analitica, come accade in scenari con funzioni "black-box" o quando si effettua ottimizzazione basata su simulazioni.

La compressione implementata è di tipo stocastico: invece di inviare valori esatti, ogni agente quantizza i propri aggiornamenti in un insieme finito di livelli. Questa operazione introduce un errore di quantizzazione che, se non gestito, può compromettere la convergenza.

Il momentum impiegato è di tipo heavy-ball, che combina l'aggiornamento corrente con una frazione del gradiente precedente. Matematicamente, la direzione di discesa diventa una media pesata dei gradienti passati, dove il peso della memoria diminuisce esponenzialmente.

I risultati teorici dimostrano due regimi di convergenza: con passi decrescenti si raggiunge esattamente il punto stazionario; con passi fissi si ottiene una convergenza sublineare verso un intorno del punto stazionario, la cui ampiezza dipende dal livello di compressione. Questo significa che esiste un trade-off tra comunicazione e accuratezza, quantificabile matematicamente.

Le applicazioni pratiche includono l'addestramento distribuito di reti neurali su dispositivi edge, il controllo coordinato di sciami di droni e l'ottimizzazione di reti di sensori wireless con banda limitata.