Chi vincerà la corsa all'AGI o finirà per autodistruggersi?

Nel mondo della tecnologia, la teoria delle opzioni reali dice che, quando l’incertezza è altissima, è meglio aspettare prima di investire. Eppure, nella gara per creare un'intelligenza artificiale generale (AGI), gli Stati Uniti e la Cina stanno accelerando gli investimenti, anche sapendo che un errore potrebbe essere catastrofico. Come spiegare questo comportamento? Un nuovo studio modella la corsa all'AGI come un gioco di preemption in tempo continuo, dove il rischio di rovina globale è legato alla velocità di sviluppo. In questo scenario, il costo di un fallimento non è più solo l’investimento già speso, ma un parametro di distruzione sistemica (D) che cresce con la rapidità della ricerca e colpisce tutti. Poiché il timore di catastrofe è presente in entrambi i giocatori, il termine di rischio si annulla nella condizione di equilibrio: le nazioni si trovano in una “zona suicida”, dove la pressione competitiva le spinge a lanciare l’AGI prima ancora che il valore attuale netto, corretto per il rischio, diventi positivo. Anche piccoli incidenti (i cosiddetti “warning shots”) non bastano a fermare la corsa, perché il premio è tutto o niente. L’unico modo per invertire la tendenza è far sì che il costo della rovina venga internalizzato, rendendo la ricerca sulla sicurezza un requisito economico. Gli autori propongono soglie di responsabilità privata e meccanismi di design per far tornare valore all’attesa e garantire uno sviluppo più sicuro dell’AGI.

Il modello proposto utilizza una formulazione di gioco di preemption in tempo continuo, dove due attori sovrani (USA e Cina) scelgono il tempo τ di attivazione dell'AGI. Il payoff di ciascun giocatore è dato da V_i(τ)=e^{-rτ}(B_i - I) - D·f(τ), con r tasso di sconto, B_i benefici attesi, I costo di investimento e D il danno sistemico. La funzione f(τ) rappresenta la probabilità di catastrofe, crescente con la velocità di sviluppo. Nella condizione di equilibrio di Nash, i giocatori sono indifferenti tra attendere o investire, portando a ∂V_i/∂τ=0. Poiché D·f(τ) appare in entrambi i payoff, il termine di rischio si annulla, lasciando una condizione di indifferenza identica a quella di un gioco senza rischio. Questo risultato genera la “zona suicida”: un intervallo di τ in cui, nonostante il valore atteso netto sia negativo, la pressione competitiva spinge all’attivazione precoce. Inoltre, il modello dimostra che segnali di avvertimento (piccole disastri) non modificano la soglia di τ, poiché la struttura vincitore‑prende‑tutto mantiene invariata la derivata marginale del payoff. Per rompere il meccanismo, è necessario introdurre un costo di rovina interno, ad esempio tramite una tassa di responsabilità privata D̂ ≥ D_c, dove D_c è la soglia critica calcolata risolvendo V_i(τ)=0 con D̂ inserito. Tale intervento riporta il valore dell'opzione di attesa a positivo, incentivando gli attori a investire prima nella ricerca di sicurezza prima di lanciare l'AGI. Il paper suggerisce inoltre meccanismi di design, come contratti di assicurazione globale e regole di governance multilaterale, per garantire che la sicurezza sia una condizione preliminare all’implementazione commerciale dell’AGI.