Crescita esponenziale, intelligenza artificiale e il fallimento sistematico delle nostre previsioni

C’è un esperimento che faccio mentalmente ogni volta che devo spiegare qualcosa di difficile a me stesso – e sì, lo so che sembra strano, ma funziona. Si chiama stress test delle intuizioni: prendo un concetto che mi sembra ovvio e lo spingo fino ai limiti dove smette di esserlo. Ci sono concetti che reggono. E ci sono concetti che crollano al primo test serio. La nostra capacità di prevedere il futuro tecnologico appartiene alla seconda categoria.

Non è una questione di intelligenza. È una questione di architettura cognitiva. Il cervello umano è straordinariamente efficace in moltissimi domini, ma ha una debolezza strutturale documentata e misurabile: non è equipaggiato per elaborare la crescita esponenziale in modo intuitivo. Lo fa a livello analitico, certo; nessuno nega che sappiamo fare i calcoli. Ma nelle viscere, nel modo in cui formiamo le aspettative, nelle previsioni che facciamo senza accorgercene, siamo fondamentalmente macchine lineari che cercano di navigare un mondo che ha smesso di essere lineare.

Questo articolo parla di intelligenza artificiale. Ma il tema sottostante è un altro: parla di come falliamo sistematicamente nel prevedere il cambiamento, e di cosa succede quando il cambiamento accelera abbastanza da rendere quel fallimento non più innocuo.

Perché il Cervello Umano Non Capisce l’Esponenziale

Negli anni ’70, il matematico e informatico Vernor Vinge parlava già di una singolarità tecnologica, un punto oltre il quale il progresso tecnologico diventerebbe così rapido da sfuggire a qualsiasi previsione. All’epoca sembrava fantascienza. Oggi assomiglia sempre di più a una descrizione operativa della realtà.

Il problema fondamentale è neurobiologico prima che culturale. I sistemi di previsione del cervello sono stati plasmati da centinaia di migliaia di anni in cui il mondo cambiava lentamente, dove la varianza da un anno all’altro, o anche da una generazione all’altra, era limitata. In quel contesto, l’euristica “il futuro assomiglierà al passato” era non solo ragionevole ma quasi sempre corretta. Gli psicologi cognitivi la chiamano bias di normalità: la tendenza a sottostimare sistematicamente la probabilità di eventi inusuali e, soprattutto, la velocità con cui il cambiamento può avvenire.

La conseguenza pratica è che, quando affrontiamo curve di crescita esponenziale, le percepiamo come molto più piatte di quanto lo siano. Una curva esponenziale all’inizio è quasi indistinguibile da una linea retta. È solo nelle fasi tardive che esplode, in modo che ci sembri improvviso, ma non lo è. Era sempre lì. Stavamo semplicemente applicando il modello sbagliato.

In informatica, questo tipo di errore ha un nome preciso: sbagliare la classe di complessità di un algoritmo. Quando analizzi le prestazioni di un sistema e lo classifichi come O(n) (crescita lineare), ma in realtà cresce come O(2ⁿ), le tue previsioni sembrano ragionevoli finché n è piccolo. I numeri tornano, i test passano, tutto sembra sotto controllo. Poi, il sistema che stimavi richiedeva secondi; ne richiede miliardi. Hai sbagliato il modello e, con un modello errato, la precisione dei calcoli è irrilevante. È esattamente quello che facciamo con la crescita tecnologica: applichiamo un modello lineare a un fenomeno esponenziale, otteniamo previsioni che sembrano sensate nel breve periodo, e poi restiamo sistematicamente sorpresi quando la curva esplode.

Il Problema delle Previsioni: Quando gli Esperti Sbagliano

Uno degli aspetti più rivelatori di questo fenomeno è osservare come cambiano le previsioni di chi lavora dentro al problema. Non i commentatori, non i giornalisti, non i filosofi, ma le persone che scrivono il codice, progettano le architetture, addestrano i modelli.

Nel gennaio 2024, Katja Grace e colleghi hanno pubblicato su arXiv i risultati del più grande sondaggio mai condotto sul tema: 2.778 ricercatori che avevano pubblicato nelle principali conferenze di intelligenza artificiale sono stati interpellati sulle loro previsioni. Il dato più significativo non era il numero assoluto delle stime, bensì la variazione rispetto all’anno precedente.

La stima mediana che le macchine superino gli esseri umani in ogni possibile compito ha raggiunto il 50% di probabilità entro il 2047, tredici anni prima rispetto a una stima analoga condotta solo un anno prima.

– Grace et al., arXiv:2401.02843, 2024

Tredici anni in meno in dodici mesi. Non stiamo parlando di previsori inesperti che aggiornano le loro aspettative sulla base di notizie di giornale. Stiamo parlando degli ingegneri e dei ricercatori che progettano e costruiscono questi sistemi. Il loro stesso modello previsionale non stava tenendo il passo con ciò che le loro mani producevano.

Questo è epistemicamente devastante, nel senso più tecnico del termine. Se chi ha accesso privilegiato al processo, chi vede i benchmark interni, chi conosce le architetture prima che vengano pubblicate, chi misura i progressi su scale temporali di settimane, sistematicamente sottostima la velocità del cambiamento, cosa dobbiamo aspettarci dall’osservatore esterno?

La risposta ovvia è che l’osservatore esterno sottostima ancora di più. E che le politiche, le istituzioni e le aspettative individuali che si basano su quelle stime sono calibrate su un futuro che non arriverà nei tempi previsti.

Il Caso Hinton: Come si Aggiorna un’Intuizione da Cinquant’Anni

Geoffrey Hinton rappresenta un caso di studio che trovo particolarmente istruttivo, non per i dettagli biografici, ampiamente noti dopo il Premio Nobel per la Fisica 2024, condiviso con John Hopfield “per le scoperte fondamentali che rendono possibile il machine learning con reti neurali artificiali”, ma per la struttura del suo processo di aggiornamento epistemico.

Per decenni, Hinton aveva collocato l’orizzonte di un’IA veramente generale a trent’anni, quaranta, cinquanta anni di distanza. Era una stima confortante perché, apparentemente, basata su una conoscenza approfondita del problema. Era anche sistematicamente errata. Non perché Hinton fosse negligente o disonesto, anzi. Era errata perché anche il cervello di uno dei massimi esperti mondiali di reti neurali elaborava la crescita esponenziale applicando inconsciamente aspettative lineari.

Nel maggio del 2023, Hinton si è dimesso da Google, dove aveva diviso il suo tempo tra il team di ricerca e l’Università di Toronto per quasi un decennio, citando esplicitamente la necessità di poter parlare liberamente dei rischi di ciò che aveva contribuito a creare. Non era una mossa simbolica. Era il segnale che qualcosa nella sua valutazione del problema era cambiato in modo strutturale, non marginale.

La cosa che Hinton ha enfatizzato con più forza nelle sue uscite pubbliche post-Google riguarda un aspetto dell’intelligenza artificiale che viene sistematicamente sottovalutato nel dibattito popolare: la modalità di condivisione della conoscenza. Un modello che impara qualcosa, qualsiasi cosa, lo sa istantaneamente in tutte le sue istanze, senza degradazione né il filtro lossy che caratterizza ogni comunicazione umana. Non è una differenza di grado rispetto al modo in cui gli esseri umani si trasmettono la conoscenza. È una differenza di natura.

La diffusione della conoscenza umana è sempre stata il collo di bottiglia principale della crescita intellettuale collettiva. I libri, le università, internet: tutti strumenti per ridurre la frizione nel trasferimento di informazione, senza però eliminarla mai del tutto. Ogni passaggio introduce rumore, distorsione, perdita di sfumatura. Con i sistemi AI, quel collo di bottiglia sparisce. E le implicazioni di questo, sulla velocità con cui un sistema può migliorarsi, sulla capacità di accumulare e integrare conoscenza in modo coerente, sono difficili da esagerare.

Situational Awareness: Il Documento che Pochi Hanno Letto e Tutti Citano

Nel giugno 2024, Leopold Aschenbrenner, allora ex ricercatore del team Superalignment di OpenAI, licenziato per circostanze che lui stesso contesta, ha pubblicato un documento di 165 pagine intitolato “Situational Awareness: The Decade Ahead”. È diventato rapidamente uno dei testi più discussi nell’ecosistema AI, per ragioni che vanno al di là del suo contenuto specifico.

L’argomento centrale si basa su una semplice operazione: prendere le traiettorie di crescita della potenza di calcolo disponibile per addestrare modelli AI, misurate in ordini di grandezza per anno, e proiettarle in avanti con rigore. Il risultato è che la capacità computazionale disponibile per addestrare sistemi AI entro il 2027 dovrebbe essere di diversi ordini di grandezza superiore a quella necessaria per produrre GPT-4. E GPT-4, partendo da GPT-2, aveva già compiuto un salto qualitativo che molti esperti non si aspettavano.

Non sono necessarie credenze esoteriche, è sufficiente estrapolazione lineare su scale logaritmiche per prendere in modo molto serio, la possibilità di AGI entro il 2027.

– Leopold Aschenbrenner, Situational Awareness, 2024

Due anni dopo la pubblicazione, una valutazione sistematica delle previsioni di Aschenbrenner mostra che le sue proiezioni sullo sviluppo tecnologico si sono rivelate complessivamente accurate nelle direzioni principali; la timeline AGI 2027 rimane ovviamente aperta, mentre alcune stime economiche specifiche si sono rivelate ottimistiche. Ma la direzione delle sue frecce era corretta. Questo è già molto.

La cosa più interessante del documento di Aschenbrenner non è però la previsione sull’AGI in sé. È la sezione dedicata a ciò che si chiama “intelligence explosion“: il momento in cui un sistema AI diventa abbastanza capace da accelerare in modo significativo la propria ricerca di miglioramento. A quel punto, il progresso smette di essere lineare nel tempo. Le curve che già ci sfuggono di mano diventano verticali.

Questo è un argomento di teoria dei sistemi. Qualsiasi sistema con un loop di feedback positivo, in cui l’output aumenta la capacità di generare output, tende a crescere in modo superlineare. La domanda non è se questo accadrà con i sistemi di IA. È quando e a quale velocità.

Il Mercato come Termometro: il «Claude Crash» del Febbraio 2026

I mercati finanziari sono strumenti rumorosi e inefficienti per molte cose. Ma hanno una qualità che li rende utili come indicatori: aggregano le aspettative di milioni di agenti economici, ciascuno con incentivi reali a non sbagliare. Quando si muovono in modo drastico su un settore specifico, vale la pena chiedersi perché.

Nel febbraio 2026, il lancio di Claude Cowork, uno strumento di Anthropic che porta le capacità agentiche dei modelli AI direttamente nei flussi di lavoro aziendali, ha innescato quello che gli analisti hanno già soprannominato il “Claude Crash”: un selloff da oltre 830 miliardi di dollari dai titoli del software enterprise. Oracle, Salesforce, Adobe, Workday, ServiceNow, SAP: tutti in caduta. Il JPMorgan index per i titoli software statunitensi ha perso il 7% in un singolo giorno, accumulando perdite del 18% nell’anno in corso.

La logica di mercato è brutalmente semplice. Il modello di business SaaS tradizionale si basa su licenze per utente: più lavoratori, più licenze, più ricavi. È un modello perfettamente progettato per un mondo in cui gli esseri umani sono l’unica unità di lavoro disponibile. In un mondo dove un sistema AI può gestire flussi di lavoro complessi: ricerca finanziaria, analisi documentale, coordinamento di progetti, pagando una singola chiamata API invece di cinquanta licenze, quel modello si sgonfia.

Ciò che ha spinto gli investitori non era la paura che l’AI rimpiazzasse il software. Era la comprensione che l’AI rende il software standard arbitrariamente sostituibile. La differenza è sottile ma cruciale. Un sistema che si può programmare in modo specifico per il tuo caso d’uso, che non richiede interfacce progettate per l’utente umano, che scala orizzontalmente senza costi marginali per licenza: questo non compete con Salesforce sul piano delle funzionalità. Lo rende irrilevante come categoria.

La Matematica che si Riscrive: AI e Ricerca Scientifica Autonoma

C’è un tipo di prova che trovo più convincente di qualsiasi previsione: ciò che è già accaduto. I fatti consumati non hanno margini di incertezza.

Nell’estate 2025, Gemini Deep Think, il sistema di ragionamento avanzato di Google DeepMind, ha ottenuto la medaglia d’oro alle Olimpiadi Internazionali della Matematica, risolvendo cinque dei sei problemi nel limite di tempo ufficiale di 4,5 ore, operando interamente in linguaggio naturale senza necessità di traduzione in sistemi di dimostrazione formale. L’anno precedente, i sistemi di DeepMind avevano raggiunto il livello argento, ma richiedevano assistenza umana significativa. Il salto da un anno all’altro non era marginale.

Ma il dato più rilevante per il mio ragionamento non viene dalle olimpiadi matematiche, per quanto straordinario sia. Viene da un paper del marzo 2026, firmato da ricercatori di Google e Harvard, che documenta come un sistema neuro-simbolico basato su Gemini Deep Think abbia risolto autonomamente un problema aperto in fisica teorica: il calcolo dello spettro di potenza della radiazione gravitazionale emessa da stringhe cosmiche. Un problema su cui i fisici lavoravano da anni, con tentativi parziali che avevano prodotto solo soluzioni asintotiche approssimate. Il sistema ha identificato sei metodi analitici distinti, uno dei quali basato sull’espansione in polinomi di Gegenbauer; che i ricercatori umani descrivono come il più elegante tra le soluzioni prodotte.

Parallelamente, AlphaEvolve, un altro sistema di Google, è stato applicato a oltre cinquanta problemi aperti in analisi matematica, geometria, combinatoria e teoria dei numeri, migliorando le migliori soluzioni note nel 20% dei casi. Ha anche proposto un nuovo metodo di moltiplicazione matriciale più efficiente di quelli noti, un problema con implicazioni dirette sulle prestazioni di qualsiasi sistema computazionale.

Queste non sono dimostrazioni che l’AI sia meglio degli esseri umani in senso generale. Sono dimostrazioni che l’AI può già contribuire in modo autonomo e non banale alla frontiera della ricerca scientifica. E che lo sta facendo, in questo momento, su problemi reali.

Il punto che mi preoccupa di più, razionalmente, non emotivamente, è la ricorsività di questo processo. Un sistema abbastanza capace da fare ricerca sull’AI, da proporre miglioramenti architetturali, da ottimizzare algoritmi di addestramento, inizia a partecipare alla propria evoluzione. A quel punto il progresso smette di dipendere solo dalle risorse computazionali disponibili all’esterno. Dipende anche, e in modo crescente, dall’intelligenza del sistema stesso. È un loop di feedback positivo. In teoria dei sistemi, sappiamo già come si comportano.

L’Obiezione Legittima: Cosa Stiamo Davvero Perdendo

Ci sono obiezioni a questo quadro che prendo sul serio, non perché indeboliscano l’analisi tecnica, ma perché toccano qualcosa di reale che l’analisi tecnica non cattura completamente.

La preoccupazione più profonda non è economica. Non è nemmeno esistenziale nel senso letterale del termine. È una preoccupazione sulla tessitura dell’esperienza umana: sul valore del processo lento, del prodotto imperfetto fatto da mani umane, della relazione che non è mediata da un algoritmo. Queste cose hanno un valore che non è riducibile a una funzione di utilità.

Capisco quella preoccupazione perché la condivido in parte. Ma pongo anche questa domanda: se esistesse una tecnologia che permettesse di diagnosticare malattie rare anni prima che diventino letali, con un tasso di accuratezza superiore ai migliori specialisti umani, sarebbe eticamente difendibile non usarla per preservare il primato della diagnosi umana? Se fosse possibile offrire un percorso educativo personalizzato a ogni bambino del pianeta, inclusi i centinaia di milioni che oggi non hanno accesso a nessun insegnante qualificato, il “non è naturale” sarebbe una risposta sufficiente?

Non sto costruendo un argomento per l’accettazione acritica di qualsiasi sviluppo tecnologico. Sto costruendo un argomento per la necessità di fare scelte consapevoli. Il punto non è se l’AI arriverà; arriverà, indipendentemente dalle nostre preferenze individuali. Il punto è chi sarà nella stanza quando le decisioni cruciali vengono prese. E quante persone avranno gli strumenti concettuali per partecipare a quella conversazione in modo produttivo.

L’intelligenza artificiale sarà probabilmente la cosa migliore o la peggiore che sia mai capitata all’umanità. C’è quindi un enorme valore nel farla bene.

– Stephen Hawking

Il fatto che non abbiamo tempo illimitato per decidere non è un argomento per la fretta. È un argomento contro la procrastinazione. Sono cose diverse.

Consapevolezza Situazionale come Competenza Fondamentale

Il termine situational awareness, consapevolezza situazionale, viene dall’aviazione e dall’addestramento militare. Indica la capacità di mantenere in ogni momento un modello aggiornato di ciò che sta accadendo, di cosa sta per accadere, e di come le proprie azioni si inseriscono in quel contesto. Non è la stessa cosa della conoscenza tecnica. Un pilota può non sapere nulla di aerodinamica e avere eccellente situational awareness. Un ingegnere può conoscere ogni componente dell’aereo e perdere completamente il contesto operativo.

Trovo questo frame particolarmente utile per pensare a come ci relazioniamo con lo sviluppo dell’AI. Non stiamo tutti diventando ingegneri di machine learning. Non è necessario, né auspicabile. Ma la domanda “dove siamo, dove stiamo andando, e a che velocità” riguarda tutti. E la risposta onesta, nel 2026, è che la velocità è superiore a quella che la maggior parte delle istituzioni, delle aziende, degli individui sta prezzando nel proprio modello mentale.

L’aggiornamento che serve non è tecnico. È calibrativo. È riconoscere che la funzione che stiamo usando per proiettare il futuro: lineare, stabile, rassicurante, è la funzione sbagliata. E che applicare la funzione sbagliata produce non solo previsioni errate, ma decisioni errate basate su quelle previsioni.

Le stime dei ricercatori si sono accorciate di tredici anni in dodici mesi. Il padre intellettuale delle reti neurali si è dimesso da Google per poter parlare liberamente dei rischi. Centinaia di miliardi di dollari si sono spostati dal software tradizionale in pochi giorni. Un sistema ha risolto autonomamente problemi di fisica teorica che erano rimasti aperti per anni.

Nessuno di questi fatti riguarda il futuro. Riguardano tutti il presente. Il futuro arriverà prima di quanto ci aspettiamo. Questo, storicamente, è sempre stato vero. Ma storicamente non aveva mai avuto conseguenze di questa portata.

Fonti e Riferimenti

[1] Grace, K. et al. (2024). Thousands of AI Authors on the Future of AI. arXiv:2401.02843. https://arxiv.org/abs/2401.02843

[2] AI Impacts Blog (2024). 2023 AI Survey of 2778 – Six Things. https://blog.aiimpacts.org/p/2023-ai-survey-of-2778-six-things

[3] 80,000 Hours (2026). Shrinking AGI timelines: a review of expert forecasts. https://80000hours.org/2025/03/when-do-experts-expect-agi-to-arrive/

[4] The Nobel Prize (2024). Geoffrey Hinton – Facts. https://www.nobelprize.org/prizes/physics/2024/hinton/facts/

[5] Physics World (2024). John Hopfield and Geoffrey Hinton share the 2024 Nobel Prize for Physics. https://physicsworld.com/a/john-hopfield-and-geoffrey-hinton-share-the-2024-nobel-prize-for-physics/

[6] Al Jazeera (2024). AI scientists John Hopfield, Geoffrey Hinton win 2024 physics Nobel Prize. https://www.aljazeera.com/news/2024/10/8/john-hopfield-and-geoffrey-hinton-win-nobel-prize-in-physics-2024

[7] Aschenbrenner, L. (2024). Situational Awareness: The Decade Ahead. https://situational-awareness.ai/

[8] Wikipedia (2025). Leopold Aschenbrenner. https://en.wikipedia.org/wiki/Leopold_Aschenbrenner

[9] EA Forum (2026). How did Leopold do? Evaluating Situational Awareness’s predictions. https://forum.effectivealtruism.org/posts/RuwF8FCfpsLeZRgur/how-did-leopold-do-evaluating-situational-awareness-s

[10] Fortune (2026). Anthropic’s Claude triggered a trillion-dollar selloff. https://fortune.com/2026/02/06/anthropic-claude-opus-4-6-stock-selloff-new-upgrade/

[11] Trending Topics EU (2026). Claude Cowork Triggers Tech Stock Selloff. https://www.trendingtopics.eu/claude-cowork-triggers-tech-stock-selloff-as-ai-threatens-saas-business-models/

[12] StockCharts (2026). The Claude Crash: How AI Triggered a Historic Selloff in Software Stocks. https://articles.stockcharts.com/article/the-claude-crash-how-ai-triggered-a-historic-selloff-in-software-stocks/

[13] Google DeepMind (2026). Accelerating Mathematical and Scientific Discovery with Gemini Deep Think. https://deepmind.google/blog/accelerating-mathematical-and-scientific-discovery-with-gemini-deep-think/

[14] Google Blog (2025). AI for Math Initiative. https://blog.google/technology/google-deepmind/ai-for-math/

[15] Brenner, M.P. et al. (2026). Solving an Open Problem in Theoretical Physics using AI-Assisted Discovery. arXiv. https://arxiv.org/pdf/2603.04735

[16] Ansari, O. (2026). Situational Awareness, Two Years Later. Medium. https://medium.com/data-science-collective/situational-awareness-two-years-later-4b941d052ef9