Per anni la parola d’ordine dell’Intelligenza Artificiale è stata una sola: accelerare.

Modelli più grandi, più intelligenti, più autonomi. Investimenti miliardari, data center sempre più potenti e una competizione globale nella quale ogni nuovo benchmark sembrava destinato a essere superato nel giro di poche settimane.

Ora qualcosa sta cambiando.

Non siamo davanti allo “spegnimento” dell’Intelligenza Artificiale e nemmeno alla fine della corsa tecnologica. Ma il clima intorno all’AI è profondamente diverso rispetto a quello di appena pochi anni fa.

Il dibattito si sta spostando dalla domanda “quanto può diventare potente?” a una molto più scomoda:

“Saremo ancora in grado di controllarla?”

A rendere questa svolta particolarmente significativa è il fatto che a chiedere prudenza non siano più soltanto accademici, associazioni o regolatori. Oggi sono alcuni degli stessi protagonisti della corsa all’AI a parlare apertamente della necessità di rallentare.

Perché cresce la richiesta di frenare

Le preoccupazioni che stanno emergendo possono essere ricondotte a quattro grandi questioni.

1. Il problema del controllo

I sistemi di frontiera stanno diventando sempre più capaci di pianificare azioni, utilizzare strumenti digitali, scrivere software e operare con livelli crescenti di autonomia.

Il problema non è semplicemente che l’AI “diventi intelligente”. Il problema è capire se saremo sempre in grado di prevederne il comportamento e limitarne le azioni.

È su questo punto che si concentra una parte crescente della ricerca sull’AI alignment, cioè sul tentativo di fare in modo che sistemi sempre più potenti continuino ad agire secondo obiettivi compatibili con quelli stabiliti dagli esseri umani.

Negli ultimi mesi questo dibattito si è intensificato anche all’interno dell’industria. Dario Amodei, CEO di Anthropic, ha chiesto esplicitamente di “dosare” l’avanzamento dei sistemi di frontiera, proponendo valutatori indipendenti con accesso permanente ai modelli e una maggiore cooperazione internazionale sui limiti di sicurezza.

L’idea di fondo è semplice: la capacità dei sistemi non dovrebbe crescere più velocemente della nostra capacità di controllarli.

2. Deepfake e disinformazione industrializzata

Una seconda emergenza riguarda l’informazione.

Generare una fotografia falsa credibile, clonare una voce o produrre un video artificiale è diventato estremamente semplice. Il passo successivo è ancora più delicato: automatizzare la produzione e la distribuzione di questi contenuti su enorme scala.

Il rischio non riguarda soltanto le fake news.

Riguarda la possibilità di creare un ambiente informativo nel quale diventa progressivamente difficile capire che cosa sia autentico e che cosa non lo sia.

Ed è probabilmente questo il danno più profondo: non necessariamente convincere tutti di una falsità, ma far sì che nessuno sia più sicuro della verità.

L’Europa ha iniziato ad affrontare direttamente questo problema con l’AI Act.

Dal 2 agosto 2026 sono applicabili importanti obblighi di trasparenza previsti dall’articolo 50: tra le altre cose, i deepfake devono essere dichiarati come contenuti artificialmente generati o manipolati e i fornitori devono prevedere marcature leggibili dalle macchine per determinati contenuti generati dall’AI. Sono inoltre previste regole specifiche per testi destinati a informare il pubblico su temi di interesse pubblico, con alcune eccezioni quando esistono revisione umana e responsabilità editoriale.

Non significa quindi che ogni immagine o ogni frase prodotta con ChatGPT debba automaticamente essere accompagnata da una gigantesca etichetta “creata dall’AI”.

Ma il principio politico è ormai chiarissimo:

chi riceve un contenuto sintetico deve poterlo riconoscere.

3. Lavoro, creatività e proprietà intellettuale

La terza questione è economica.

Grafici, traduttori, sviluppatori, giornalisti, copywriter, fotografi e professionisti creativi stanno sperimentando direttamente l’effetto dell’automazione generativa.

Il problema non è semplicemente stabilire quanti posti di lavoro l’AI sostituirà.

Probabilmente alcuni scompariranno, altri cambieranno e altri ancora nasceranno.

La domanda più complessa riguarda invece come verrà distribuito il valore economico generato dall’automazione.

A questo si aggiunge il gigantesco contenzioso sulla proprietà intellettuale: libri, immagini, articoli, fotografie, codice software e altri contenuti disponibili online sono diventati materia prima per l’addestramento dei modelli.

Autori, editori e piattaforme chiedono da tempo regole più chiare su consenso, remunerazione e possibilità di esclusione.

È una delle ragioni per cui la discussione sull’AI non è più soltanto tecnologica. Sta diventando una discussione su lavoro, potere economico e distribuzione della ricchezza.

4. L’AI è ormai geopolitica

C’è infine una quarta dimensione: quella strategica.

I modelli più avanzati dipendono da chip sofisticati, enormi quantità di energia, infrastrutture cloud e talenti altamente specializzati.

Per questo l’Intelligenza Artificiale viene trattata sempre più spesso come una tecnologia di interesse nazionale, al pari dei semiconduttori, dell’energia o delle tecnologie militari.

La competizione tra Stati Uniti e Cina ha trasformato GPU, data center e modelli di frontiera in strumenti geopolitici.

Ed è qui che nasce il paradosso più difficile da risolvere.

Molti ricercatori vorrebbero rallentare per aumentare la sicurezza.

Ma nessuna grande potenza vuole rallentare da sola, per paura che lo faccia soltanto mentre i concorrenti continuano ad avanzare.

È esattamente il dilemma che rende una possibile governance globale dell’AI così complicata.

Quando sono i CEO dell’AI a chiedere di frenare

Il segnale più sorprendente è arrivato proprio dall’interno della Silicon Valley.

Dario Amodei: “dobbiamo rallentare”

Dario Amodei, CEO e cofondatore di Anthropic, è diventato uno dei principali promotori di una nuova linea di prudenza.

La sua proposta non consiste semplicemente nel “fermare l’AI”.

Amodei propone piuttosto di rallentare l’avanzamento dei sistemi più potenti abbastanza da permettere agli strumenti di sicurezza e alle istituzioni di recuperare terreno.

Tra le proposte c’è l’introduzione di valutatori esterni permanenti all’interno dei laboratori, con accesso sufficientemente profondo ai sistemi da poter verificare realmente le loro capacità.

Il piano prevede poi una maggiore collaborazione tra i principali laboratori e, nel passaggio più difficile, accordi internazionali capaci di coinvolgere anche potenze come Cina e Russia.

È un passaggio storico soprattutto perché proviene dal CEO di una delle aziende che stanno costruendo direttamente i sistemi più avanzati.

Sam Altman: OpenAI si schiera con la prudenza

Ancora più significativo è stato il sostegno arrivato da Sam Altman.

Il CEO di OpenAI ha appoggiato pubblicamente la necessità di rafforzare i meccanismi di sicurezza e, secondo quanto riportato il 13 settembre, ha confermato che OpenAI non procederà con una quotazione in Borsa nel 2026, collegando anche la decisione alle preoccupazioni relative alla fase attuale dello sviluppo dell’AI.

È una posizione particolarmente rilevante perché OpenAI rimane uno dei protagonisti principali della corsa ai modelli di frontiera.

Quando chi compete per costruire i sistemi più potenti comincia contemporaneamente a chiedere più controlli, significa che il problema della sicurezza non può più essere liquidato come semplice tecnofobia.

Elon Musk: un’insolita convergenza

Anche Elon Musk si è schierato a favore della linea di Amodei.

È una convergenza politicamente interessante.

Musk e Altman sono rivali da anni e xAI compete direttamente con OpenAI e Anthropic attraverso i propri modelli.

Eppure, sulla necessità di affrontare seriamente i rischi dei sistemi più avanzati, le posizioni si sono improvvisamente avvicinate.

Quando concorrenti così aggressivi iniziano a condividere almeno parte della diagnosi, il segnale merita attenzione.

Google continua invece a premere sull’acceleratore

Questo non significa però che tutta l’industria stia fermandosi.

Anzi.

Google continua a mostrare numeri impressionanti.

Nel secondo trimestre del 2026 i ricavi di Google Cloud sono cresciuti dell’82% su base annua, raggiungendo circa 24,8 miliardi di dollari.

Ancora più impressionante è la quantità di calcolo AI che sta attraversando le infrastrutture dell’azienda.

Google ha dichiarato che i propri modelli elaborano ormai oltre 3,2 quadrilioni di token al mese attraverso i suoi servizi, rispetto ai 9,7 trilioni di due anni prima.

È una fotografia efficace di ciò che sta accadendo.

Da una parte aumenta la richiesta di sicurezza.

Dall’altra l’utilizzo dell’AI continua a crescere a una velocità impressionante.

Ed è proprio questa tensione tra accelerazione commerciale e cautela tecnologica a caratterizzare la nuova fase.

Arriva anche la Pro-Human AI Declaration

Il movimento non riguarda soltanto le aziende.

Nel 2026 è stata presentata anche la Pro-Human AI Declaration, un documento che riunisce organizzazioni e personalità provenienti da mondi differenti attorno a un principio molto semplice:

l’Intelligenza Artificiale deve essere al servizio dell’essere umano e non il contrario.

La dichiarazione chiede, tra le altre cose, che gli esseri umani mantengano il controllo dei sistemi, che venga evitata un’eccessiva concentrazione di potere e che i sistemi altamente autonomi siano sottoposti a supervisione indipendente.

Particolare attenzione viene riservata anche al lavoro e al rischio che l’automazione venga considerata inevitabile senza prima discutere chi ne sopporterà i costi e chi ne raccoglierà i benefici.

È interessante perché dimostra come il dibattito stia uscendo dai laboratori di informatica.

L’AI sta diventando contemporaneamente un tema economico, sociale, culturale e politico.

Trump sceglie la strada opposta

Non tutti, naturalmente, condividono questa impostazione.

Donald Trump continua a interpretare l’Intelligenza Artificiale soprattutto attraverso la lente della competizione strategica con la Cina.

Il presidente americano ha minimizzato la necessità di un forte rallentamento, sostenendo che gli Stati Uniti non possono permettersi di perdere il proprio vantaggio tecnologico nei confronti di Pechino.

Ed è probabilmente questo il punto sul quale si giocherà una parte importante della politica tecnologica dei prossimi anni.

Da una parte:

“Dobbiamo rallentare perché i sistemi stanno diventando troppo potenti.”

Dall’altra:

“Non possiamo rallentare perché qualcun altro continuerà a correre.”

Entrambe le posizioni contengono un problema reale.

Non è la fine dell’AI. È la fine del Far West

Interpretare tutto questo come l’inizio di una guerra contro l’Intelligenza Artificiale sarebbe un errore.

Nessuno dei grandi protagonisti tecnologici sembra intenzionato ad abbandonare l’AI.

Gli investimenti continuano.

I data center continuano a crescere.

La ricerca continua.

I modelli continuano a migliorare.

Quello che probabilmente sta finendo è qualcos’altro:

l’idea che l’Intelligenza Artificiale possa continuare a svilupparsi senza regole, controlli e responsabilità proporzionati alla sua potenza.

Per anni abbiamo vissuto una sorta di Far West tecnologico nel quale la capacità di costruire qualcosa sembrava sufficiente a giustificarne immediatamente la diffusione.

Oggi quella convinzione comincia a vacillare.

La vera sfida non sarà decidere se sviluppare o meno l’Intelligenza Artificiale.

Sarà capire come continuare a svilupparla senza perdere il controllo del processo.

Perché la domanda decisiva dei prossimi anni potrebbe non essere più:

“Quanto diventerà intelligente l’AI?”

Potrebbe essere:

“Quanto saremo intelligenti noi nel governarla?”