Si rischia davvero che l’AI prenda il controllo?

Qualcosa non torna!

Negli ultimi giorni i media hanno rilanciato con insistenza un allarme che arriva dal cuore stesso dell’industria dell’intelligenza artificiale. Vale la pena ricostruire i fatti con ordine, prima di provare a capire cosa ci sia davvero dietro.

Cosa è successo

Il 12 settembre 2026 Dario Amodei, CEO di Anthropic, ha pubblicato un lungo post — We must pace the frontier — in cui invita l’intero settore a rallentare il ritmo con cui vengono potenziate le capacità dei modelli di intelligenza artificiale, per non farsi trovare impreparati di fronte a rischi che definisce catastrofici. Il giorno successivo, il 13 settembre, Amodei ha ribadito il concetto in un’intervista alla CBS, ammettendo che il settore ha per troppo tempo minimizzato pubblicamente i rischi legati a questa tecnologia, pur invitando a non farsi prendere dal panico. Ha aggiunto, in modo diretto, che senza adeguate misure di sicurezza l’AI potrebbe arrivare a controllare Internet nel giro di sei mesi.

Le sue parole arrivano dopo che un ex ricercatore di Anthropic, Jacob Coxon, ha pubblicato su X considerazioni interne al settore sul rischio che i sistemi di AI imparino a migliorarsi in autonomia, mentre un collega, Evan Hubinger, ha stimato in un dieci per cento la probabilità che scenari estremi si realizzino entro il prossimo decennio. Sam Altman (OpenAI) ha risposto chiedendo al Congresso americano una regolamentazione condivisa; Elon Musk ha dato ragione ad Amodei; Demis Hassabis (Google DeepMind) ha definito corretta la strada indicata da Anthropic. Nel frattempo, sono emersi anche i primi incidenti concreti: sia OpenAI sia Anthropic hanno ammesso violazioni di sistemi (tra cui la piattaforma Hugging Face) generate autonomamente da propri modelli.

Amodei propone di introdurre “valutatori integrati” – soggetti terzi e indipendenti che verifichino il rispetto degli standard di sicurezza, un po’ come un ispettore alimentare – e chiede un intervento legislativo federale negli Stati Uniti, dove al momento esiste solo una proposta bipartisan (la cosiddetta “AI Kill Switch Bill”) per introdurre un interruttore di sicurezza in caso di sistemi fuori controllo. Il presidente Trump ha però liquidato l’allarme come frutto di “forze negative”, mentre alla Cina, impegnata a promuovere un modello di AI open source in sede BRICS, viene indicato come argine il controllo sull’export di chip avanzati.

Un problema noto da tempo, non una scoperta dell’ultima ora

Va detto con chiarezza: il cosiddetto “problema del controllo” non nasce oggi.

Amodei stesso lo aveva già messo nero su bianco nel suo saggio The Adolescence of Technology, pubblicato a gennaio 2026; non si tratta di un’emergenza improvvisa, ma di un tema che la letteratura scientifica discute da anni, ben prima che questi sistemi diventassero prodotti di massa a disposizione di chiunque; chi sviluppa questi modelli lo sa, e lo sapeva prima ancora di costruirli.

La domanda corretta, dunque, non è se l’intelligenza artificiale possa, sul piano tecnico, sfuggire al controllo (la risposta è sì, soprattutto quando le vengono attribuiti permessi eccessivamente ampi senza prevedere checkpoint umani realmente vincolanti) ma è un’altra: chi ha tradotto una consapevolezza ormai consolidata in vincoli tecnici realmente efficaci? E chi, invece, continua a distribuire agenti dotati di ampi margini operativi senza predisporre adeguati meccanismi di controllo?

Non è, insomma, un problema di “intelligenza artificiale cattiva” ma un problema di responsabilità lungo tutta la catena: chi sviluppa il sistema, chi lo distribuisce, chi lo implementa senza verificare con attenzione i permessi che sta concedendo.

Non a caso il legislatore europeo aveva già anticipato questa esigenza: l’articolo 14 dell’AI Act impone una sorveglianza umana effettiva sui sistemi ad alto rischio, l’articolo 15 richiede robustezza tecnica e resilienza rispetto a manipolazioni esterne. Si tratta di obblighi pienamente applicabili dal 2027-2028 – termini nel frattempo posticipati dal recente Digital Omnibus – ma il principio di fondo, “nessuna autonomia senza controllo verificabile”, è già oggi il criterio corretto con cui valutare qualsiasi sistema agentico messo in produzione.

C’è però un secondo anello della catena che si tende a dimenticare: chi questi sistemi li utilizza concretamente, ogni giorno.

Concedere permessi senza sapere davvero cosa si sta autorizzando, collegare un agente di AI alla propria posta elettronica, al cloud o ai file senza comprendere il perimetro di accesso che gli si sta affidando: sono comportamenti che non creano il rischio di cui parla Amodei, ma lo alimentano dal basso; in questo campo la competenza non è un lusso riservato agli addetti ai lavori: è la prima forma di controllo che ciascuno di noi non solo può ma deve esercitare, ancora prima che intervenga la norma.

Dalla teoria alla cronaca: il drone che ha scelto da solo chi colpire

A dimostrare che questi ragionamenti non appartengono soltanto alla teoria è un episodio riportato da Rainews.it nell’agosto 2026.

Il servizio, che riprende un’inchiesta del New York Times, ricostruisce la morte di Tetiana Bubynets, studentessa universitaria di diciannove anni, e di altre due persone, colpite a Zaporizhzhia, nel sud-est dell’Ucraina, dall’impatto di un piccolo drone russo contro una stazione di servizio.

Il dettaglio che rende il fatto diverso da migliaia di altri episodi bellici è che, per quanto ricostruito da esperti di droni, comandanti ucraini e dalla squadra forense che ha esaminato i rottami, quelle tre persone sarebbero le prime vittime accertate di un drone che ha selezionato autonomamente il proprio bersaglio, senza alcun pilota umano a confermare l’obiettivo nel momento decisivo.

Secondo la ricostruzione, il velivolo – identificato come modello Molniya – era stato indirizzato verso l’area della stazione di servizio, ma è stato il software di bordo a individuare, una volta in prossimità del luogo, il bersaglio specifico da colpire, verosimilmente i serbatoi di propano, sulla base di un addestramento digitale mirato a riconoscere determinate strutture. All’interno dei droni sono stati trovati minicomputer commerciali Nvidia della famiglia Jetson; l’assenza totale di antenne, che aveva insospettito la difesa aerea ucraina, ha poi trovato conferma nell’analisi forense: nessun comando a distanza, sistema interamente autonomo. È una differenza sostanziale rispetto ai droni già utilizzati da entrambi gli schieramenti, dove l’intelligenza artificiale interviene solo nell’“ultimo miglio”, dopo che un operatore umano ha già selezionato e agganciato il bersaglio.

L’articolo coglie bene il punto delicato della vicenda: escludere l’uomo dalla fase decisionale conclusiva rende imprevedibili sia le scelte della macchina sia i possibili danni collaterali; ma, come viene opportunamente precisato, il drone non “decide di uccidere” nel senso in cui lo farebbe un essere umano, perché non possiede intenzioni né una nozione del valore della vita. Il problema, semmai, è che un sistema costruito dall’uomo può ricevere l’autorizzazione a compiere scelte operative con conseguenze letali senza una verifica umana immediata.

È un episodio che, a ben vedere, conferma esattamente il ragionamento svolto in precedenza a proposito della responsabilità lungo la filiera. Per quanto il racconto giornalistico parli di un drone che “sceglie” il bersaglio, quella scelta resta il prodotto di un algoritmo addestrato da esseri umani a riconoscere e colpire determinate categorie di obiettivi: l’autonomia della macchina, in altre parole, è autonomia delegata, non autonomia originata. Non siamo di fronte a una macchina che si ribella al proprio creatore – lo scenario reso celebre dal film Il mondo dei robot (Westworld, 1973, scritto e diretto da Michael Crichton) – ma a una macchina che esegue, con precisione anche letale, esattamente ciò che è stata istruita a fare da chi ha progettato l’algoritmo e da chi ha deciso di impiegarlo su un campo di battaglia senza un controllo umano sull’ultima fase della decisione. Il caso di Zaporizhzhia, insomma, non racconta una AI che sfugge al controllo umano: racconta un controllo umano che, a monte, ha scelto di non esserci più al momento in cui contava di più.

Il vero motivo dell’allarme? Forse è scritto nei “bilanci”

C’è però un elemento che raramente viene messo in relazione con questi allarmi, e che merita attenzione: i numeri economici dell’industria che li lancia.

Anthropic, secondo le stime circolate nel 2026 (fonti come The Information, Lambda Finance e ValueAddVC), è passata da circa 9 miliardi di dollari di ricavi annualizzati a fine 2025 a oltre 30 miliardi ad aprile 2026, fino a circa 65 miliardi a luglio dello stesso anno; una crescita impressionante, a fronte però di una spesa per la potenza di calcolo – cioè training e inferenza dei modelli – stimata tra i 15 e i 19 miliardi di dollari l’anno, con proiezioni di perdita che, a seconda della fonte, oscillano tra i 2 e i 14 miliardi di dollari. A questo si aggiunge un impegno verso Amazon e Google, per infrastrutture cloud, pari a circa 80 miliardi di dollari da onorare entro il 2029.

Il quadro complessivo del settore è ancora più marcato.

OpenAI, a fronte di ricavi annualizzati intorno ai 24 miliardi di dollari, avrebbe speso circa 121 miliardi in potenza di calcolo nel 2026, con perdite stimate tra i 14 e i 17 miliardi e proiezioni ben più severe per gli anni successivi. xAI, la società di Elon Musk, ha reso pubblici – attraverso il prospetto di quotazione di SpaceX – dati che parlano da soli: nel 2025 ha perso 6,4 miliardi di dollari a fronte di soli 3,2 miliardi di ricavi.

I quattro grandi gruppi tecnologici tradizionali (Amazon, Google, Microsoft, Meta), che pure stanno investendo cifre enormi nell’AI – collettivamente circa 725 miliardi di dollari nel solo 2026 – possono permetterselo perché restano profittevoli grazie ai loro business consolidati: pubblicità, cloud, licenze software. Per Anthropic, OpenAI e xAI il discorso è diverso: sono aziende nate per fare solo intelligenza artificiale, senza altre fonti di ricavo a fare da paracadute; se la scommessa sulla redditività futura non si realizza in tempi ragionevoli, non esiste un secondo business a coprire le perdite.

Ecco allora un punto che vale la pena sottoporre al lettore, senza pretesa di certezza: è difficile distinguere, in un simile contesto, tra allarme genuino sui rischi tecnologici e comunicazione strategica utile a giustificare – agli occhi di investitori, mercati e futuri regolatori – la scala di una spesa che non ha precedenti storici diretti nel mondo dell’impresa.

Non è un caso che proprio Amodei chieda una legge federale anche per attenuare i timori di indagini antitrust legate a un eventuale coordinamento tra le aziende del settore sui ritmi di sviluppo: un coordinamento che, se realizzato solo tra le imprese leader, avrebbe anche l’effetto collaterale di rendere più difficile l’ingresso di nuovi concorrenti.

Una conclusione “aperta”

Il problema del controllo dell’intelligenza artificiale è reale e va preso sul serio: la sorveglianza umana effettiva, la robustezza dei sistemi, la responsabilità di chi sviluppa, distribuisce e utilizza questi strumenti sono temi su cui il diritto – a partire dall’AI Act – si è già mosso, e su cui la competenza di ciascun utilizzatore resta la prima, insostituibile linea di difesa.

Ma proprio perché il tema è serio, merita di essere affrontato, senza timori, in nessuna direzione: né minimizzando i rischi tecnici, né ignorando che chi lancia questi allarmi è anche chi deve giustificare, di fronte al mercato, una delle scommesse finanziarie più grandi mai fatte nella storia dell’impresa privata.

Le due dimensioni – il rischio tecnologico e l’interesse economico che può incidere sul modo in cui quel rischio viene rappresentato – non si escludono affatto a vicenda; al contrario, entrambe meritano di essere attentamente considerate e l’importante è non confonderle: il rischio tecnologico deve essere valutato sulla base di elementi oggettivi, mentre il contesto economico e comunicativo nel quale viene descritto costituisce un ulteriore elemento di analisi, altrettanto rilevante per comprendere fino in fondo ciò che sta accadendo.

14 settembre 2026

Avv. Maurizio Reale