Gli aerei erano in volo e gli uomini armati erano pronti a salire a bordo. La nave batteva bandiera cinese, si trovava in Medio Oriente, e un rapporto d'intelligence circolato nell'esercito americano diceva che trasportava componenti per il programma nucleare iraniano. L'operazione è stata annullata poco prima, quando qualcuno ha riletto il documento e ha capito come era stato messo insieme: con un chatbot, che aveva identificato male il carico. Una fonte ha raccontato a CNN che il rapporto era «interamente falso» e che «ha quasi fatto cominciare una guerra». CNN non è riuscita a sapere che cosa trasportasse davvero la nave.
L'episodio risale all'inizio del 2026, durante la guerra con l'Iran, e viene dal resoconto pubblicato il 18 settembre da CNN sulla base di fonti anonime. L'analista lavorava per un comando delle operazioni speciali.
Ha usato il modello due volte. La prima per mettere insieme intelligence dei segnali classificata e materiale di fonte aperta, e qui è nato l'errore sul carico. La seconda per dare al risultato la forma di un rapporto pronto a essere distribuito. È il secondo passaggio a spiegare perché il documento è arrivato fino agli aerei in volo, e nella copertura finisce sempre in fondo.
Un prodotto d'intelligence ha una forma riconoscibile: intestazione, livello di classificazione, valutazione, grado di confidenza. Quella forma segnala al lettore che un lavoro è stato fatto e che qualcuno lo ha controllato. Un modello linguistico la produce in pochi secondi, con la stessa aria di cosa finita, e chi l'ha letta lungo la catena aveva davanti un documento che sembrava avere già superato controlli che invece non aveva mai attraversato. Secondo il resoconto, l'esercito americano non ha uno standard unico per verificare i prodotti d'intelligence generati con l'AI.
La catena l'errore l'ha preso. Nessuno è salito su quella nave, gli aerei sono tornati, e la verifica che è mancata a monte è arrivata a valle in tempo: chi difende l'introduzione di questi strumenti nelle strutture militari può dire con ragione che il controllo umano ha funzionato esattamente dove era previsto. E tutto il racconto sta su fonti anonime di una sola testata: il Pentagono non ha risposto alle richieste di commento, e non esiste una conferma ufficiale. Una fonte ha detto a CNN che episodi del genere sono una tendenza, e nello stesso resoconto compare la denuncia di un affidamento eccessivo al Maven Smart System di Palantir in un attacco su una scuola in Iran. Sono affermazioni delle stesse fonti anonime, non accertamenti.
Il Dipartimento della Difesa guidato da Pete Hegseth ha adottato una linea dichiaratamente «AI-first» e ha firmato accordi con xAI, Nvidia, Microsoft e Amazon. Quali modelli entrino nel lavoro d'intelligence è ormai deciso. In quale punto del lavoro entrino resta una scelta di ciascun comando, e questo episodio mostra che cosa succede quando la scelta cade sull'ultimo passaggio, quello che dà al testo la sua forma definitiva.
Di fronte a un'organizzazione che dichiara supervisione umana sull'AI, la misura utile è una sola: l'aspetto del documento che arriva al supervisore. Se ha già la forma di una conclusione, il supervisore sta leggendo qualcosa che gli chiede di approvare, non di controllare.
