Nel trailer di Artificial, il film di Luca Guadagnino su OpenAI, Andrew Garfield nella parte di Sam Altman entra in un bunker con le armi alle pareti. Il vero Altman, capo di OpenAI, ha detto a Vanity Fair che è un'inesattezza, «però facevo abbastanza figo». Gli hanno chiesto se fosse un prepper, uno che si attrezza per sopravvivere alle catastrofi: «Direi che ho una mentalità da survivalista». Nel suo ranch «possiamo sopravvivere staccati dalla rete», ma «niente elicottero, niente sottomarino».
L'intervista è uscita il 5 ottobre con la New Establishment, la classifica dei cinquanta più potenti secondo la rivista. Altman è primo; Dario Amodei, capo di Anthropic, secondo; Elon Musk terzo; Alex Karp, capo di Palantir, ventottesimo. La rivista li chiama l'Oppenheimer, il Paradosso, il Re pazzo e il Re filosofo.
In un ritratto del New Yorker del 2016, Altman raccontava che i suoi amici, quando si ubriacano, parlano di come finirà il mondo. «Cerco di non pensarci troppo. Ma ho armi, oro, ioduro di potassio, antibiotici, batterie, acqua, maschere antigas dell'esercito israeliano e un grande terreno a Big Sur dove posso arrivare in aereo.» La probabilità di un virus sintetico letale entro vent'anni, spiegava, era diventata «diversa da zero». A Vanity Fair usa la stessa espressione per il rischio di estinzione dovuto all'AI.
L'espressione compare anche nel prospetto con cui a giugno è andata in Borsa SpaceX, l'azienda di razzi di Musk che dal 2026 possiede xAI, quella del chatbot Grok. I dati geologici e astronomici, scrive SpaceX, indicano «una probabilità diversa da zero» di eventi da estinzione nell'arco di milioni di anni. «Non vogliamo che gli esseri umani abbiano la stessa sorte dei dinosauri.» Musk, per conto suo, nel 2022 ha scritto su X che il crollo della popolazione per la bassa natalità è «un rischio per la civiltà molto più grande del riscaldamento globale».
Karp ha scritto con Nicholas Zamiska un libro, The Technological Republic. Il 18 aprile Palantir, che vende software all'esercito americano, l'ha riassunto su X in 22 punti. Al punto 12 si legge che «l'era atomica sta finendo» e che sta per cominciare una deterrenza «costruita sull'AI».
Amodei ha scritto due saggi, uno sui benefici dell'AI e uno sui rischi. Nel primo, Machines of Loving Grace, dell'ottobre 2024, scriveva che un'AI «potente» poteva arrivare «già nel 2026» e far raddoppiare la durata della vita, fino a 150 anni. Lì prendeva le distanze da chi parla del mondo dopo un'AI di livello umano «come un profeta che guida il suo popolo alla salvezza». Nel secondo, The Adolescence of Technology, a gennaio ha chiesto di non pensare ai rischi «in modo quasi religioso». Ha scritto che nel 2026 siamo «considerevolmente più vicini a un pericolo reale» che nel 2023.
Lette insieme, le quattro ossessioni hanno la stessa forma: una fine possibile e un'azienda che si presenta come risposta. Altman dice che OpenAI è nata anche per evitarla. SpaceX promette una «ridondanza a livello di specie», la specie umana su più di un pianeta. Palantir vende il software della nuova deterrenza, Anthropic studia come ridurre i rischi. Sul rischio di estinzione, Altman ha unito obiezione e risposta: «Immagino che alcuni lo usino per giustificare la ricerca del potere, la concentrazione del potere, ma questo non vuol dire che qui non ci sia un rischio reale».
Nello stesso passaggio del prospetto, SpaceX scrive anche che dipendere da un solo pianeta comporta un rischio esistenziale «con probabilità uno». Su un tempo abbastanza lungo, qualunque evento con una probabilità annua fissa sopra lo zero diventa quasi certo. Quando uno dei quattro dà una probabilità, il numero da chiedere è l'orizzonte: in quanti anni.
