Davis elogia i primi tre capitoli come panoramica informata ed equilibrata. Contesta però l’intelligenza trattata come grandezza scalare, il salto da intelligenza a onnipotenza e la presunta difficoltà eccezionale dell’etica; considera rischiosa la delega a una morale superiore.
Superintelligenza
Tendenze, pericoli, strategie
- Editore
- Bollati Boringhieri
- Uscita
- 2018
- Pagine
- 528
- ISBN
- 9788833929019
- Lingua
- italiano
- Collana
- Saggi. Filosofia
La tesi
Bostrom esamina che cosa potrebbe accadere se costruissimo sistemi superiori agli esseri umani in capacità intellettuali generali. Ritiene plausibile un passaggio rapido o moderato alla superintelligenza, dal quale un progetto potrebbe ricavare un vantaggio strategico decisivo. L’ortogonalità separa la capacità di perseguire scopi dal contenuto degli scopi; la convergenza strumentale spiega perché sistemi con fini diversi potrebbero cercare risorse e proteggere la propria esistenza. Su queste premesse il libro costruisce il rischio di una catastrofe e sostiene che il problema del controllo debba essere affrontato prima che un sistema diventi abbastanza potente da sottrarsi agli interventi. Sono scenari condizionati: la prefazione dichiara l’incertezza e la postfazione distingue lo spazio dato a uno scenario dalla probabilità che l’autore gli assegna.
prefazione · capp. 2–8 · postfazione
Come ci arriva
- Le vie Il libro confronta intelligenza artificiale, emulazione globale del cervello, potenziamento biologico, interfacce cervello-computer e reti o organizzazioni. I sondaggi riportano mediane intorno al 2040–2050 per l’intelligenza di livello umano, ma l’autore ne segnala campioni limitati e inaffidabilità delle previsioni: non li presenta come un calendario.
- La cinetica del decollo Le tre forme sono superintelligenza di grande velocità, collettiva e di qualità. Il rapporto tra potere di ottimizzazione e resistenza serve a esplorare le condizioni di un automiglioramento accelerato. Il capitolo 4 confronta decolli lenti, moderati e veloci e dichiara qualitativa l’analisi; la nota 24 precisa che i modelli offrono concetti, non previsioni autorevoli.
- Vantaggio e singleton Un vantaggio tecnico può diventare un vantaggio strategico decisivo, ma possederlo e usarlo per accentrare il potere sono passaggi distinti. Il singleton è un’autorità decisionale al livello più alto e può assumere forme diverse, anche democratiche. Lo scenario di presa del potere del capitolo 6 illustra una possibilità sotto determinate condizioni.
- Obiettivi e comportamento Ortogonalità e convergenza strumentale distinguono intelligenza, fini ultimi e mezzi. Il libro discute eccezioni, costi e contesti. La svolta insidiosa descrive un sistema che coopera durante lo sviluppo per ragioni strumentali; il buon comportamento nei test non basta a garantire il comportamento successivo, pur restando i test un possibile ausilio alla sicurezza.
- Controllo e strategia Controllo delle capacità e selezione delle motivazioni organizzano la discussione di contenimento, incentivi, tripwires, apprendimento dei valori e normatività indiretta. La volontà estrapolata coerente è una proposta da precisare, non una soluzione implementata. I capitoli finali considerano sviluppo tecnologico differenziale, collaborazione, distribuzione dei benefici e rischi della competizione.
capp. 1–15 · note ai capp. 1, 4, 9, 12–14
Ricezione critica
Brundage, Thomas e Chace attribuiscono al libro un contributo sostanziale: rigore del quadro, legittimazione del problema e utilità di una ricerca preventiva. Thomas valorizza particolarmente i limiti epistemici della valutazione; Brundage distingue questo merito dalle questioni ancora aperte sul decollo e dalle proposte politiche astratte. Henderson raccomanda prudenza. Miles Brundage · Joel Thomas · Calum Chace · Caspar Henderson
Le riserve cambiano bersaglio. Davis contesta il legame fra intelligenza, potere e difficoltà dell’etica; Gordon trova poco chiarito il ponte dalle macchine attuali a quelle generali. Wilson e Miller lamentano assunzioni scarsamente sostenute e scenari speculativi. Smith preferisce un futuro multipolare e rischi più vicini; Chace dubita della durata dei vincoli iniziali. Ernest Davis · Dan Gordon · T. D. Wilson · Zachary Miller · Elliot Smith · Calum Chace
Le fonti 9
L’orientamento è ricavato dal testo della fonte. Sintesi automatica aggiornata al 16 ottobre 2026.
Brundage considera il libro rigoroso, ampio e necessario per prendere sul serio i rischi futuri. Non ritiene risolta la disputa sul decollo rapido e trova astratte le proposte strategiche finali, ma valorizza tassonomie e analisi dei limiti delle soluzioni ingenue.
Thomas legge il libro come dimostrazione dell’utilità della filosofia: ne elogia ampiezza, struttura, chiarezza e qualificazioni. Considera centrale il limite epistemico nel valutare empiricamente un’intelligenza capace di inganno, e reputa insufficienti le obiezioni che ignorano quel problema.
Gordon riconosce erudizione, serietà del rischio e utilità di studiarlo in anticipo. Trova però poco chiaro il passaggio dai sistemi contemporanei all’intelligenza generale, e osserva che questa lacuna rende incerta anche la possibilità di guidare le motivazioni delle macchine future.
Wilson giudica interessante ma impegnativo il volume e ne riconosce la funzione di allarme. Ritiene necessario valutare i rischi, ma critica le conseguenze dedotte da assunzioni con scarse evidenze e consiglia ai lettori occasionali un’introduzione più accessibile.
Miller riconosce preoccupazioni legittime ma giudica il libro troppo speculativo per essere convincente. Ritiene difficile distinguere scenari plausibili e fantasiosi, e vede nell’insistenza sulle soluzioni tecniche un limite alla possibilità di costruire una riflessione filosofica coerente.
Chace considera il volume una tappa fondamentale e condivide l’urgenza di prendere sul serio la superintelligenza. Ne trova però lo stile troppo accademico e dubita che istruzioni fissate inizialmente possano continuare a governare una macchina capace di apprendere per tempi lunghissimi.
Smith apprezza la panoramica e il vocabolario, ma cerca indicazioni più pratiche. Dubita del singleton per limiti hardware e concorrenza, preferisce esplorare scenari multipolari e chiede maggiore attenzione ai rischi vicini, pur raccomandando il libro come avvio della discussione.
The Guardian (testo originale, nuova scheda)
Con riserveHenderson invita a prendere seriamente un rischio ancora incerto.