The Myth of Artificial Intelligence

Why Computers Can't Think the Way We Do

AutoriErik J. Larson

EditoreHarvard University Press

Uscita2021

Pagine312

ISBN9780674983519

Campoinformatica — natural language processing e machine learning

ArgomentiLa macchina Il futuroPostura dell'autoreScettico sulle capacità

La tesi

Il mito non è che l'AI vera sia possibile — quello resta un'incognita scientifica — ma che il suo arrivo sia inevitabile, solo questione di tempo. Larson sostiene che non siamo su alcun percorso verso l'intelligenza generale: i successi su compiti ristretti sono frutta a portata di mano, non progresso incrementale, perché l'inferenza che regge l'intelligenza generale — l'abduzione, il congetturare di Peirce — non sappiamo programmarla né apprenderla dai dati. Servirebbe una svolta scientifica di cui nessuno ha idea. Nel frattempo il mito copre il mistero e corrode la cultura dell'invenzione che servirebbe a scioglierlo.

Introduzione; capp. 12 e 18

Come ci arriva

Due errori fondativi Turing riduce l'intelligenza a soluzione di problemi — a Bletchley il codice, poi gli scacchi — e l'AI ne eredita la vocazione al ristretto. Good aggiunge l'ultraintelligenza: raggiunto il livello umano, l'esplosione è automatica. Il meccanismo non viene mai specificato; Von Neumann l'aveva già escluso nel 1948.

Kitsch tecnologico Il mito diventa cultura: una semplificazione emotiva che riscrive le domande difficili su mente e persona con storie di macchine inevitabili, apocalittiche o utopiche. Larson la chiama kitsch, sulla scia di Kundera: chi lo produce guadagna, chi lo consuma perde profondità.

Tre inferenze irriducibili Deduzione, induzione, abduzione: nessuna si riduce all'altra. La deduzione non aggiunge conoscenza e ignora la rilevanza; l'induzione — e il machine learning è induzione automatizzata — è legata ai dati dal vincolo empirico e dall'assunzione di frequenza, e fallisce sulla coda lunga. L'abduzione, la congettura che spiega il fatto sorprendente, è il cuore dell'intelligenza: e non ha teoria.

Prova del linguaggio Capire una lingua richiede abduzioni continue: pronomi, contesto, intenzioni. Gli schemi di Winograd, «a prova di Google», tengono i sistemi poco sopra il caso; Watson vince a Jeopardy! perché il 95% delle risposte sono titoli di Wikipedia. Ogni successo, scavato, rivela la trappola della ristrettezza.

Mito contro scienza Se l'intelligenza emerge dai dati, il genio è superfluo: swarm science, Human Brain Project — 1,3 miliardi per simulare il cervello senza un'ipotesi da testare, finito in retromarcia. Il mito, sostiene Larson con Wiener, è antiumano: soffoca proprio la cultura d'invenzione da cui potrebbe nascere l'AI vera.

Parte I (capp. 1-7); Parte II (capp. 8-14); Parte III (capp. 15-18)

Dove regge

Il quadro peirceano La tripartizione dell'inferenza è il contributo reale del libro: dà un nome preciso a ciò che manca. Il problema della selezione — quale conoscenza è rilevante ora, tra il miliardo di ipotesi possibili stimato da Peirce — è reale, aperto, e formulato con una chiarezza rara nella pubblicistica sull'AI.

Limiti dell'induzione Vincolo empirico, assunzione di frequenza, saturazione dei modelli, fragilità: gli argomenti sono documentati su sistemi reali — adversarial examples su AlexNet, AlphaGo, Watson, Duplex, Tay — e reggono ancora come descrizione di come i sistemi addestrati sui dati falliscono ai margini della distribuzione.

Onere rovesciato Contro Good e Bostrom, Larson chiede il «come» dell'esplosione d'intelligenza e mostra che nessuno lo fornisce: noi, intelligenze di livello umano, non sappiamo progettare menti migliori delle nostre. E l'inevitabilità sempre rimandabile di dieci anni è, per sua stessa struttura, infalsificabile — dunque non scienza.

Il caso Markram La parte sul big data senza teoria è verificata dai fatti che il libro stesso riporta: overfitting, il fallimento annunciato di Markram, la petizione di cinquecento neuroscienziati, il progetto ripiegato su software. Qui Larson non profetizza: documenta.

capp. 3, 10-12, 16

Dove non regge

Distinzione, non impossibilità Che l'abduzione abbia la forma logica di una fallacia deduttiva dimostra che non è deduzione; non dimostra che nessun meccanismo induttivo possa produrre comportamento abduttivo. Il passaggio decisivo è liquidato con un'analogia — «conoscendo tedesco e spagnolo, capirei il russo?» (cap. 14) — non con un argomento. È il salto su cui poggia l'intero libro. Brian Boyd, sulla New Atlantis, scava più a fondo: Larson combatte il computazionalismo restando nella sua cornice — l'intelligenza come inferenza — mentre significato, contesto e forma di vita eccedono anche l'abduzione.

Prove a scadenza Le evidenze empiriche sono contingenti e datate: Winograd schemas «poco sopra il caso», Google Translate che sbaglia «the box is in the pen» «a ottobre 2020» (cap. 13). I sistemi arrivati subito dopo superano gran parte di questi test; il testo non offre criteri per decidere se ciò confuti la tesi o sia «ancora simulazione». Nel 2024 GPT-4 supera benchmark abduttivi al 95,8% few-shot; Larson si è riposizionato sul «simulano senza comprensione concettuale» — per i critici, una ritirata non falsificabile.

Infalsificabilità speculare Larson rimprovera al mito l'infalsificabilità, ma la sua tesi rischia la stessa mossa: ogni successo induttivo è riclassificato in anticipo come frutto a portata di mano, problema «più semplice del previsto» (cap. 5, sulla traduzione) o simulazione senza comprensione (capp. 11, 14). Quale prestazione conterebbe come controesempio non viene mai detto.

Bersagli diseguali Con i massimalisti (Kurzweil, Bostrom, Markram) argomenta; con le posizioni intermedie scivola nel retorico: a Russell obietta che una superintelligenza senza coscienza «non è ciò che ci emoziona» — argomento estetico, non epistemico (cap. 7). E la Parte III generalizza da un caso documentato a una diagnosi di civiltà appoggiata a Thiel e Horgan.

capp. 5, 7, 11-14; Parte III

Il giudizio

Va letto, ed è invecchiato meglio dei suoi esempi. Le prove contingenti sono cadute — i sistemi successivi al 2021 conversano e risolvono gli schemi di Winograd — ma la domanda che il libro costruisce con Peirce resta la più precisa in circolazione: i sistemi induttivi capiscono o simulano? Le Parti I e II sono un corso di epistemologia dell'inferenza travestito da storia dell'AI, e valgono da sole il libro. La Parte III va letta come polemica, con beneficio d'inventario. Chi oggi discute di LLM trova qui il vocabolario per farlo seriamente — anche, e soprattutto, chi vuole dare torto a Larson.

Resta aperta

Se un sistema addestrato solo per induzione arriva a comportarsi come se abducesse — risolve gli schemi di Winograd, congettura, conversa — la distinzione tra inferire e simulare l'inferenza resta una differenza scientifica, misurabile, o diventa metafisica? E a chi spetta l'onere di dimostrarlo?

LETTURE è la rubrica di schede critiche di Lost in the Middle. Una scheda per numero, sui libri che servono a capire l'AI e quello che porta con sé. Il formato giudica l'argomento, non l'esperienza di lettura.