Jathan Sadowski lavora all'Emerging Technologies Research Lab della Monash University di Melbourne e conduce il podcast «This Machine Kills». Il suo secondo libro sostiene che quasi tutto il discorso pubblico sulla tecnologia sbaglia oggetto: parla di macchine quando la domanda utile riguarda il capitale che le finanzia. Il primo capitolo nomina i due sistemi al servizio dei quali passa la giornata di chiunque, tecnologia e capitalismo, e li descrive come «a toxic miasma, an oppressive cloud, emanating from everywhere». Il metodo arriva dal secondo capitolo, in una massima dell'ingegnere Stafford Beer che l'autore ripete due volte: «The purpose of a system is what it does. There is after all, no point in claiming that the purpose of a system is to do what it constantly fails to do». Applicarla significa spostare la domanda da che cosa una tecnologia promette a che cosa fa, per chi, con quali soldi. Da lì i due modelli del titolo: «The mechanic knows how a machine is put together, how its parts function, and what work it does. The Luddite knows why the machine was built, whose purposes it serves, and when it should be seized». Sei capitoli applicano la coppia ad altrettante aree: l'innovazione e il venture capital, i dati, il lavoro, la rendita, il rischio, la produzione di futuri. L'ultimo si apre rifiutando esplicitamente di fornire una lista di soluzioni.
Capitoli «Two Systems» e «Two Models»; conclusione «Futures».
Come ci arriva
Prima il criterio, poi gli esempi. Il secondo capitolo separa l'analisi idealista da quella materialista e fissa tre domande da rivolgere a qualunque sistema: «What do you do? How do you work? Who do you work for?». Sadowski elenca poi i tre modi in cui le risposte vengono coperte: l'ostacolo tecnico delle scatole nere e del gergo specialistico, quello legale dei segreti industriali e degli accordi di riservatezza, quello mistico della tecnica come magia e del progresso come destino.
Il bersaglio comprende la critica. La parte più originale del capitolo prende di mira chi critica. Lo storico Lee Vinsel chiama criti-hype l'operazione di chi «invert boosters' messages» conservando l'immagine di un cambiamento straordinario: prendere i comunicati stampa delle start-up e coprirli di scenari infernali. Sadowski ci aggiunge la lettura che Cory Doctorow dà di «Surveillance Capitalism» di Shoshana Zuboff, un'analisi che secondo Doctorow finisce per attribuire a Google e Facebook «sorcerous acts of mind control over users». Il punto è commerciale: «Imagine how much more you could charge advertisers and political parties if you could convince them that you had the ability to do mass mind control over consumers».
Sei aree, un solo movimento. Ogni capitolo prende un dominio e va a vedere chi incassa. L'innovazione diventa quello che entra nel portafoglio di un fondo, e l'autore chiama innovation realism l'idea che finanziarla in altro modo sia impensabile. I dati smettono di essere un giacimento naturale da estrarre. Il lavoro riappare dietro le macchine che dicono di averlo eliminato. Il software trasforma i produttori in locatori, ed è l'internet of landlords. Il rischio diventa merce, con i punteggi di credito e le assicurazioni comportamentali che inseguono la «statistics of one». I futuri sono un prodotto industriale, uscito da quella che chiama la futurism factory.
La chiusura nega la lista. L'ultimo capitolo si apre dichiarando quello che non farà: «At this point in the book, I'm probably expected to lay out a series of solutions for all the issues I have identified thus far», e subito dopo «I'm not going to do that, though». Al posto delle soluzioni arrivano le utopie reali di Erik Olin Wright, cioè gli esperimenti anticapitalisti già in corso, e il Tinkerbell Effect: «speculative technologies only exist when we believe hard enough and clap loud enough». Il libro chiude sulla frase di Marx da cui viene il sottotitolo, la critica spietata che «will shrink neither from its own discoveries, nor from conflict with the powers that be».
Dove regge
Criti-hype è una diagnosi che serve. È il contributo che da solo vale il libro, e riguarda anche chi scrive di intelligenza artificiale per mestiere, questa rubrica compresa. Chi rovescia il comunicato stampa se lo tiene in mano: conserva la stessa scala di potenza e ne cambia soltanto il segno. Sadowski porta il ragionamento sul lato commerciale, dove si può controllare: a un'azienda pubblicitaria conviene che i suoi critici più autorevoli le attribuiscano poteri di manipolazione di massa, e «All the better if you don't have to make those false claims explicitly and can let your biggest critics do the talking for you». Il criterio taglia da entrambe le parti, «whether wielded by the boosters or the skeptics of technological capitalism».
La massima di Beer tiene alla prova dei numeri. Il capitolo sui dati la applica al documento con cui OpenAI ha presentato GPT-4, dove si legge che «this report contains no further details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar». Il capitolo sul lavoro la applica al mercato: in un rapporto del 2019 della società d'investimento londinese MMC Ventures, su 2.830 start-up europee che dichiaravano di usare intelligenza artificiale nei propri prodotti, «only 40 percent of start-ups were plausibly using AI». Sono due riscontri esterni e verificabili, e sostengono esattamente la mossa che il libro chiede al lettore: guardare l'operato invece della descrizione.
Potemkin AI nomina una cosa che si può andare a vedere. L'etichetta indica i sistemi presentati come automatici e tenuti in piedi da persone nascoste, e il capitolo la sostiene con un caso documentato da un'inchiesta di Time: il filtro di sicurezza di ChatGPT è stato addestrato da lavoratori kenioti «making less than two dollars per hour», che hanno etichettato decine di migliaia di frammenti su abusi sessuali sui minori, omicidio, suicidio e tortura. Nelle stesse pagine sta la frase più utile del libro sull'automazione: «a robot is never coming to your job to tell you to pack your bags. It's always a boss choosing to fire you and then using the robot as an excuse». Sposta la questione da una previsione tecnologica a una decisione che ha un nome e una firma.
L'internet dei padroni di casa tiene insieme storie che di solito si raccontano separate. Il capitolo sulla rendita parte da una posizione messa a verbale davanti allo US Copyright Office dai costruttori di veicoli, John Deere e General Motors: il software installato nel mezzo resta loro, e chi compra ne ottiene soltanto una licenza. Il libro riassume l'esito con una frase secca: dopo avere speso cinquantamila dollari per una berlina o duecentocinquantamila per un trattore, «you are only renting the software needed to actually operate the vehicle». Da lì il collegamento con il lavoro di lobby contro il diritto alla riparazione, condotto da TechNet, che elenca fra i propri membri Apple, Google, Honeywell e Samsung. La parte solida è proprio il collegamento: trattore, automobile, elettrodomestico e macchinario medico diventano un fenomeno unico con un meccanismo unico, la licenza software come strumento di recinzione.
È una sintesi, e l'apparato lo dice più chiaramente della prosa. Note e bibliografia occupano da sole quasi un quinto del volume, ogni affermazione ha una fonte, e quasi nessuna fonte è sua. L'inchiesta sui lavoratori kenioti è di Time, il censimento delle start-up è di MMC Ventures, criti-hype è di Vinsel, la lettura di Zuboff è di Doctorow, i luddisti sono quelli ricostruiti da Brian Merchant, le utopie reali sono di Erik Olin Wright. Nel libro non compaiono interviste, archivi o materiali raccolti dall'autore. La definizione più onesta sta nei ringraziamenti ed è la sua: «an original piece of synthetic analysis». Il contributo proprio sono i nomi che conia, cinque in otto capitoli: innovation realism, Habsburg AI, Potemkin AI, internet of landlords, Tinkerbell Effect. Battezzare un fenomeno è un'operazione diversa dal documentarlo.
Criti-hype non viene mai rivolto contro l'autore. Lo strumento serve a disarmare Zuboff e i profeti della superintelligenza, e resta nel fodero quando tocca a Sadowski. Il primo capitolo descrive tecnologia e capitalismo come un miasma «emanating from everywhere, choking and trapping anything caught in its atmospheric existence». È la stessa scala di potenza illimitata che il capitolo successivo rimprovera agli altri, e produce lo stesso effetto: rende il sistema troppo grande perché qualunque osservazione possa smentirlo. Il libro chiede a ogni tecnologia di dichiarare che cosa fa e non chiede al proprio quadro teorico che cosa lo farebbe cadere.
Il criterio operativo viene enunciato una volta e mai eseguito. Il secondo capitolo propone un test alla Marie Kondo da applicare a ogni tecnologia: «Does this thing contribute to human well-being or social welfare? If not, toss it away!», presentato come «that very simple criterion». Nei sei capitoli che seguono nessuna tecnologia viene passata al test. Chi lo applica, con quali prove, con quale soglia, e come si decide quando il beneficio di una parte è il danno di un'altra: sono le domande che il criterio solleva appena lo si prende sul serio, e restano dov'erano.
Il luddismo del titolo non dice mai quando. La definizione è dell'autore: il luddista «knows why the machine was built, whose purposes it serves, and when it should be seized». La prima metà il libro la esegue per otto capitoli. La seconda resta vuota: nessuna macchina viene indicata come quella da fermare, nessuna regola dice come riconoscerla. Il paradosso è che i luddisti storici, nella ricostruzione di Sadowski stesso, una regola ce l'avevano e riguardava il padrone: colpivano le macchine «owned by manufacturers who were known to pay low wages, disregard workers' safety, or speed up the pace of work», e dentro la stessa fabbrica ne risparmiavano altre. Nel quadro del libro quella regola seleziona tutto, perché sotto il capitale ogni macchina lavora per l'accumulazione. La conclusione trasforma l'omissione in metodo, e chi legge resta con un'ottica e senza un bersaglio.
Ringraziamenti; capitoli «Two Systems», «Two Models», «Futures»; note e bibliografia.
Il giudizio
Va letto, e va letto soprattutto per il secondo capitolo. Criti-hype è lo strumento più utile arrivato di recente a chi scrive di intelligenza artificiale: dice che la critica costruita rovesciando il comunicato stampa sta ancora diffondendo il comunicato stampa, e che l'azienda ci guadagna in entrambi i casi. È un'accusa che si può girare contro molte pagine pubblicate quest'anno, comprese quelle scritte per criticare l'industria.
Il limite è la distanza fra la promessa del metodo e il suo uso. Sadowski chiede a ogni sistema di dichiarare che cosa fa e per chi, poi costruisce un quadro che dà la stessa risposta prima ancora di guardare. Le pagine migliori sono quelle in cui il materiale oppone resistenza alla tesi: il documento tecnico di GPT-4 che dichiara di non dichiarare niente, i lavoratori kenioti a meno di due dollari l'ora dietro il filtro di sicurezza, l'avvocato di General Motors che mette a verbale a chi appartiene il software di un'automobile. Va usato come lente accanto ai libri che portano le prove: «Empire of AI» per il reportage, «Enshittification» per il meccanismo economico, questo per la grammatica che li tiene insieme.
Resta aperta
Quando si smette di riparare?
Il libro chiede al lettore di essere insieme meccanico e luddista, e la seconda figura è definita dal saper riconoscere il momento in cui una macchina va fermata. Quel momento non arriva in nessuna delle pagine. I luddisti storici, nella ricostruzione che ne fa Sadowski, un discrimine ce l'avevano e non riguardava la macchina: guardavano il proprietario, e dentro la stessa fabbrica spaccavano alcuni telai e ne lasciavano stare altri secondo come si comportava chi li possedeva. Quel criterio funzionava perché esistevano padroni che pagavano un salario decente. Nel quadro del libro il capitale ha un comportamento solo e ogni macchina serve l'accumulazione, quindi il criterio storico, riportato a oggi, seleziona qualunque cosa. Resta da decidere quale delle due metà tenere. Se vale ancora il discrimine dei luddisti, allora esistono tecnologie da lasciar stare e il quadro totalizzante va corretto. Se vale il quadro, allora quale macchina fermare lo stabilisce qualcos'altro, e il libro non dice che cosa.
LETTURE è la rubrica di schede critiche di Lost in the Middle. Una scheda per numero, sui libri che servono a capire l'AI e quello che porta con sé. Il formato giudica l'argomento, non l'esperienza di lettura.
