Careless People

A Cautionary Tale of Power, Greed, and Lost Idealism

AutoriSarah Wynn-Williams

EditoreFlatiron Books

Uscita2025

Pagine382

ISBN9781250391230

CampoMemoir dall'interno di una piattaforma globale

Ed. italianaCareless people, Silvio Berlusconi Editore, 2025 (trad. Roberto Serrai e Annalisa Di Liddo)

ArgomentiIl poterePostura dell'autoreCritico del potere

La tesi

Sarah Wynn-Williams entra in Facebook nel 2011, inventandosi il posto di prima diplomatica dell'azienda, convinta che la piattaforma sia una forza politica benefica; ne esce licenziata nel 2017, dopo avere segnalato il comportamento del proprio capo. Nel prologo riassume i sette anni in una riga: «it started as a hopeful comedy and ended in darkness and regret». La tesi sta in due parole che ricorrono nel capitolo sulla Birmania, «lethal carelessness»: il danno non è stato progettato, è successo mentre chi comandava era occupato in altro. A sostegno il libro porta decisioni precise. Il progetto cinese, con gli strumenti di censura costruiti su commessa e la frase che Joel Kaplan cancella dal documento di rischio, «Facebook employees will be responsible for user data responses that could lead to death, torture and incarceration», sostituita con una formula più presentabile. La pubblicità venduta agli inserzionisti per raggiungere ragazzi fra i tredici e i diciassette anni nei momenti in cui si sentono «worthless», «insecure», «defeated», e la smentita pubblica approvata dai dirigenti che la sapevano falsa. La Birmania, dove per anni la moderazione in birmano è stata affidata a un solo contrattista a Dublino mentre alla Cina venivano promessi quattrocento moderatori destinati a diventare duemila. La morale sta nel titolo dell'ultima parte: «It really didn't have to be this way».

Prologo; capitoli «Greetings from Beijing», «Our Chinese Partner», «Respectfully, Senator», «Emotional Targeting», «Myanmar», «Just Business».

Come ci arriva

L'ascesa vista dal sedile del passeggero. Dal 2011 al 2014 il registro è comico: il lavoro che non esisteva e che l'autrice si fa inventare, i primi incontri con capi di Stato, la cena di gala panamense con le comparse seminude, i jet privati, Davos. La commedia fa un lavoro preciso: stabilisce che queste persone improvvisano. «A bunch of fourteen-year-olds who've been given superpowers», scrive nel prologo.

Il momento in cui il potere diventa una scelta. Fra il 2015 e il 2016 il tono cambia. Zuckerberg convoca la squadra, elogia le «street fighter tactics» di Uber e chiede un elenco di avversari da colpire con la piattaforma stessa: «Anyone who opposes us is an adversary». Poi il volo verso il Perù, dove Elliot Schrage gli spiega passo per passo come la campagna di Trump ha usato Facebook, Zuckerberg ascolta, non si scandalizza, e ne ricava un'idea per sé.

Le carte cinesi. Il nucleo documentario. Il progetto ha un nome in codice, Aldrin, e il partner cinese pure, Jupiter. La proposta di valore offerta a Pechino promette di «promote safe and secure social order». Ci sono l'interruttore per isolare una regione, l'«Extreme Emergency Content Switch» per gli anniversari scomodi, i server di prossimità che espongono anche dati di utenti fuori dalla Cina, e le simulazioni di audizione parlamentare in cui si insegna all'amministratore delegato come non rispondere.

Il costo personale. Il congedo di maternità lavorato, le domande del capo sull'allattamento e sull'emorragia, la richiesta della direttrice operativa di andare a letto con lei sul jet aziendale, l'indagine interna che da inchiesta sul molestatore diventa inchiesta sulla molestata, il licenziamento e l'uscita scortata dalla sicurezza.

Dove regge

Il capitolo cinese non è memoria, è documento. È la parte che regge meglio perché la prova non coincide con il ricordo dell'autrice. Nel documento di valutazione dei rischi qualcuno aveva scritto che i dipendenti sarebbero stati responsabili di risposte che potevano portare a «death, torture and incarceration»; la cronologia delle revisioni mostra Kaplan che sostituisce la frase con «a government that does not respect international standards for human rights». E il lettore ha un riscontro esterno: nell'aprile 2018, davanti alla senatrice Cortez Masto, Zuckerberg dichiara che «no decisions have been made» sulle condizioni di un eventuale servizio in Cina. Quella risposta sta agli atti e si può controllare.

La Birmania è la dimostrazione per contrasto. L'argomento più forte del libro è un confronto di risorse. La stessa azienda che aveva messo centinaia di ingegneri a costruire strumenti di censura per Pechino, in Birmania aveva un contrattista che parla birmano, a Dublino, irreperibile perché al ristorante senza il portatile mentre in strada si moriva. Gli standard della comunità non erano mai stati tradotti; il birmano non girava in Unicode e la responsabile dell'internazionalizzazione definisce il problema «eminently solvable», ma nessuno lo mette in coda. Non serve dimostrare la malafede: basta l'inventario di ciò che è stato finanziato e ciò che non lo è stato.

Sul targeting degli adolescenti si vede fabbricare la bugia. Le categorie emotive vengono dal materiale commerciale dell'azienda. Poi lo scambio interno: Kaplan chiede se si possa dichiarare che non si profila sull'insicurezza, e il vice responsabile della privacy risponde «That's correct, unfortunately», cioè no, non si può dire. La dichiarazione pubblica esce lo stesso e afferma il contrario. Sono poche le pagine, in un libro d'impresa, in cui si assiste alla costruzione di una menzogna aziendale mentre avviene.

L'autrice si conta fra i responsabili. Non si scrive come la coscienza della vicenda. Manda i punti per un colloquio con la presidente brasiliana dalla sala parto; mente alla direttrice operativa su Merkel perché le è stato ordinato; si prepara a farsi arrestare in Corea al posto dei capi e desiste solo perché è il marito a spiegarle che può dire di no; e sull'apparizione all'ONU che ha organizzato lei scrive «Looking back now, I regret having enabled this». È questa inclusione a tenere il libro lontano dal regolamento di conti.

Capitoli «Greetings from Beijing», «Our Chinese Partner», «Respectfully, Senator», «Emotional Targeting», «Myanmar».

Dove non regge

La spiegazione è caratteriale, e assolve il modello di business. Alla domanda su perché sia successo, il libro risponde con un giudizio sulle persone: «Joel, Elliot, Sheryl, and Mark didn't give a fuck». Come testimonianza convince, come analisi lascia scoperto il fianco. Se la causa è la sbadataggine di quattro individui, allora quattro individui diversi avrebbero prodotto una piattaforma diversa. La tesi opposta è quella di «Enshittification», dove gli incentivi producono lo stesso comportamento chiunque sieda in quella poltrona. Wynn-Williams non la discute, e il suo stesso materiale (gli obiettivi di crescita, l'asta pubblicitaria che fa costare meno gli annunci più incendiari) tira dall'altra parte.

Nessuna fonte oltre l'autrice. Quasi tutto poggia sulla sua memoria, sui suoi appunti e su documenti che descrive senza riprodurli né citarli in modo verificabile. Manca una nota sul metodo: che cosa è stato annotato sul momento e che cosa ricostruito dopo, quali passaggi hanno un riscontro indipendente. Dialoghi di dieci anni prima arrivano alla lettera, con il tono e i gesti. L'unica avvertenza editoriale è una riga in colophon, «Some names have been changed».

Le scene comiche lavorano contro l'argomento. La fuga fra i cavalli, la trattativa con Big Bird, le vespe, i Coloni di Catan: il libro si legge benissimo, e la comicità fa anche un'altra cosa, rende Zuckerberg ridicolo. Un uomo che non sopporta di perdere a un gioco da tavolo è più facile da liquidare di un uomo che governa un'infrastruttura usata da miliardi di persone. Il ritratto rischia di rassicurare il lettore su qualcuno che, stando alle prove raccolte dall'autrice stessa, dovrebbe preoccuparlo.

La parte sull'AI è un poscritto. Il libro arriva su questo scaffale come racconto di chi oggi dirige uno dei maggiori laboratori di intelligenza artificiale, e se lo guadagna soltanto nell'epilogo: una pagina sui negoziati informali fra Stati Uniti e Cina sulle armi autonome, una sul confronto fra modelli aperti e chiusi, una riga di chiusura sulla posta in gioco. I sette anni che documenta finiscono nel 2017. La trasposizione al presente resta a carico di chi legge.

Capitoli «Myanmar» e «Just Business»; nota editoriale in copyright; epilogo.

Il giudizio

È un memoir con dentro un'inchiesta, e vale per l'inchiesta. I capitoli cinesi e quello birmano contano più di tutta la polemica editoriale che ha accompagnato il libro: mostrano un'azienda che ha finanziato un apparato di censura per un governo e non è riuscita a tradurre le proprie regole in birmano per un altro, e mostrano la frase su morte e tortura che sparisce da un documento di rischio prima che il documento salga di livello.

Il limite è la teoria. Wynn-Williams spiega un esito industriale con un giudizio sul carattere delle persone, ed è la parte meno utile di quello che ha visto. Va letto accanto a «Enshittification», che fornisce il meccanismo che qui manca. E va letto sapendo che cos'è su questo scaffale: il racconto di come decidono, quando nessuno guarda e la scelta non costa nulla, le persone che oggi governano l'intelligenza artificiale di Meta.

Resta aperta

Se la causa sono le persone, perché nessuno è cambiato?

Il libro si chiude sostenendo che a ogni bivio esisteva una strada diversa. Il suo epilogo dice il contrario. Kaplan è stato promosso e guida oggi la più grande operazione di lobbying di un'azienda quotata americana. Schrage si è dimesso dopo lo scandalo dell'agenzia di ricerca avversaria, e si è poi scoperto che Sandberg era comunque coinvolta. Zuckerberg controlla la società più saldamente di prima. Nessuno ha pagato, l'azienda ha cambiato nome, e nel marzo 2025 Meta ha ottenuto per via arbitrale un provvedimento d'urgenza che vieta all'autrice di promuovere il libro. Se davvero era una questione di scelte, qualcuno avrebbe dovuto avere una ragione per farne di diverse. Il libro non dice quale potesse essere, e il suo stesso resoconto suggerisce che non ce ne fosse nessuna.

LETTURE è la rubrica di schede critiche di Lost in the Middle. Una scheda per numero, sui libri che servono a capire l'AI e quello che porta con sé. Il formato giudica l'argomento, non l'esperienza di lettura.