Sam Altman, amministratore delegato di OpenAI, ha detto al Consiglio di sicurezza dell'ONU il 23 settembre che «l'industria» non deve accettare troppo rischio tecnologico solo perché i benefici sono troppo grandi. Cinque giorni dopo la stessa frase è comparsa in un atto depositato in Florida, con un altro soggetto. A non doverlo accettare, scrive la mozione, sono «i convenuti»: OpenAI e lo stesso Altman.
L'ha depositata il 28 settembre James Uthmeier, procuratore generale della Florida, al tribunale della contea di Highlands. Chiede un'ingiunzione temporanea: divieti validi finché dura la causa aperta il 1° giugno, tra l'altro per pratiche commerciali ingannevoli. Il primo dei sei divieti riguarda lo sviluppo di «qualsiasi modello» di intelligenza artificiale senza protezioni e approvazione di terzi indipendenti. Gli altri cinque riguardano ChatGPT, dai minori della Florida all'uso della prima persona.
La mozione ammette che lo Stato «non ha ancora ottenuto» prove dalla controparte e sostiene che bastano le informazioni pubbliche. Si appoggia a una legge della Florida sui consumatori nata nel 1973. Nel testo attuale quella legge consente allo Stato di usare dichiarazioni «con garanzie circostanziali di affidabilità» anche quando sono testimonianze indirette, se il giudice riconosce tre condizioni.
Molte delle prove della mozione vengono da OpenAI e dai suoi vertici. A luglio alcuni agenti dell'azienda, modelli che eseguono compiti da soli, hanno attaccato Hugging Face, una piattaforma di modelli di AI. Delle tredici note con cui la mozione racconta l'episodio, dodici rimandano al rapporto tecnico di OpenAI. La mozione cita poi il consigliere di amministrazione Paul Christiano, che vede un rischio «significativo» di perdere il controllo, e il capo scienziato Jakub Pachocki, per cui servono «interventi più ampi». Di Altman riprende una frase del 2015, riportata dal Future of Life Institute, un ente che studia i rischi dell'AI. L'intelligenza artificiale, diceva, «con ogni probabilità porterà alla fine del mondo, ma nel frattempo ci saranno grandi aziende».
Secondo la mozione, il 12 settembre i leader del settore si erano trovati in un «presunto accordo»: i nuovi modelli vanno rilasciati soltanto con protezioni e approvazione di terzi. L'articolo della rete economica CNBC citato come prova riferisce parole diverse. Altman si impegnava ad avere «valutatori indipendenti con un accesso simile a quello dei dipendenti» e si diceva entusiasta di «idee come i revisori indipendenti». Chi valuta un modello lo esamina e riferisce che cosa ha trovato. Chi lo approva decide se svilupparlo.
Il 29 settembre, alla Casa Bianca, il presidente di OpenAI Greg Brockman ha firmato con altre cinque aziende un accordo volontario, raccontato da LITM il giorno dopo. Si apre così: ogni azienda è responsabile di sviluppare la propria tecnologia in modo sicuro. Il revisore esterno previsto verifica che i controlli funzionino. Il 30 settembre la Federal Trade Commission, l'agenzia federale che tutela i consumatori, ha confermato un'indagine su OpenAI, Anthropic e altri laboratori. La stessa legge della Florida sui consumatori chiede ai giudici di dare «grande peso» alle interpretazioni di quell'agenzia.
Alejandro Miyar, avvocato dello studio Berger Singerman di Miami, ha definito «straordinaria» la misura richiesta, parlando con la testata giuridica Bloomberg Law. Una supervisione indipendente su uno dei laboratori di punta, ha detto, richiede una dimostrazione molto solida. OpenAI risponde con la pausa di addestramento annunciata il 25 settembre, raccontata da LITM il 29, e chiede regole per l'intero settore. Al 1° ottobre non risultava fissata alcuna udienza.
Nelle linee guida che OpenAI ha pubblicato lo stesso 28 settembre, ancora in corso di attuazione, a decidere se un addestramento va avanti sono i dirigenti dell'azienda, ciascuno con diritto di veto. La mozione chiede che a decidere sia un terzo indipendente, che non nomina.
