Una donna di 30 anni di Bonita Springs, in Florida, ha scritto a Claude, il chatbot di Anthropic, che sarebbe andata a sparare negli uffici dello sceriffo della contea di Lee. Secondo il rapporto d'arresto citato dalla televisione locale WINK News, la frase è del 26 settembre. Il giorno dopo la stessa utente ha scritto di essersi procurata una pistola nuova. Lo sceriffo Carmine Marceno ha detto a WINK che la donna ha poi spiegato di usare l'intelligenza artificiale come un «diario».
Secondo il registro degli arresti dello sceriffo, è entrata in carcere il 30 settembre. È uscita il giorno dopo su cauzione di 75.000 dollari. L'accusa si basa sull'articolo 836.10 delle leggi della Florida. Punisce chi minaccia per iscritto di uccidere, ferire, compiere una sparatoria di massa o un atto di terrorismo. È un reato grave di secondo grado, punito con il carcere fino a 15 anni. La legge vale per gli scritti inviati «in qualsiasi modo in cui possano essere visti da un'altra persona».
Secondo il rapporto, come lo riassume WINK, i sistemi di Anthropic cercano nelle conversazioni frasi chiave e contenuti che sembrano minacce. Per la gravità delle frasi il caso è passato ai revisori umani, le persone che leggono le chat segnalate. Sono stati loro ad avvisare le forze dell'ordine. In un rapporto per l'Unione europea Anthropic chiama i suoi controlli automatici «classificatori»: versioni di Claude, ognuna preparata per riconoscere un tipo di violazione mentre la conversazione prosegue. Le chat segnalate restano in archivio fino a due anni. Non risulta che Anthropic abbia commentato il caso.
Nell'informativa sulla privacy Anthropic scrive che può dare i dati alla polizia quando crede «in buona fede» che serva a «prevenire un danno grave a qualsiasi persona». Per prevenire i reati e proteggere altre persone cita anche gli «interessi vitali». È una delle basi che il GDPR, il regolamento europeo sulla privacy, ammette per usare i dati di qualcuno quando c'è da proteggere la vita di una persona. Per chi scrive dall'Italia il contratto è con Anthropic Ireland, a Dublino. Le sue condizioni d'uso lasciano la scelta all'azienda, che «si riserva il diritto, a sua esclusiva discrezione», di riferire alla polizia informazioni sull'utente, compresi i messaggi.
Ad agosto Anthropic aveva già avvisato la polizia di San Francisco. Lo ha raccontato il 4 settembre il giornale San Francisco Standard, citando un rapporto di polizia. Il 14 agosto un uomo aveva scritto a Claude di aver comprato un fucile AR-15 e di avere «nel mirino» Dario Amodei, l'amministratore delegato di Anthropic. L'azienda lo ha segnalato il 18 agosto. Al telefono l'uomo ha detto al giornale che stava solo scherzando. Al 4 settembre non risultava arrestato. Un portavoce di Anthropic ha dichiarato: «Abbiamo chiuso l'account, come da prassi, e segnalato il caso alle forze dell'ordine. È il nostro processo di tutela che funziona come previsto».
Eric Goldman, professore di diritto alla Santa Clara University, ha spiegato allo Standard che un'azienda che tace rischia di dover rispondere del crimine, se poi avviene. Ma più le aziende sono odiate, ha aggiunto, più sono spinte a segnalare troppo, pur sapendo che alcune persone indicate alla polizia «non andrebbero affatto prese di mira».
Ad aprile OpenAI, l'azienda di ChatGPT, ha scritto che avvisa le forze dell'ordine «quando le conversazioni indicano un rischio imminente e credibile di danno ad altri». A deciderlo sono revisori umani, con criteri prefissati. Nell'agosto 2025 scriveva che «può» segnalare il caso.
Ogni sei mesi Anthropic pubblica il conto delle richieste di dati arrivate dalle autorità. Fra le segnalazioni partite dall'azienda, l'unico numero pubblicato riguarda gli abusi sui minori. Nel primo semestre 2026 Anthropic ne ha mandate 15.079 all'NCMEC, il centro americano che le raccoglie. Quante minacce abbia passato alla polizia, e quante si siano rivelate scherzi, non risulta pubblicato.
