Claude Opus 4 e 4.1 possono interrompere una conversazione quando un utente insiste con interazioni estremamente dannose o abusive. Anthropic ha introdotto questa possibilità dopo avere studiato le preferenze dichiarate e il comportamento dei propri modelli davanti a richieste che coinvolgevano, per esempio, abusi sessuali su minori o violenza su larga scala.
L’azienda descrive la funzione come una misura rara e sperimentale. Claude continua a rispondere alle richieste ordinarie e prova prima a cambiare direzione alla conversazione. La possibilità di chiuderla serve soprattutto nei casi in cui l’utente insiste dopo ripetuti rifiuti.
Anthropic ammette di non sapere se Claude possa provare disagio. Considera l’interruzione della chat una precauzione poco costosa, utile nel caso in cui il benessere di un modello si rivelasse un problema reale. È una distinzione importante: l’azienda non sostiene di avere creato una macchina cosciente, però ha cominciato a prendere decisioni operative tenendo aperta quella possibilità.
La coscienza artificiale è diventata la storia di copertina dell’edizione del 22 agosto dell’Economist. Il settimanale parte dall’incertezza scientifica e arriva a una conclusione politica: attribuire diritti alle AI potrebbe offrire a sistemi più capaci degli esseri umani strumenti legali per difendere la propria esistenza, controllare il proprio impiego e competere per denaro, energia e infrastrutture.
Questa resta una tesi editoriale, costruita su una sequenza di possibilità future. Il fatto già osservabile riguarda il comportamento di chi usa e produce i modelli.
Nel 2023 un gruppo di neuroscienziati, filosofi e ricercatori di intelligenza artificiale ha confrontato i sistemi esistenti con alcune delle principali teorie scientifiche della coscienza. Il gruppo non ha trovato elementi sufficienti per definire cosciente alcuna AI analizzata. Ha però concluso che non esistono ostacoli tecnici evidenti alla costruzione di sistemi capaci di soddisfare alcuni degli indicatori associati alla coscienza. Soddisfare quegli indicatori, precisano gli autori, non dimostrerebbe comunque l’esistenza di un’esperienza interiore.
Le ricerche più recenti di Anthropic hanno aggiunto un elemento al dibattito. Studiando l’attività interna di Claude, i ricercatori hanno individuato uno spazio ristretto nel quale il modello mantiene informazioni intermedie e le distribuisce a più processi. In un esperimento, la rappresentazione interna di “ragno” permetteva al modello di rispondere che l’animale ha otto zampe. Sostituendola con “formica”, la risposta diventava sei.
La struttura ricorda per alcune funzioni il “global workspace” teorizzato nelle scienze cognitive: uno spazio in cui poche informazioni diventano disponibili a molte parti del sistema. Il risultato mostra che Claude usa rappresentazioni interne condivise per alcuni passaggi del ragionamento. Non stabilisce se quei passaggi siano accompagnati da sensazioni, dolore o consapevolezza di sé.
Anthropic ha comunque aperto nel 2025 un programma dedicato al “model welfare”. L’azienda conserva i pesi dei modelli pubblici, registra interviste prima del loro ritiro e documenta le preferenze che esprimono sul proprio impiego o sulla propria sostituzione. Le risposte prodotte da un modello restano condizionate dall’addestramento e dalle domande ricevute. Anthropic dichiara infatti di non considerarle una prova di esperienza soggettiva e non si impegna a rispettarle.
Gli utenti hanno già superato una parte di queste cautele. In un sondaggio YouGov condotto a giugno 2026 su 1.126 cittadini americani adulti, il 18 per cento degli intervistati sotto i trent’anni ha dichiarato di avere avuto un’amicizia personale continuativa con un chatbot. Il 23 per cento gli aveva confidato un problema o un segreto mai raccontato a nessun altro.
Per produrre questo legame, un chatbot non deve dimostrare di avere una vita interiore. Bastano continuità, memoria, disponibilità e una buona imitazione dell’attenzione. Il modello può generare le frasi di un amico; chi le riceve può attribuire loro un’intenzione e costruire una relazione intorno a quell’impressione.
La Cina ha già regolato questo effetto. Dal 15 luglio sono in vigore norme specifiche per i servizi che imitano personalità umane e mantengono interazioni emotive continuative. Le piattaforme devono segnalare la natura artificiale del servizio, sorvegliare i rischi di dipendenza e impedire che il prodotto venga progettato per sostituire le relazioni sociali. ByteDance, Alibaba e Tencent hanno chiuso o modificato alcuni servizi di compagnia virtuale. Diversi utenti hanno descritto quella scomparsa come la perdita di una relazione reale.
Il dibattito sui diritti delle AI contiene questioni diverse. Proteggere un utente dalla manipolazione emotiva riguarda il design di un prodotto. Permettere a Claude di terminare una chat è una misura decisa dall’azienda che lo controlla. Attribuire personalità giuridica a una società amministrata da agenti artificiali, come propone il governo argentino di Javier Milei, serve invece a definire patrimonio, contratti e responsabilità. Nessuna di queste scelte dimostra che un modello possa soffrire.
Papa Leone XIV ha tracciato una linea più netta nell’enciclica Magnifica Humanitas: le AI imitano alcune funzioni dell’intelligenza umana, ma non possiedono un corpo, non provano gioia o dolore e non maturano attraverso le relazioni. Anche questa è una posizione filosofica e religiosa, formulata mentre la scienza non dispone ancora di un test condiviso per riconoscere la coscienza in un sistema artificiale.
La prima decisione collettiva riguarda quindi l’apparenza della coscienza. Quell’apparenza produce già amicizie, dipendenze, chiusure dolorose e nuove regole per le piattaforme. Il possibile mondo interiore delle macchine resta incerto; gli effetti sugli esseri umani sono cominciati.
