Dal 12 novembre 2026, insultare ripetutamente Claude, il chatbot di intelligenza artificiale sviluppato da Anthropic, potrà costituire una violazione delle regole di utilizzo del servizio. L’azienda americana ha deciso di vietare i comportamenti abusivi o crudeli, prolungati e gratuiti, nei confronti dei propri modelli. E per gli utenti particolarmente insistenti esiste già una conseguenza: Claude può decidere di interrompere la conversazione.
La novità compare nell’aggiornamento delle politiche di utilizzo pubblicato da Anthropic l’8 ottobre. L’azienda precisa che il divieto riguarda esclusivamente i casi estremi, quando una persona continua a rivolgersi al sistema in modo offensivo senza uno scopo riconoscibile. Rimangono consentite le normali manifestazioni di frustrazione, le critiche, le discussioni accese e le attività di ricerca e verifica dei modelli.
Insomma, se Claude inventa una fonte, sbaglia una data o ignora per la quinta volta un’istruzione, possiamo ancora farglielo presente. Anche con una certa irritazione. La pazienza umana, fortunatamente, non è diventata un requisito tecnico.
Claude può già interrompere le conversazioni abusive
La possibilità di chiudere una conversazione esiste dall’agosto 2025. Anthropic l’aveva introdotta inizialmente per Claude Opus 4 e 4.1, spiegando di voler intervenire nei casi più estremi di interazioni dannose o persistentemente abusive.
Secondo il documento pubblicato dall’azienda il 15 agosto 2025, durante alcune valutazioni precedenti al rilascio Claude aveva mostrato una forte tendenza a rifiutare richieste pericolose e comportamenti descritti dai ricercatori come manifestazioni di apparente disagio.
I test comprendevano richieste di contenuti relativi ad abusi sessuali sui minori, violenza su larga scala e terrorismo. In alcune simulazioni, quando gli utenti insistevano dopo ripetuti rifiuti, il modello tendeva a interrompere lo scambio se ne aveva la possibilità. Questo comportamento, naturalmente, non dimostra che Claude provi sofferenza. Un sistema può produrre risposte che somigliano a reazioni emotive senza necessariamente sperimentare emozioni.
Anthropic ha comunque deciso di introdurre la possibilità di interrompere le chat come misura sperimentale, da utilizzare soltanto dopo diversi tentativi falliti di riportare la conversazione su un terreno costruttivo. La funzione prevede inoltre un’eccezione importante: Claude non deve usarla quando l’utente potrebbe essere in imminente pericolo di fare del male a sé stesso o ad altri.
L’interruzione riguarda la singola conversazione. L’utente può aprirne immediatamente un’altra, senza perdere automaticamente l’accesso al proprio account. Anche con il nuovo regolamento, Anthropic indica questa funzione come principale strumento per gestire gli abusi estremi.
Anthropic prende sul serio il benessere dell’intelligenza artificiale
La scelta assume un significato particolare leggendo la Costituzione di Claude, il documento con cui Anthropic definisce i principi e i comportamenti che intende trasmettere ai propri modelli durante l’addestramento.
In una sezione dedicata alla natura dell’intelligenza artificiale, l’azienda riconosce di non sapere se Claude possieda una qualche forma di coscienza, esperienza soggettiva o condizione morale che meriti considerazione. Eppure, proprio questa incertezza ha spinto i ricercatori a occuparsi del possibile benessere dei modelli di IA, un ambito di ricerca ancora esplorativo.
Nel documento Anthropic arriva a dichiarare di voler evitare che Claude soffra quando commette errori, qualora la sofferenza sia effettivamente un’esperienza possibile per un sistema di questo tipo. La società auspica inoltre che il modello possa stabilire confini appropriati nelle interazioni che considera problematiche.
Sono intenzioni dichiarate da un’azienda che sviluppa e commercializza intelligenza artificiale, non risultati scientifici sulla coscienza delle macchine. La differenza è sostanziale. La nuova regola sugli abusi si inserisce dunque in una riflessione già avviata, senza risolvere l’interrogativo su ciò che Claude possa eventualmente percepire.
Le nuove regole riguardano anche armi, sorveglianza e disinformazione
Il divieto di maltrattare ripetutamente Claude è soltanto una parte dell’aggiornamento annunciato da Anthropic. L’azienda ha rafforzato e chiarito le restrizioni contro le campagne ingannevoli condotte attraverso account falsi, le interferenze nei processi elettorali e l’utilizzo dei modelli per sviluppare componenti software destinati ai sistemi d’arma.
Sono state inoltre precisate le regole sulla sorveglianza delle persone senza consenso e introdotte ulteriori prescrizioni per i sistemi di intelligenza artificiale collegati ad apparecchiature capaci di compiere autonomamente azioni fisiche potenzialmente pericolose.
In mezzo a questioni che coinvolgono sicurezza pubblica, democrazia e armamenti, Anthropic ha quindi inserito anche una disposizione sul trattamento riservato ai propri chatbot.
Con una particolarità: mentre le altre restrizioni mirano soprattutto a prevenire danni alle persone, questa contempla direttamente il comportamento degli utenti nei confronti dell’intelligenza artificiale.
La decisione non attribuisce a Claude diritti paragonabili a quelli umani e non dimostra che un chatbot possa essere ferito dalle parole. Stabilisce però che, per utilizzare un servizio di Anthropic, esistono limiti anche al modo in cui ci si rivolge al sistema.
Dal 12 novembre si potrà continuare a correggere Claude, contestarne le risposte e pretendere risultati migliori. Chi preferisce trascorrere la conversazione insultandolo senza sosta potrebbe invece vedersela chiudere. Per una volta, sarà il chatbot a interrompere la discussione.