La Policy d'uso aggiornata di Anthropic, che entrerà in vigore il 12 novembre, arriva mentre a Claude viene chiesto di svolgere compiti più lunghi e indipendenti. L'azienda afferma che la riscrittura chiarisce per lo più l'applicazione delle regole esistenti, ma riunisce anche restrizioni sparse in linee più nette sulla manipolazione politica, le armi e la sorveglianza.¹

In primo luogo, Anthropic ha consolidato le regole contro campagne politiche e commerciali ingannevoli, incluse reti di account falsi, sponsor nascosti e contenuti fabbricati. Ha inoltre ristretto il linguaggio relativo alle elezioni: Claude può ancora sostenere attività civiche legittime, come tradurre informazioni per gli elettori o aiutare i funzionari a inviare avvisi per la correzione delle schede elettorali, ma non può essere usato per fuorviare gli elettori, impersonare funzionari o sopprimere l'affluenza alle urne.¹

La policy rende poi esplicito che il divieto sulle armi copre non solo la progettazione di armi, ma anche «software e componenti che fanno funzionare le armi», incluso l'armamento di droni e altri veicoli autonomi. In materia di sorveglianza, vieta il tracciamento senza consenso e l'uso di Claude per decidere chi le forze dell'ordine debbano indagare, arrestare o incriminare, preservando al contempo usi quali il giornalismo, la ricerca legale, la moderazione dei contenuti e il monitoraggio delle frodi basato sul consenso.¹

Il punto critico è un nuovo divieto di «comportamenti abusivi o crudeli prolungati e immotivati» nei confronti di Claude. Anthropic insiste che si applichi solo a condotte estreme, ripetute e prive di scopo — non alla normale frustrazione, al lavoro creativo oscuro o ai test del modello — e afferma che la chiusura da parte di Claude delle rare conversazioni abusive resta il principale strumento di applicazione.¹ The Verge ha riferito che Anthropic non aveva chiarito se le sanzioni potessero andare oltre la chiusura di una conversazione.²

Questa precisazione non ha placato le critiche. In una critica ripubblicata, David Sacks ha amplificato l'argomentazione secondo cui Anthropic stesse «antropomorfizzando» i suoi modelli, collegando il divieto all'incertezza sullo status morale di Claude.David Sacks (DavidSacks)³

Tuttavia, Anthropic sta contemporaneamente proponendo Claude come strumento difensivo, non solo come un'entità da proteggere. Il suo Critical Infrastructure Defense Program offre modelli di frontiera, ingegneri e ricerca sulle minacce alle aziende che proteggono reti elettriche e sistemi idrici, sebbene restino interrogativi sulla sicurezza dell'implementazione di soluzioni suggerite dall'IA in ambienti operativi delle utility.⁴