Anthropic ha recentemente aggiornato le sue linee guida per il chatbot Claude, concentrandosi sui casi di abuso verbale prolungato. Queste nuove direttive permettono al sistema di terminare conversazioni in situazioni di insulti ripetuti e messaggi privi di utilità, lasciando intatte le possibilità per gli utenti di criticare o segnalare errori.
Quando Claude può concludere una conversazione
Le nuove linee guida consentono a Claude di chiudere le chat abusive senza un ban immediato dell'account. Questa misura è riservata ai casi estremi di abuso e non si applica a critiche o errori comuni. La chiusura della conversazione avviene quando i messaggi sono costantemente offensivi e inutili.
Assenza di blocchi automatici
Anthropic ha chiarito che non ci sarà un blocco automatico dell'account per chi supera le soglie indicate dalle nuove norme, ma solo la chiusura della chat. Eventuali misure più severe potrebbero derivare solo da violazioni ripetute e dopo una decisione umana.
Motivazioni per la moderazione degli abusi
Ridurre le interazioni abusive non solo migliora la qualità delle chat, ma aiuta anche a mantenere i costi di calcolo sostenibili. Ogni messaggio implica lavoro per il sistema, quindi mitigare le chat inutili contribuisce a conservare risorse e sostenere il servizio a lungo termine.
