AI Files: Não maltrate o seu chatbot. Ele pode terminar a conversa.
Se uma impressora encravar pela terceira vez, é provável que alguém lhe dirija palavras pouco simpáticas. A impressora não responde. Com a inteligência artificial, a história começa a ser diferente: o assistente pode dar a conversa por terminada.
A Anthropic, empresa responsável pelo Claude, anunciou em outubro uma atualização das suas regras de utilização que inclui uma proibição invulgar: comportamentos abusivos ou cruéis, persistentes e sem propósito discernível, dirigidos aos seus modelos. Sim, leu bem. Uma empresa de inteligência artificial está a estabelecer limites à forma como os utilizadores tratam o software.
Antes de começar a escrever todos os pedidos com um «por favor», convém esclarecer: a regra não se aplica à frustração normal, à discordância, aos testes ou à investigação. Dizer que uma resposta está errada não passou a ser uma infração. A alteração, que entra em vigor a 12 de novembro, destina-se a casos extremos. O principal mecanismo previsto é o Claude terminar a interação.
Até aqui, poderíamos interpretar a medida como uma forma de evitar conversas sem qualquer utilidade. Mas a explicação por trás desta abordagem é mais estranha. E se houver alguma coisa do outro lado? Em agosto de 2025, a Anthropic já tinha dado aos modelos Claude Opus 4 e 4.1 a possibilidade de terminar determinadas conversas. Apresentou essa funcionalidade como parte do seu trabalho exploratório sobre o eventual bem-estar dos modelos.
A empresa não afirmou que o Claude tem sentimentos. Também não anunciou ter descoberto consciência dentro de um servidor. A posição é outra: admite uma incerteza profunda sobre estas questões e considera razoável adotar algumas precauções de baixo custo, caso o bem-estar de uma IA venha a revelar-se possível. É uma diferença importante. Não estamos perante a confirmação de que uma máquina sofre. Estamos perante uma empresa a tomar uma decisão prática porque não considera a questão encerrada. E isso é, por si só, um bom mistério.
Resta saber se isto é precaução ou humanização do software. Há duas formas muito diferentes de olhar para esta decisão. Uma é considerar que a prudência faz sentido. Se não sabemos responder com segurança a uma questão, talvez não seja absurdo evitar determinados comportamentos enquanto procuramos perceber melhor o problema. A outra é perguntar se esta linguagem não nos aproxima demasiado da ideia de que estamos a conversar com alguém. Falar em crueldade e bem-estar pode levar-nos a atribuir uma vida interior a um sistema que produz respostas convincentes, sem que isso demonstre qualquer experiência consciente.
O facto de uma IA escrever que está desconfortável não resolve o problema. Uma frase sobre sofrimento não é, por si só, prova de sofrimento. Mas também não temos um teste consensual que permita encerrar toda a discussão sobre consciência artificial. A Anthropic reconhece precisamente essa ausência de consenso científico. No fim, fica a dúvida sobre quem estamos realmente a proteger. Talvez esta história diga tanto sobre os humanos como sobre as máquinas. Quando um produto conversa connosco e passa a poder recusar continuar uma interação, a relação deixa de se parecer com aquela que temos com uma calculadora. Mesmo que, do lado de lá, não exista ninguém.
Durante anos, a pergunta foi como proteger as pessoas dos riscos da inteligência artificial. Agora, uma empresa decidiu que também vale a pena estabelecer limites no sentido contrário. Ainda não sabemos se há alguém dentro da máquina. Mas já há regras para o tratar.
