Anthropic permite que Claude encerre conversas abusivas

A Anthropic, empresa responsável pelo chatbot Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA). Com a mudança, o Claude poderá encerrar conversas que se enquadrem nessas condições.

A nova regra entra em vigor em 12 de novembro e não impede críticas ou manifestações de insatisfação com as respostas do chatbot. A restrição se aplica a interações abusivas ou cruéis que sejam persistentes e desnecessárias.

A decisão ocorre em meio ao debate sobre a possibilidade de sistemas de IA desenvolverem algum tipo de consciência e sobre como essas ferramentas devem ser tratadas.

O que muda na política de uso da Anthropic

Segundo a Anthropic, a capacidade de o Claude encerrar conversas continuará sendo o principal mecanismo para aplicar a regra. A política atualizada, porém, não menciona explicitamente o conceito de bem-estar dos modelos, discussão que envolve a possibilidade de sistemas de inteligência artificial merecerem algum tipo de proteção moral.

A Anthropic e seus executivos já abordaram publicamente essa questão. No ano passado, a companhia informou que daria ao Claude a capacidade de interromper conversas em casos raros e extremos de interações persistentes ou abusivas com usuários.

Em fevereiro, o presidente-executivo da Anthropic, Dario Amodei, afirmou ao The New York Times que não tinha certeza se modelos de IA poderiam ser conscientes, mas estava aberto a essa possibilidade.

“Não sabemos se os modelos estão conscientes… Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei.

Debate sobre consciência artificial divide especialistas

A possibilidade de máquinas desenvolverem consciência divide opiniões entre pesquisadores e profissionais do setor de tecnologia. Ainda não existe consenso científico sobre como definir ou identificar a consciência em sistemas de inteligência artificial.

Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, afirmou à AFP que concentrar a discussão na consciência pode levar a debates sem conclusão.

“Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos”, disse.

Para Stakeman, os sistemas de inteligência artificial refletem, em larga escala, o comportamento humano. Na avaliação dele, essa característica já é suficiente para justificar discussões sobre mudanças nas regras de utilização dessas ferramentas.

Microsoft rejeita ideia de consciência das máquinas

A possibilidade de atribuir consciência às máquinas também enfrenta resistência no setor de tecnologia. O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, rejeitou essa hipótese em um ensaio publicado no mês passado.

“As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem”, escreveu Suleyman.

O executivo também argumentou que conceder direitos e proteções morais a sistemas tecnológicos cada vez mais capazes poderia trazer riscos.

Papa Leão XIV aborda diferenças entre humanos e IA

Na quinta-feira (8), o papa Leão XIV tratou do tema durante um sermão em italiano na Basílica de São Pedro, no Vaticano.

Ao abordar as diferenças entre o pensamento humano e o processamento de informações pelas máquinas, como o da Anthropic, o pontífice afirmou que os algoritmos conseguem compilar dados mais rapidamente do que as pessoas. Ele, porém, ressaltou a importância das experiências vividas e da dimensão espiritual humana.