Anthropic diz que países usaram IA para propaganda e armas

A Anthropic interrompeu operações de inteligência artificial ligadas a governos que tentavam desenvolver propaganda política, drones de guerra e potenciais armamentos biológicos. O relatório interno da empresa, acessado pelo jornal The New York Times, detalha bloqueios diretos contra usuários da Rússia, China, Irã e Iêmen.

A desenvolvedora do modelo Claude identificou usos maliciosos de sua tecnologia em campanhas de desinformação e espionagem internacional. O documento destaca a atuação de agentes russos na fabricação de falsas reportagens jornalísticas focadas nas eleições da Moldávia.

O sistema também registrou tentativas dos governos chinês e iraniano para rastrear e vigiar opositores políticos exilados. As interrupções do serviço ocorreram logo após a detecção dos padrões anômalos nas buscas.

Anthropic detecta pesquisas sobre agentes biológicos

Os algoritmos da Anthropic registraram buscas avançadas que poderiam viabilizar a criação de patógenos perigosos e totalmente novos. A empresa relatou extrema dificuldade técnica em distinguir pesquisas legítimas para vacinas dos desenvolvimentos ilegais, já que o processo médico e militar se assemelha.

Na dúvida sobre a real finalidade dos estudos, os acessos foram suspensos imediatamente por precaução. O relatório omite os nomes dos pesquisadores, as instituições vinculadas e os agentes biológicos específicos investigados durante as auditorias.

A intervenção direta evitou que plataformas comerciais acelerassem a criação de novas ameaças à saúde global. A Anthropic reforça que monitora ativamente sua infraestrutura para impedir o avanço de armas de destruição em massa.

Alerta interno sobre a corrida pela superinteligência

A escalada do uso governamental e militar de modelos generativos gerou reações incisivas na indústria de tecnologia nesta semana. Jacob Coxon, ex-pesquisador de pré-treinamento, acusou publicamente sua antiga empregadora e a rival OpenAI de negligência extrema com o futuro da humanidade.

“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.

O programador britânico de 27 anos atuou diretamente na etapa em que os modelos absorvem volumes massivos de informação durante os últimos três anos. A vivência nos bastidores das grandes corporações embasou suas críticas.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, complementou o especialista em tecnologia.

As declarações de Coxon amplificam os debates legislativos urgentes sobre a regulação dos avanços de aprendizado de máquina. Especialistas do mundo todo demonstram apreensão com a possibilidade de a corrida comercial prejudicar as margens de segurança estabelecidas pela Anthropic e suas concorrentes diretas.