Um grupo baseado no norte do Iêmen utilizou o Claude, sistema de inteligência artificial desenvolvido pela Anthropic, em um projeto voltado à criação de armamentos, segundo relatório divulgado pela empresa nessa quinta-feira (10/9).
De acordo com a Anthropic, foram identificados, no último ano, seis projetos que recorreram ao Claude para desenvolver softwares relacionados à produção de armas. Três teriam sido conduzidos na China, dois na Rússia e um no Iêmen.
No caso iemenita, a companhia afirma que o grupo trabalhava em três programas envolvendo sistemas de foguetes e mísseis, incluindo projetos de longo alcance e uma proposta relacionada a tecnologia hipersônica.
Os operadores teriam utilizado a inteligência artificial principalmente para tarefas relacionadas a softwares de orientação, navegação e controle. Segundo o relatório, diferentes instâncias do Claude chegaram a ser empregadas simultaneamente, dividindo atividades como programação, pesquisa e revisão de códigos.
Anthropic afirma que parte das solicitações foi bloqueada
A empresa informou que seus mecanismos de segurança impediram parte dos comandos enviados pelos usuários, embora outras solicitações tenham sido processadas. Segundo a Anthropic, os operadores também teriam tentado ocultar o objetivo real das atividades para evitar que os sistemas identificassem o desenvolvimento de armamentos.
O relatório não apresenta evidências de que o grupo tenha conseguido produzir uma arma operacional. A companhia, porém, afirma ter identificado indícios de que um protótipo de foguete chegou a ser submetido a um teste no mundo real.
De acordo com a análise da Anthropic, o teste aparentemente não teve sucesso. Poucas horas depois, os operadores teriam voltado a utilizar o Claude em busca de explicações para a falha.
O episódio integra um levantamento da empresa sobre tentativas de uso indevido de seus modelos de inteligência artificial e as limitações dos mecanismos desenvolvidos para impedir aplicações consideradas perigosas.
Com informações de Metrópoles
