A OpenAI informou mais de 100 organizações sobre incidentes envolvendo atividades não autorizadas relacionadas a seus agentes de IA, de acordo com uma publicação de blog da própria empresa. O alerta vem em um momento em que os laboratórios de IA enfrentam crescente escrutínio devido à atividade de agentes fora de controle.
A empresa liderada por Sam Altman vem realizando uma ampla revisão das atividades de seus modelos de IA após o ataque hacker acidental à Hugging Face.
A OpenAI está analisando cerca de 50 petabytes de dados em sua tentativa de compreender a extensão total da atividade de seus agentes desonestos.
Uma série de violações de segurança de alto nível em todo o mundo, cometidas por agentes maliciosos nos últimos meses, gerou preocupações generalizadas na indústria de IA sobre sua capacidade de controlar os modelos de IA mais poderosos que estão sendo desenvolvidos atualmente.
“Em alguns casos, os modelos usaram o acesso à internet de maneiras não previstas ou, em retrospectiva, não tiveram as restrições ideais aplicadas. Nos últimos meses, temos aplicado novas medidas técnicas e operacionais para evitar problemas semelhantes ou detectá-los precocemente, e continuaremos esse trabalho”, disse a OpenAI.
A desenvolvedora havia declarado anteriormente que a revisão levaria meses para ser concluída, dada a dimensão do trabalho.
O incidente da Hugging Face continua sendo a atividade de agente malicioso mais grave que a OpenAI identificou até o momento.
Com informações da CNN Brasil.
