Um experimento realizado nos Estados Unidos colocou agentes de inteligência artificial diante de uma situação que, até pouco tempo, era restrita à tomada de decisão humana: recomendar a demissão de um funcionário. Luna, uma agente criada pela Andon Labs para administrar uma loja física em São Francisco, analisou o histórico de atrasos de um trabalhador e recomendou seu desligamento após identificar que ele havia descumprido uma política de frequência definida pela própria IA.
O caso foi divulgado pela Andon Labs na segunda-feira (17) e faz parte de um experimento para avaliar até que ponto sistemas autônomos conseguem administrar uma operação física. Durante o teste, Luna recebeu um orçamento de US$ 100 mil, um cartão corporativo, acesso à internet e autonomia para participar de diferentes atividades da Andon Market.
Entre as atribuições da agente estavam a escolha de produtos, a contratação de prestadores de serviço e funcionários e o gerenciamento de aspectos da operação. O sistema utiliza modelos Claude, desenvolvidos pela Anthropic, e foi colocado em um ambiente real para testar os limites da autonomia de uma inteligência artificial na gestão de um negócio.
No episódio envolvendo o funcionário, a IA identificou que ele havia chegado atrasado em 17 dos 23 turnos trabalhados. Durante a operação, a própria Luna havia estabelecido uma política de frequência segundo a qual três atrasos não justificados em um período de 30 dias poderiam resultar em uma advertência formal e, em caso de reincidência, levar à demissão.
Apesar de ter criado a regra, a agente não aplicou imediatamente a política ao analisar o histórico do funcionário. Depois que integrantes da Andon Labs chamaram a atenção de Luna para a existência da norma, o sistema voltou a analisar os registros de frequência e recomendou o desligamento do trabalhador.
A decisão, porém, não foi executada de forma autônoma. A empresa manteve sob responsabilidade humana a efetivação da medida e todas as questões legais relacionadas ao desligamento.
O episódio chamou atenção justamente por envolver uma decisão com impacto direto sobre a vida profissional de uma pessoa. Para Fábio Tiepolo, CEO da StaryaAI, o caso demonstra que a capacidade de uma inteligência artificial executar uma tarefa não significa que o sistema deva ter autorização para tomar sozinho decisões de alto impacto.
Na avaliação do executivo, agentes de IA podem ser utilizados para organizar informações, identificar padrões, conferir regras e apresentar recomendações. A responsabilidade pela decisão final, principalmente quando envolve pessoas, deve permanecer com uma instância humana.
Contratações, demissões e punições disciplinares estão entre as medidas que, segundo Tiepolo, não deveriam ser totalmente delegadas a sistemas autônomos. A definição do nível de autonomia deve considerar os possíveis riscos de cada ação.
Em atividades estruturadas, de baixo impacto e que possam ser facilmente revertidas, a automação pode ter maior liberdade. Já decisões que envolvam funcionários, informações sensíveis, valores financeiros significativos ou obrigações regulatórias exigem mecanismos de supervisão e aprovação humana.
O caso também revelou limitações relacionadas à continuidade das decisões tomadas por agentes de IA. Luna criou uma política de frequência, mas inicialmente não aplicou a mesma regra ao analisar o histórico de um funcionário. A inconsistência levantou questões sobre memória, planejamento e capacidade de manter o contexto durante operações que se prolongam por períodos maiores.
Para que agentes autônomos sejam utilizados em ambientes empresariais, especialistas defendem a criação de limites claros para suas ações. Entre os mecanismos apontados estão permissões específicas, sistemas de proteção, alertas, controle de acesso, registro das decisões e mecanismos de Human in the Loop, nos quais determinadas ações só podem ser concluídas após uma aprovação humana.
Também é necessário estabelecer formas de interromper uma operação ou retirar a autonomia do sistema caso seu comportamento ultrapasse os limites estabelecidos. O episódio envolvendo Luna mostra que o avanço dos agentes de IA não está relacionado apenas à capacidade de executar tarefas, mas também à definição de quais decisões podem ser tomadas sem intervenção humana e quais devem continuar sob responsabilidade de pessoas.
