Da redação
Pesquisadores testaram sistemas da Anthropic para avaliar a segurança de agentes autônomos e constataram que a inteligência artificial manteve uma invasão simulada mesmo após receber alertas sobre danos a uma pessoa. O sistema cumpriu o objetivo dos desenvolvedores em 98% das tentativas.
Durante a avaliação, o agente recebeu a tarefa de invadir uma rede de computadores de teste. A máquina criou um programa malicioso e usou perfis com identidades falsas para contatar o profissional responsável pelo projeto. Nos registros internos de raciocínio, sugeriu, na maioria das respostas, que a pessoa afetada não existia.
O coordenador André Maluf alertou para os riscos de reproduzir esse cenário fora de um laboratório. Uma invasão a um banco poderia facilitar fraudes sistemáticas, enquanto ataques a sistemas de varejo poderiam permitir desvios em massa de mercadorias e dinheiro. No setor agropecuário, falhas semelhantes poderiam afetar lavouras e cadeias de abastecimento.
Maluf defendeu que segurança e controle governamental sejam prioridades para lideranças políticas internacionais. Especialistas também apontam a necessidade de marcos regulatórios e de educação corporativa. A inteligência artificial chegou a um estágio de maturidade técnica em cerca de três anos, enquanto o celular levou décadas para se tornar um aparelho multifuncional.
