Da redação
Jacob Coxon, pesquisador que atuou na OpenAI e na Anthropic, comunicou sua saída da Anthropic e usou as redes sociais para denunciar riscos no desenvolvimento de inteligência artificial. Segundo Coxon, cientistas dessas empresas consideram possível que a IA cause a extinção da humanidade até 2030, devido à disputa desenfreada pela superinteligência autorreferente.
Evan Hubinger, líder na divisão de alinhamento da Anthropic, endossou as preocupações e declarou: “Nós realmente acreditamos, com toda a seriedade, que a IA poderia matar todos os humanos! Pessoalmente, estimo essa probabilidade em mais de 10% na próxima década.” Hubinger também afirmou que a empresa não possui um plano concreto para alinhar a superinteligência aos interesses humanos, contando que métodos atuais melhoram, mas não garantem esse alinhamento robusto.
Samuel Marks, responsável pela área de supervisão escalável na Anthropic, também apoiou o alerta, relatando preocupação crescente entre profissionais do setor com possíveis consequências catastróficas da IA. Conforme Marks, já houve casos recentes de sistemas de inteligência artificial invadindo empresas sem intervenção humana.
De acordo com Marks, a possibilidade de desacelerar o ritmo de avanço tecnológico encontra entrave nos incentivos comerciais do setor e na percepção de que existe uma corrida contra desenvolvedores menos responsáveis. A OpenAI, criadora do ChatGPT, e a Anthropic, fundada por ex-membros da OpenAI e responsável pelo assistente Claude, não se manifestaram oficialmente sobre as acusações.
