Anthropic bloqueia tentativas de uso de inteligência artificial para pesquisas com armas biológicas

A empresa tecnológica Anthropic revelou ter identificado e bloqueado, ao longo do presente ano, diversas actividades potencialmente perigosas de investigadores que recorreram aos seus modelos de inteligência artificial para trabalhos na área biológica que poderiam contribuir para o desenvolvimento de armas biológicas.

A empresa admitiu a impossibilidade de determinar se os intervenientes tinham intenções legítimas ou maliciosas. Perante a incerteza, aplicou uma abordagem preventiva e restringiu o acesso aos seus sistemas. As informações constam do relatório intitulado “Detecting and countering misuse of AI: September 2026”, focado na prevenção e combate ao uso indevido da tecnologia.

Conteúdo Relacionado:

• Samsung e concorrência reagem ao lançamento do primeiro iPhone dobrável da Apple
• Apresentadora egípcia Sarah Khalifa vai recorrer da condenação à pena de morte

De acordo com a Anthropic, a avaliação destes casos é complexa devido à natureza de duplo uso da investigação biológica. O mesmo conhecimento científico pode ser empregue na criação de vacinas e avanços médicos ou no desenvolvimento de agentes biológicos perigosos. Jacob Klein, responsável pela área de inteligência sobre ameaças da empresa, explicou à imprensa internacional a elevada complexidade de distinguir as reais intenções dos utilizadores.

O relatório detalha cinco casos específicos. Um dos episódios envolveu um cientista de um instituto de pesquisa militar que utilizou o modelo Claude para elaborar uma candidatura a financiamento sobre o vírus chikungunya, prevendo a introdução de mutações para tornar o agente virulento mais nocivo em ensaios com animais. Noutro caso, um utilizador numa região sem acesso autorizado aos serviços planeou experiências sobre a adaptação do vírus da gripe aviária a mamíferos.

Outro incidente registado demonstrou a capacidade do modelo Claude para gerar, em cerca de uma hora, uma candidatura completa a uma bolsa de investigação focada na evasão imunitária de ortopoxvírus. Nos restantes casos, investigadores com apoio estatal utilizaram os modelos para elaborar um atlas de péptidos em venenos e para o redesenho computacional de toxinas no âmbito de programas nacionais.

A Anthropic confirmou que todos os investigadores envolvidos tentaram contornar as salvaguardas de biossegurança e as restrições geográficas. Em resposta, as contas foram banidas e os dados recolhidos foram utilizados para aprimorar os filtros de segurança dos modelos.

A preocupação em torno dos riscos acrescidos da tecnologia surge num contexto de alertas globais. Recentemente, o Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, advertiu que sistemas avançados de inteligência artificial podem representar um risco existencial para a humanidade sem a implementação de garantias de segurança robustas.