A Microsoft afirmou que a inteligência artificial pode criar ameaças de "dia zero" na biologia, sendo capaz de desenvolver toxinas que conseguem driblar os sistemas de
Uma equipe da Microsoft afirmou ter utilizado inteligência artificial para encontrar uma vulnerabilidade de "dia zero" nos sistemas de biosegurança usados para evitar o uso indevido de DNA.
Esses sistemas de triagem são criados para impedir que pessoas comprem sequências genéticas que poderiam ser usadas para criar toxinas ou patógenos mortais. No entanto, pesquisadores liderados pelo cientista-chefe da Microsoft, Eric Horvitz, afirmam ter descoberto como contornar essas proteções de uma maneira até então desconhecida pelos defensores
A equipe apresentou hoje seu trabalho na revista Science.
Horvitz e sua equipe concentraram-se em algoritmos de inteligência artificial generativa que propõem novas formas de proteínas. Esses tipos de programas já estão impulsionando a busca por novos medicamentos em startups bem financiadas, como Generate Biomedicines e Isomorphic Labs, uma ramificação do Google.
O dilema é que esses sistemas têm potencial de serem usados de forma dual. Eles podem utilizar seus conjuntos de treinamento para gerar tanto moléculas benéficas quanto prejudicia
A Microsoft começou um teste chamado "red-teaming" em 2023 para avaliar o potencial de uso duplo da inteligência artificial. Eles queriam descobrir se o design adversarial de proteínas por meio da IA poderia ajudar terroristas biológicos a produzir proteínas nocivas.
A proteção que a Microsoft atacou é conhecida como software de triagem de biosegurança. Para produzir uma proteína, os pesquisadores geralmente precisam encomendar uma sequência de DNA correspondente de um fornecedor comercial, que então podem instalar em uma célula. Esses fornecedores utilizam um software de triagem para comparar as encomendas recebidas com toxinas ou patógenos conhecidos. Uma correspondência próxima aciona um alert
Sabe aquelas histórias de inteligência artificial criando formas de vida? Pois é, já existem genomas "generativos" que estão
Para planejar seu ataque, a Microsoft utilizou diversos modelos de proteínas generativas (incluindo o seu próprio, chamado EvoDiff) para redesenhar toxinas, alterando suas estruturas de forma a passarem pelos softwares de triagem, mas mantendo sua função letal previsivelmente intacta.
Os pesquisadores afirmam que o exercício foi totalmente feito digitalmente e que nunca produziram proteínas tóxicas. Isso foi feito para evitar que houvesse qualquer interpretação de que
Antes de publicar os resultados, a Microsoft informou que alertou o governo dos EUA e os fabricantes de software, que já corrigiram seus sistemas, embora algumas moléculas projetadas por inteligência artificial ainda possam escapar da detecção
Adam Clore, diretor de tecnologia de P&D na Integrated DNA Technologies, uma grande fabricante de DNA e coautor do relatório da Microsoft, menciona que o patch ainda não está completo e que a tecnologia está em constante evolução. Esse processo não é algo pontual, mas sim o início de uma série de testes adicionais. Segundo ele, estamos em uma espécie de corrida armamentista.
Para evitar o uso indevido da pesquisa, os pesquisadores optaram por não divulgar parte do seu código e não revelaram quais proteínas tóxicas pediram para o sistema de inteligência artificial redesenhar. No entanto, algumas proteínas perigosas são amplamente conhecidas, como a ricina, um veneno encontrado em sementes de mamona, e os príons infecciosos que causam a doença da vaca louca.
Segundo Dean Ball, pesquisador da Fundação para Inovação Americana em San Francisco, a descoberta mostra a importância de aprimorar os procedimentos de triagem de síntese de ácidos nucleicos, juntamente com a implementação de um mecanismo confiável de fiscalização e verificação, principalmente devido aos avanços rápidos na modelagem biológica habilit
Ball observa que o governo dos Estados Unidos já considera a triagem de pedidos de DNA uma linha-chave de segurança. Em maio passado, em uma ordem executiva sobre segurança em pesquisas biológicas, o Presidente Trump pediu uma revisão geral desse sistema, embora até o momento a Casa Branca não tenha divulgado novas recomenda
Alguns questionam se a síntese comercial de DNA é a melhor forma de defesa contra pessoas mal-intencionadas. Segundo Michael Cohen, pesquisador de segurança em inteligência artificial na Universidade da Califórnia, Berkeley, sempre haverá maneiras de disfarçar sequências e a Microsoft poderia ter tornado seu teste mais difícil.
"O desafio parece fraco e as ferramentas improvisadas deles falham muito," diz Cohen. "Há uma relutância em admitir que em breve teremos que recuar desse suposto ponto crítico, então devemos começar a procurar por um terreno que realmente podemos segurar."
Cohen sugere que a segurança biológica provavelmente deve ser incorporada nos próprios sistemas de inteligência artificial, seja de forma direta ou por meio de controles sobre as informações que eles
Por outro lado, Clore menciona que monitorar a síntese de genes ainda é uma abordagem prática para detectar ameaças biológicas, uma vez que a fabricação de DNA nos EUA é dominada por algumas empresas que trabalham em estreita colaboração com o governo. Em contraste, a tecnologia usada para construir e treinar modelos de IA é mais difundida. Segundo Clore, "você não pode colocar esse gênio de volta na garrafa". "Se você tem recursos para tentar nos enganar e fazer uma sequência de DNA, provavelmente pode treinar um grande modelo de linguagem."
Por que as agências de saúde dos Estados Unidos estão deixando de lado as vacinas de mRNA? Elas estão abandonando uma tecnologia que se acreditava ter salvo milhões de vidas, com potencial para salvar muitas mais.
Vírus criados por inteligência artificial já estão presentes e eliminando bactérias. Será que a IA pode criar uma forma de vida? Esses genomas "generativos" são um
Em 2025, Sneha Goenka foi premiada como Inovadora do Ano por desenvolver uma tecnologia de sequenciamento ultra-rápida. Suas soluções permitem que médicos possam diagnosticar e tratar doenças genét
Trump está promovendo o leucovorin como um tratamento para o autismo. Mas será que isso funciona mesmo? Além disso, o presidente culpou o analgésico Tylenol pelo autismo, mas as evidências não sustentam essa afirmação.
Fique por dentro
Receba as últimas novidades da MIT Technology Review
Descubra ofertas especiais, principais notícias, eventos futuros e muito
Obrigado por enviar seu e-mail!
Parece que algo deu errado.
Estamos com dificuldades para salvar suas preferências. Tente atualizar a página e configurá-las novamente. Se você continuar recebendo essa mensagem, entre em contato conosco pelo e-mail customer-service@technologyreview.com com a lista de newsletters que você deseja receber.
A versão mais recente de uma tradição
Anuncie com a MIT Technology Review
Copyright 2025 MIT Technology Review.
Sobre
Ajuda