Mais de 90 cientistas assinaram um documento que promove o uso responsável da inteligência artificial na biologia. O pacto visa criar práticas de uso consciente de IA na concepção de proteínas sintéticas.
Atualmente os cientistas estão começando a utilizar os modelos de linguagem ampla (LLMs, na sigla em inglês) das IAs para desenvolver medicamentos, vacinas e demais materiais biológicos, incluindo designs de novas proteínas.
Como reportou o Geek Wire, a declaração de “Desenvolvimento responsável de IA para design de proteínas” foi apresentado durante a Winter RossetaCon 2024, conferência focada em engenharia biomolecular.
O documento apela para que a comunidade científica realize análises de segurança e proteção de novos modelos de IA na fabricação de proteínas antes de seu lançamento, além de emitir relatórios sobre as práticas de investigação.
O pacto chega após Dario Amodei, executivo-chefe da empresa de IA Anthropic afirmar que as inteligências artificiais podem ser utilizadas para a criação de armas biológicas, ou seja, vírus, bactérias, fungos e mais. Como lembra o The New York Times, a fala do executivo aconteceu no ano passado durante uma audiência do senado dos Estados Unidos que discutia os riscos da IA.
“Vejo isto como um passo crucial para a comunidade científica. O uso responsável da IA para a concepção de proteínas irá desbloquear novas vacinas, medicamentos e materiais sustentáveis que beneficiarão o mundo. Como cientistas, devemos garantir que isso aconteça e, ao mesmo tempo, minimizar a chance de que nossas ferramentas possam ser mal utilizadas para causar danos.”
- David Baker, diretor do Instituto de Design de Proteínas da Universidade de Washington.
A lista de signatários conta com nomes de cientistas renomados como Eric Horvitz, diretor científico da Microsoft e o Harvard George Church, geneticista de Harvard.
Os assinantes listam 10 compromissos que serão adotados para o uso de IA responsável:
“1. Conduziremos pesquisas para o benefício da sociedade e nos absteremos de pesquisas que possam causar danos gerais ou permitir o uso indevido de nossas tecnologias.
2. Apoiaremos os esforços comunitários para se prepararem e responderem a surtos de doenças infecciosas e outras emergências relevantes.
3. Obteremos serviços de síntese de DNA apenas de fornecedores que demonstrem adesão às práticas de triagem de biossegurança padrão da indústria, que buscam detectar biomoléculas perigosas antes que elas possam ser fabricadas.
4. Apoiaremos o desenvolvimento de novas estratégias para melhorar o rastreio da síntese de ADN, com o objectivo de detectar melhor biomoléculas perigosas antes de estas poderem ser fabricadas.
5. Avaliaremos continuamente as capacidades do nosso software de design de proteínas e procuraremos identificar e mitigar todos os riscos significativos de segurança e proteção.
6. Apoiaremos esforços para melhorar os métodos pelos quais nosso software de design de proteínas é avaliado para melhor identificar os riscos.
7. Analisaremos as capacidades e os riscos em nossa área em reuniões regulares e seguras.
8. Apresentaremos relatórios sobre práticas de pesquisa.
9. Comunicaremos os benefícios e riscos da nossa pesquisa.
10. Iremos rever estes princípios e compromissos conforme necessário e partilhá-los-emos com novos membros no terreno.”
SAIBA MAIS!
