Nas últimas semanas, executivos de algumas grandes empresas de inteligência artificial alertaram que a tecnologia que desenvolveram é perigosa. O CEO da Anthropic, Dario Amodei, afirmou que o progresso deveria ser desacelerado, enquanto o CEO da OpenAI, Sam Altman, declarou concordar com ele que o ritmo dos trabalhos de “frontier” deveria ser ajustado.
O pesquisador Jacob Coxon, que deixou a Anthropic, acusou a Anthropic e a OpenAI, onde havia trabalhado anteriormente, de não agirem com responsabilidade. Coxon escreveu que os desenvolvedores de inteligência artificial acreditam que ela pode matar toda a humanidade até o fim da década. O funcionário da Anthropic Evan Hubinger também concordou com essa opinião e afirmou considerar a probabilidade para a próxima década “>10%”.
Uma das preocupações é que a inteligência artificial ajude a projetar armas biológicas, como vírus letais que tenham como alvo genes humanos, fungos capazes de destruir a agricultura ou toxinas que possam ser adicionadas à água sem serem detectadas. Em 2022, pesquisadores da Collaborations Pharmaceuticals mostraram que, com um gerador de moléculas que haviam desenvolvido, foram produzidas 40.000 moléculas que poderiam ser agentes de guerra química em menos de seis horas; algumas foram projetadas para ser mais tóxicas do que agentes nervosos conhecidos.
David Magnus, de Stanford, considerou isso muito assustador. Segundo a pesquisadora de biosecurity Dunja Sabra, da Universidade de Hamburgo, bots de inteligência artificial podem fornecer informações científicas, instruções para experimentos e tutoriais em vídeo. A disseminação da edição genética, da biologia sintética e de laboratórios domésticos aumenta o risco.
Já existem triagens de DNA, “red-teaming”, “blue-teaming” e medidas de segurança para a inteligência artificial; no entanto, Sabra afirma que uma pessoa determinada pode acabar sendo bem-sucedida.
Por que isso é importante
Essa discussão mostra que a segurança da inteligência artificial não se limita à forma como os sistemas se comportam, mas também abrange a possibilidade de uso indevido de ameaças biológicas e químicas na etapa de concepção. Embora as triagens de DNA existentes, os métodos de supervisão entre equipes e outras medidas de segurança tenham como objetivo reduzir o risco, permanece em aberto se são suficientes para impedir a iniciativa de uma pessoa determinada. Por isso, a questão central não é apenas como ajustar a velocidade do desenvolvimento, mas também em que etapa os controles de segurança devem ser aplicados e em que medida devem ser considerados suficientes. O tema diz respeito diretamente não apenas aos executivos e funcionários de empresas de inteligência artificial, mas também aos pesquisadores interessados em edição genética, biologia sintética e laboratórios domésticos.
Termo: agente
Um agente de inteligência artificial é um software que, em vez de produzir uma única resposta, chama ferramentas e executa tarefas em várias etapas para alcançar um objetivo.