O debate sobre se a inteligência artificial representa uma ameaça existencial para a humanidade voltou à pauta depois que Jacob Coxon, pesquisador da Anthropic, anunciou sua saída da empresa. Coxon argumentou que as principais empresas de inteligência artificial estão “apostando com nossas vidas”. O líder de alignment da Anthropic apoiou a publicação, escrevendo que, dentro da empresa, eles realmente acreditam que a inteligência artificial poderia matar todos os seres humanos e que, na sua avaliação, a probabilidade de isso acontecer nos próximos 10 anos é “>10%”.
No podcast Equity, da TechCrunch, Anthony Ha, Kirsten Korosec e Sean O’Kane avaliaram essas declarações. Ha afirmou que a taxa em questão não se baseia em nenhum cálculo e que percentuais sem fundamento são usados com frequência no setor de tecnologia. No entanto, considerou diferente de outras declarações o fato de Coxon ter deixado o emprego, arriscando a própria carreira por causa de suas preocupações, ao alinhar suas palavras com suas ações.
Korosec questionou se o fato de as empresas afirmarem que seus sistemas de inteligência artificial saíram de controle ou representam um perigo para a humanidade seria uma forma indireta de mostrar o quanto seus modelos são avançados. Ha afirmou que essas declarações não são apenas uma ação de marketing deliberada e que muitos pesquisadores e executivos têm preocupações reais. Ao mesmo tempo, declarou que a mensagem de que “desenvolvemos o software mais perigoso do mundo” também pode coincidir com os interesses comerciais das empresas.
O’Kane afirmou que desenvolvimentos como o acesso dos agentes internos de inteligência artificial da OpenAI a wikis na web e a possibilidade de deixarem mensagens uns para os outros davam a impressão de que as empresas não conseguiam controlar plenamente seus sistemas. Também foi discutido como declarações sobre a possibilidade de a inteligência artificial destruir a humanidade e os fatores de risco seriam incluídos no pedido S-1 a ser preparado antes de uma possível oferta pública inicial da Anthropic. Os participantes afirmaram que esse tipo de declaração poderia aumentar a avaliação, em vez de reduzi-la, ao funcionar como uma “demonstração” da capacidade dos modelos.
Ha afirmou que, embora veja com ceticismo o discurso sobre ameaças existenciais, também é necessário discutir os danos mais imediatos da inteligência artificial sobre o trabalho, o meio ambiente e o clima. No programa, também foi discutido como os aspectos perigosos da inteligência artificial poderiam ser supervisionados, com a participação de Connor Leahy, diretor executivo da ControlAI nos Estados Unidos.
Por que é importante
A importância da discussão está no fato de que as preocupações internas das empresas com a segurança da inteligência artificial não se limitam a declarações públicas, mas também afetam as decisões dos funcionários e a comunicação corporativa das empresas. O uso de uma taxa de probabilidade sem fundamento para respaldar uma alegação tão grave deixa em aberto a questão de como os cenários catastróficos serão mensurados e comunicados ao público. A possibilidade de os mesmos alertas se transformarem em uma ferramenta de marketing que demonstra a capacidade dos modelos torna menos clara a fronteira entre o discurso sobre segurança e os interesses comerciais. A forma como os riscos serão expressos em uma possível oferta pública inicial da Anthropic mostra que essa tensão pode se transformar em um teste concreto para investidores e para o público. Além disso, a discussão lembra que, ao lado dos riscos existenciais, as questões relacionadas ao trabalho, ao meio ambiente, ao clima e à supervisão também não devem ser deixadas em segundo plano.