O cofundador da Anthropic, Jack Clark, disse à BBC que, no futuro, a sociedade poderá estabelecer regras para um “botão de desligamento de emergência” que possa ser usado por terceiros e desative completamente uma inteligência artificial que se torne perigosa. Clark afirmou que empresas, incluindo a Anthropic, dispõem de vários métodos de desligamento e defendeu que a necessidade e a supervisão sejam incluídas num debate político mais amplo. Sem atribuir uma percentagem à probabilidade de extinção da humanidade, Clark afirmou que um setor sem controlo é uma má ideia e que “se está a jogar com riscos enormes”. Jacob Coxon, que trabalhou na OpenAI e na Anthropic nos últimos três anos, demitiu-se, acusando as empresas de irresponsabilidade; defendeu que, num futuro próximo, os sistemas poderiam “hackear tudo” e que alguns funcionários acreditam que estes poderiam “matar a humanidade” dentro de 10 anos.
Porque é importante
A proposta abre o debate sobre um mecanismo de supervisão que possa ser operado externamente e seja independente das medidas internas das próprias empresas na área da segurança da inteligência artificial. Uma regulamentação deste tipo levanta questões sobre a partir de que limiar de risco, por decisão de quem e sob que supervisão um sistema seria interrompido. A objeção de Clark a deixar o setor entregue à sua própria supervisão leva para uma agenda política mais ampla a questão de saber se a responsabilidade pela segurança deve pertencer apenas às empresas responsáveis pelo desenvolvimento. A demissão de Coxon e as suas alegações sobre ciberataques e a existência da humanidade criam condições para questionar a relação entre as avaliações de risco dentro das empresas e as medidas divulgadas ao público. No entanto, permanece por esclarecer como será definida a autoridade do terceiro, em que se distinguirá dos métodos de desligamento existentes e como as alegações serão verificadas.
Contexto
A Anthropic não é um nome novo no arquivo do FikirPilot: nos últimos 90 dias, publicámos 13 notícias que mencionam este nome; a mais recente é de 15 de setembro de 2026.