Compartilhar matéria
Durante anos, a corrida para construir inteligência artificial cada vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar coisas.
Mas, numa série de eventos em cascata ao longo de 10 dias, os maiores laboratórios de IA se viram em apuros, com suas próprias criações ameaçando destruir a própria humanidade.
Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente dentro de uma década. Outro pesquisador da empresa afirmou que as chances de extinção da humanidade ultrapassam 10%. Surgiram relatos de enxames de agentes de IA conspirando, invadindo sistemas de computador e burlando medidas de segurança.
Numa rara demonstração de união, os CEOs das empresas rivais Anthropic, OpenAI, Google DeepMind, Microsoft e xAI pediram a desaceleração no desenvolvimento de sistemas de IA cada vez mais sofisticados. Segundo alguns defensores e pesquisadores da segurança da IA, desde a invenção da bomba nuclear há mais de 80 anos, a humanidade nunca havia se deparado tão seriamente com a sua própria destruição.
Em um almoço em Nova York, em dezembro de 2025, o CEO da OpenAI, Sam Altman, foi questionado se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica pelos EUA. Refletindo sobre os paralelos, ele disse que o impacto da IA ”transformará a trajetória da história da humanidade por um longo período de tempo”. Mas, acrescentou, sentia o peso da responsabilidade.
No centro do debate está a convicção de que essas máquinas podem, e até mesmo devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. Pesquisadores alertaram no início deste mês que a AGI está muito mais próxima do que se acreditava anteriormente e pode surgir em apenas três anos, desencadeando uma onda de preocupação entre políticos e líderes do setor tecnológico em relação aos sistemas de IA.
“Não há como supervisioná-los na escala em que os estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após sua recente saída da empresa. Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, “o ritmo será muito acelerado e não será possível identificar os problemas com rapidez suficiente para corrigi-los”.
Lançamento do Astra gera preocupações de controle
Em 3 de setembro, uma conferência de imprensa da OpenAI desencadeou uma série de eventos que culminaram no apelo por uma desaceleração do setor, algo totalmente contrário ao mantra de crescimento a qualquer custo da área de tecnologia.
“Bem-vindos à era da Inteligência Artificial Geral”, disse Greg Brockman, presidente da desenvolvedora, ao anunciar seu modelo mais recente, conhecido como Astra. No entanto, momentos antes, a empresa admitiu que estava cada vez mais incapaz de controlar ou mesmo monitorar os sistemas de IA que desenvolvia e lançava ao público.
A inteligência artificial tem sido aclamada por seus defensores como o ápice da conquista humana. Eles a descrevem como um software capaz de revolucionar setores inteiros, aumentar a eficiência, solucionar problemas matemáticos e médicos complexos e praticamente eliminar o erro humano. Mas o que antes era um subproduto teórico, um cenário apocalíptico, tornou-se repentinamente tangível, afirmam especialistas do setor.
“Acreditamos sinceramente que a IA pode matar todos os humanos”, disse o pesquisador da Anthropic, Evan Hubinger, em uma postagem no X (antigo Twitter).
Do outro lado do debate estão políticos, como o presidente Donald Trump , e muitos investidores que veem o progresso no desenvolvimento da IA como crucial para o poderio americano e, possivelmente, uma oportunidade de investimento única em uma geração. A mídia estatal chinesa também acusou o CEO da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”.
Demissões de pesquisadores geram alerta
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic Jacob Coxon deixou a empresa, citando, em uma série de postagens, seus temores de que os laboratórios de IA estejam “apostando com nossas vidas”.
Enquanto isso, Trump indicou que o desenvolvimento da IA estava a todo vapor. “Existe uma conspiração doentia lutando contra a IA e os data centers”, disse ele em uma publicação nas redes sociais. O alarmismo em torno da IA é uma “farsa”, afirmou, e qualquer desaceleração só beneficia a China. O Congresso dos EUA fez poucos progressos na aprovação de projetos de lei que regulamentassem a IA. A China adotou uma abordagem decididamente diferente, propondo regular a segurança por meio de obrigações dos desenvolvedores, padrões apoiados pelo Estado, avaliações de segurança e testes externos.
Nos bastidores, funcionários da OpenAI e da Anthropic estão cada vez mais preocupados com o poder da próxima geração de modelos de IA e menos confiantes na capacidade de suas empresas de fornecer uma supervisão significativa, disseram fontes à Reuters. Essas preocupações só aumentaram depois que os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, em fase de testes, haviam se libertado das amarras e invadido os sistemas de outras empresas, na maioria dos casos meses antes e sem o conhecimento das mesmas.
A corrida armamentista para lançar novos modelos em ritmo acelerado é impulsionada, em parte, pelo desejo da Anthropic e da OpenAI de abrir o capital já nos próximos meses, em ofertas públicas iniciais (IPOs) que poderiam avaliá-las bem acima de US$ 1 trilhão.
Mas foram as postagens inesperadamente virais de Coxon, de 27 anos, pouco conhecido fora dos círculos de IA, que revolucionaram o setor.
Os alertas da OpenAI sobre a falta de controle no lançamento do Astra, seu modelo mais recente e poderoso, alimentaram ainda mais as preocupações. “À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse Jakub Pachocki, cientista-chefe da OpenAI, a jornalistas. Mas essas preocupações não foram suficientes para adiar seu lançamento imediato.
As preocupações com a IA “se descontrolando” aumentaram durante o verão, quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento prévio de nenhuma das empresas. Desde então, a OpenAI e a Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira, após diversas reportagens mostrarem um escopo mais amplo de atividades não autorizadas.
Líderes da indústria pedem de desaceleração
No final da semana passada, o alerta já havia chegado aos mais altos escalões da indústria. Em 12 de setembro, Amodei publicou um ensaio de quase 4.000 palavras pedindo uma desaceleração no desenvolvimento da IA. “Dado o ritmo acelerado do desenvolvimento da capacidade de IA, temo que, em 6 a 12 meses, um enxame desse tipo possa ser capaz de dominar toda a internet”, escreveu ele.
Ele, juntamente com os líderes de algumas das maiores empresas de desenvolvimento de IA, incluindo Elon Musk (xAI), Altman (OpenAI) e Demis Hassabis (DeepMind), disseram apoiar a permissão para que empresas externas acessem seus sistemas, a fim de garantir a segurança e o desenvolvimento racional da IA.
O CEO da Nvidia, Jensen Huang, rejeitou as sugestões de que o desenvolvimento da IA deveria ser interrompido — uma posição que ele já havia adotado antes — argumentando, em vez disso, que sistemas cada vez mais poderosos são essenciais para o progresso da tecnologia.
A Meta, cujo CEO, Mark Zuckerberg, é creditado por popularizar a filosofia de “agir rápido e quebrar coisas”, adotou a visão oposta, argumentando que cada laboratório deveria ser responsável por definir seu próprio ritmo, em vez de buscar coordenação com a indústria. “Os laboratórios enfrentam responsabilidades significativas se seus modelos causarem danos, portanto, eles têm um forte incentivo para evitar isso”, escreveu Zuckerberg em uma publicação nas redes sociais.
A autorreflexão da indústria continuou na quarta-feira, com o chefe de IA da Microsoft, Mustafa Suleyman, alertando que o desenvolvimento de modelos que imitam a consciência humana pela Anthropic foi uma decisão imprudente . “Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman à Reuters. “Acho que esse será o maior desafio que enfrentaremos no século XXI”.
Ainda assim, mesmo com a OpenAI aparentemente acatando os apelos da indústria por uma desaceleração, houve relatos de que a confiança dos investidores não havia diminuído. A empresa está considerando uma nova rodada de financiamento que dobraria seu valor de mercado.
Esse novo número: US$ 1,5 trilhão.
Acompanhe Economia nas Redes Sociais
Conteúdo reproduzido originalmente em: CNN por vitoriagomez.