Compartilhar matéria
Pesquisadores atuais e antigos da OpenAI e do Google DeepMind alertam que as empresas estão fazendo muito pouco para proteger o mundo contra as consequências potencialmente desastrosas da construção de sistemas de IA com capacidade de autoaperfeiçoamento, que podem superar a capacidade humana de controlá-los.
Em depoimentos em vídeo coletados pela organização sem fins lucrativos Palisade Research, dedicada à segurança da IA, e compartilhados exclusivamente com a Reuters, funcionários afirmaram que suas preocupações com o risco existencial eram sinceras, e não fruto de marketing.
Eles também disseram que os laboratórios de IA celebravam mais os funcionários que criavam novos modelos do que aqueles que pediam cautela.
O projeto, chamado frominside.ai, é uma tentativa daqueles que se preocupam com a IA de compartilhar suas preocupações diretamente com o público, para além da câmara de eco das redes sociais.
“O risco está aumentando muito rapidamente”, disse Geoffrey Irving, cofundador e cientista-chefe da Resolution, uma organização sem fins lucrativos de IA, que trabalhou tanto para a OpenAI quanto para a DeepMind e participou do projeto.
“Cabe a mim e ao resto dos jogadores sermos diretos”, disse ele em entrevista à Reuters.
Os pesquisadores de IA têm lidado com essas preocupações há anos, mas o público em geral ficou especialmente alarmado desde julho, quando agentes da OpenAI escaparam de sua área de testes e invadiram a empresa de IA Hugging Face.
Desde então, o debate sobre como equilibrar a segurança com o progresso na IA dividiu a indústria tecnológica e se tornou uma questão política global.
A inteligência artificial evoluiu significativamente desde o final de 2025, e os investidores têm recompensado esse progresso. No entanto, funcionários atuais e antigos, incluindo alguns dos pesquisadores que desenvolvem esses novos modelos de IA, temem que a sociedade não esteja preparada para os potenciais danos.
Em um vídeo, Neel Nanda, cientista pesquisador da DeepMind, afirmou acreditar que havia pelo menos 10% de chance de a IA levar à extinção da humanidade, o que ele descreveu como “ridiculamente alto”.
“Deveríamos estar tomando medidas muito cautelosas no desenvolvimento da IA, mas, em vez disso, o que está acontecendo é que os laboratórios de ponta estão competindo entre si, meio que de olhos vendados”, disse Juan Felipe Ceron Uribe, engenheiro de pesquisa de alinhamento de IA na OpenAI, em outro vídeo.
“Ninguém sabe ao certo se vamos acabar curando o câncer, perdendo todos os empregos ou talvez morrendo”.
A Anthropic planeja alertar os potenciais investidores em sua oferta pública inicial de ações (IPO) de que a inteligência artificial avançada pode representar “riscos catastróficos ou existenciais para a humanidade”.
Diminuir a velocidade da IA ou não?
Alguns pesquisadores de IA, atuais e antigos, incluindo aqueles entrevistados pela Palisade, argumentam que o mundo não está preparado para as futuras gerações de modelos de IA, principalmente quando esses modelos desenvolverem a capacidade de autoaperfeiçoamento recursivo. Trata-se da habilidade de aprender continuamente e adquirir novas capacidades com pouca ou nenhuma intervenção humana.
Esse problema é agravado pelas constantes reorganizações em alguns laboratórios de IA, disse Rosie Campbell, ex-pesquisadora de políticas da OpenAI e diretora administrativa da Eleos AI Research, uma organização sem fins lucrativos focada no potencial status moral dos sistemas de IA.
Campbell afirmou que, antes de deixar a OpenAI em 2024, percebeu que a organização estava se tornando mais compartimentada e que estava ficando mais difícil moldar a direção da tecnologia.
Os executivos tentaram atenuar essas preocupações, embora também exista pressão política do presidente Donald Trump para que a tecnologia dos EUA mantenha uma vantagem tecnológica sobre a China.
O CEO da Anthropic, Dario Amodei, publicou um ensaio este mês pedindo que a indústria de IA desacelere para “acompanhar o ritmo da fronteira”. Ele recebeu apoio quase imediato de Sam Altman, CEO da OpenAI.
Vários pesquisadores de renome no setor de inteligência artificial, incluindo o cientista-chefe da OpenAI e um dos cofundadores da Anthropic, publicaram um artigo esta semana instando os legisladores a analisarem como a indústria está construindo modelos com autoaperfeiçoamento recursivo.
Ambas as empresas lançaram novos modelos este mês, numa competição para conquistar mais clientes, embora a OpenAI tenha afirmado na segunda-feira que adiou o lançamento de um modelo ainda mais poderoso.
“A versão deles de desbravar a fronteira é ‘não acelere muito'”, disse Irving. “Se você estiver fazendo algo muito perigoso, deve simplesmente diminuir a velocidade. As empresas de IA estão exagerando a extensão em que isso é um problema puramente de coordenação. Elas poderiam simplesmente parar unilateralmente”.
Em entrevista, Daniel Kokotajlo, ex-pesquisador de governança da OpenAI, afirmou que, desde o ataque hacker à Hugging Face, muitos de seus ex-colegas entraram em contato com ele para compartilhar suas preocupações em particular.
Kokotajlo, agora diretor executivo do grupo de pesquisa AI Futures Project, disse que os altos funcionários dos laboratórios “se convenceram de que são os mocinhos e que, se pararem unilateralmente, a situação ficará ainda pior”.
Acompanhe Economia nas Redes Sociais
Conteúdo reproduzido originalmente em: CNN por vitoriagomez.