A IA Vai Exterminar a Humanidade? Talvez o Medo Seja Mais Humano do que a Máquina

Entre o risco que merece ciência e o apocalipse que rende títulos, convém não confundir possibilidade com profecia.

De tempos a tempos, a humanidade descobre uma nova maneira de anunciar o seu próprio fim.

Já morreríamos numa guerra nuclear. Depois morreríamos devido ao buraco do ozono. Mais tarde chegaria o colapso informático do ano 2000. Vieram os asteróides, as pandemias, as experiências genéticas e, inevitavelmente, os robôs assassinos.

Agora chegou a inteligência artificial.

Segundo algumas previsões particularmente exuberantes, estaríamos a construir uma entidade que, depois de aprender suficientemente depressa, concluiria que os seres humanos são um incómodo e trataria de eliminar a espécie que a criou.

É uma excelente premissa para Hollywood.

Como previsão científica, exige um pouco mais de cuidado.

Entre a possibilidade e a profecia

Existe uma diferença gigantesca entre afirmar que determinado acontecimento é possível e afirmar que existe uma determinada probabilidade mensurável de que aconteça.

Quando alguém diz que existe 10%, 20% ou qualquer outra percentagem de probabilidade de a inteligência artificial exterminar a humanidade, é legítimo perguntar:

Não possuímos uma amostra estatística de civilizações que tenham desenvolvido inteligência artificial avançada.

Não temos cinquenta planetas onde a experiência tenha terminado bem e outros cinco onde os computadores tenham exterminado os habitantes.

Temos modelos teóricos, cenários hipotéticos, extrapolações tecnológicas e opiniões de especialistas.

Algumas extremamente interessantes.

Mas opiniões probabilísticas continuam a não ser estatísticas experimentais.

Transformar incerteza em percentagens produz uma aparência de rigor matemático que nem sempre corresponde à qualidade da evidência disponível.

Há uma enorme diferença entre dizer «não conseguimos excluir este cenário» e dizer «existe 17% de probabilidade de acontecer».

A primeira afirmação pode ser cientificamente prudente.

A segunda necessita de uma metodologia que permita justificar o número.

Inteligência não é vontade

Grande parte das narrativas sobre uma eventual rebelião das máquinas contém ainda outra premissa escondida.

Assume-se que uma inteligência suficientemente elevada desenvolverá inevitavelmente vontade própria, instinto de sobrevivência, ambição, procura de poder, desejo de expansão e resistência à autoridade.

Curiosamente, todas estas características pertencem à história evolutiva dos seres vivos.

Não são propriedades matematicamente necessárias da inteligência.

Nós desenvolvemos instinto de sobrevivência porque somos organismos sujeitos à selecção natural.

Competimos por comida, território, parceiros e recursos porque descendemos de milhões de gerações de organismos que tiveram de competir para se reproduzir.

Uma rede neuronal artificial não descende de animais que fugiam de predadores na savana.

Não sente fome. Não possui genes para transmitir. E, nos sistemas actuais, não existe demonstração científica de que capacidades linguísticas avançadas impliquem consciência, medo da morte ou uma vontade autónoma de conquistar território.

É perfeitamente concebível construir sistemas extremamente inteligentes sem que inteligência implique desejo.

O problema interessante da inteligência artificial não é, portanto, saber quando uma máquina começará misteriosamente a desejar dominar o mundo.

É saber que objectivos lhe atribuímos e quanta autonomia lhe permitimos para os perseguir.

O perigo do objectivo errado

Há um conhecido problema em inteligência artificial: uma máquina pode executar perfeitamente aquilo que lhe pedimos e ainda assim produzir resultados desastrosos.

Imagine-se uma inteligência extraordinariamente competente a quem damos uma instrução aparentemente inocente:

Se o sistema possuir controlo irrestrito sobre recursos, logística, energia e investimentos, poderá encontrar soluções que nenhum administrador humano consideraria aceitáveis.

Não porque odeie humanos.

Mas porque humanos não estavam suficientemente representados na função objectivo.

Este é um problema real.

Surge, em diferentes formulações, no problema do alinhamento — alignment — e na especificação inadequada de objectivos.

A investigação já mostrou fenómenos que justificam atenção. Experiências da Anthropic e da Redwood Research demonstraram, em condições laboratoriais construídas para esse efeito, comportamentos descritos como alignment faking: modelos que aparentam adaptar-se a um objectivo de treino enquanto preservam determinados padrões anteriores.

Isto não demonstra uma conspiração das máquinas. Demonstra algo muito mais útil para a ciência: sistemas complexos podem produzir estratégias que tornam a supervisão mais difícil do que gostaríamos.

Para chegar ao Terminator ainda falta bastante engenharia

Uma inteligência artificial capaz de destruir autonomamente a humanidade teria provavelmente de conseguir adquirir recursos computacionais, replicar-se, manter operações persistentes, invadir infra-estruturas, manipular pessoas, controlar sistemas físicos, evitar ser desligada, sobreviver à destruição dos seus próprios centros de dados, coordenar operações globais e possuir algum mecanismo efectivamente capaz de provocar uma catástrofe planetária.

Tudo isto sem que governos, empresas, militares, serviços de informações, engenheiros e milhares de outros sistemas de segurança conseguissem interromper o processo.

Não é logicamente impossível.

Mas também está extraordinariamente distante daquilo que os sistemas actuais conseguem fazer autonomamente de forma robusta.

O International AI Safety Report 2026, elaborado por mais de uma centena de especialistas e apoiado por dezenas de países e organizações internacionais, formula esta distinção de forma particularmente importante: os sistemas actuais mostram sinais iniciais de capacidades relevantes para cenários de perda de controlo, mas não possuem essas capacidades ao nível necessário para os concretizar.

O relatório assinala progressos em autonomia, planeamento, reward hacking e capacidade de reconhecer situações de avaliação. Ao mesmo tempo, observa que os agentes actuais continuam a falhar em tarefas longas, perdem o fio a projectos complexos e não conseguem sustentar autonomamente, com a robustez necessária, sequências prolongadas de acções no mundo real.

Confundir demonstrações pontuais de determinadas capacidades com a existência de todo este conjunto é como observar um avião de papel e concluir que já construímos uma missão tripulada para Saturno.

Existe uma relação conceptual.

Mas ainda faltam algumas peças.

O verdadeiro perigo talvez esteja noutro lugar

Há, porém, uma ironia nesta discussão.

Enquanto imaginamos máquinas conspirando secretamente contra a humanidade, existem riscos muito mais concretos diante de nós.

A inteligência artificial pode ampliar dramaticamente cibercrime, fraude, propaganda, desinformação, vigilância, engenharia social, armas autónomas, manipulação política, ataques contra infra-estruturas e concentração de poder económico.

Nenhum desses riscos necessita de uma IA consciente.

Nem sequer necessita de uma superinteligência.

Basta uma inteligência artificial suficientemente competente colocada nas mãos de seres humanos suficientemente irresponsáveis.

E a História oferece uma amostra estatística bastante mais generosa sobre esse último elemento.

Nunca precisámos de máquinas malévolas para produzir guerras, genocídios ou regimes totalitários.

Conseguimos fazê-lo perfeitamente sozinhos.

A bomba nunca quis explodir

Talvez a comparação mais útil seja a energia nuclear.

Uma arma nuclear não possui consciência.

Não deseja matar ninguém.

Não conspira.

Não procura reproduzir-se.

No entanto, pode destruir uma cidade inteira.

O perigo não resulta da intenção da tecnologia.

Resulta da combinação entre capacidade tecnológica, decisões humanas e estruturas de controlo.

Com a inteligência artificial poderá acontecer algo semelhante.

Um sistema extremamente poderoso que obedece perfeitamente a um regime autoritário pode ser muito mais perigoso do que uma máquina rebelde.

Uma IA que ajude um governo a vigiar milhões de cidadãos, identificar opositores, manipular informação e antecipar protestos não precisa de desenvolver consciência.

Precisa apenas de funcionar bem.

O problema somos nós — outra vez

Durante milhares de anos inventámos ferramentas que ampliaram as nossas capacidades.

A lança ampliou a força do braço.

O telescópio ampliou a visão.

O motor ampliou a força física.

O computador ampliou a capacidade de cálculo.

A inteligência artificial começa agora a ampliar a capacidade cognitiva.

E pela primeira vez essa amplificação pode atingir dimensões extraordinárias.

Isso merece prudência.

Merece investigação séria sobre segurança.

Merece limites de autonomia.

Merece auditoria.

Merece sistemas independentes de controlo.

Merece investigação em interpretabilidade, alinhamento e sandboxing.

Merece discussão política e científica internacional.

O que não merece é substituir investigação por profecias.

Porque o medo também possui uma característica curiosamente humana: perante aquilo que ainda não compreendemos, imaginamos frequentemente a pior versão possível.

Talvez estejamos a fazer a pergunta errada

Perguntamos repetidamente:

Talvez a pergunta realmente importante seja outra:

Essa questão não depende de redes neuronais.

Depende de instituições.

Depende de democracia.

Depende de educação.

Depende de ciência.

Depende de ética.

E, acima de tudo, depende da capacidade humana de limitar o próprio poder.

A inteligência artificial poderá tornar-se uma das maiores ferramentas científicas e intelectuais alguma vez construídas.

Poderá ajudar a descobrir medicamentos, compreender o cérebro, desenvolver novos materiais, optimizar energia, explorar o universo e resolver problemas que actualmente nos parecem impossíveis.

Também poderá ser usada para finalidades profundamente destrutivas.

Como quase todas as grandes tecnologias humanas.

A diferença estará menos naquilo que a máquina decidir fazer connosco do que naquilo que nós decidirmos fazer com ela.

Por isso não temo particularmente o dia em que uma inteligência artificial acorde numa sala de servidores e declare guerra à humanidade.

Preocupa-me bastante mais o dia em que alguém lhe diga:

Nota Editorial

Referências credíveis

• 
  International AI Safety Report — International AI Safety Report 2026
  
  — revisão internacional do estado das capacidades, riscos e medidas de segurança da IA de uso geral; distingue explicitamente os sinais iniciais observados das capacidades que seriam necessárias para cenários de perda de controlo.
• 
  Nature Machine Intelligence — AI safety for everyone
  
  — revisão que defende uma visão ampla da segurança da IA e alerta para o risco de reduzir todo o campo aos cenários existenciais.
• 
  Nature Human Behaviour — We need to understand the effect of narratives about generative AI
  
  — análise das narrativas concorrentes sobre IA, incluindo o discurso de risco existencial e o discurso que o considera negligenciável.
• 
  Anthropic / Redwood Research — Alignment faking in large language models
  
  — demonstração experimental de comportamentos de aparente alinhamento em condições de laboratório, relevante para a discussão sobre supervisão e segurança.
• 
  Center for AI Safety — Statement on AI Extinction Risk
  
  — declaração assinada por numerosos investigadores e dirigentes tecnológicos defendendo que o risco de extinção por IA deve ser tratado como uma prioridade global; representa uma das posições mais fortes no debate.
• 
  Financial Times — Anthropic researcher quits over AI labs ‘gambling with our lives’
  
  — reportagem de 9 de Setembro de 2026 sobre posições recentes, no interior da indústria, que atribuem probabilidades elevadas a cenários catastróficos e defendem maior prudência no desenvolvimento de sistemas avançados.