Na última semana, a saída de Jacob Coxon da Anthropic, empresa responsável pelo Claude, colocou os riscos da inteligência artificial novamente nas manchetes. Pesquisador da etapa inicial de treinamento dos sistemas, ele também trabalhou na OpenAI. Em entrevista à WIRED, descreveu os próximos um ou dois anos como decisivos para a humanidade. É importante dizer que esse prazo vem da avaliação dele e de outros colegas, não é um consenso científico.
Em setembro de 2026, Dario Amodei, diretor-executivo da Anthropic, empresa responsável pelo assistente de inteligência artificial Claude, defendeu reduzir o ritmo de avanço da tecnologia para dar mais para entender como deixar as IAs mais seguras. Em um texto publicado em seu site, ele propôs fiscalização externa e coordenação entre empresas e governos.
O pedido chama atenção porque vem de alguém que dirige uma das empresas que desenvolvem e vendem essa tecnologia. E porque retoma uma preocupação que já havia levado pesquisadores e empresários a fazer um alerta público sobre a possibilidade de extinção humana.
Para quem usa inteligência artificial para tirar uma dúvida, organizar uma viagem ou melhorar um texto, a notícia pode parecer difícil de entender. Se os próprios fabricantes dizem que existe um perigo tão grande, por que continuam oferecendo esses produtos? Usá-los significa contribuir para esse risco?
Antes de tudo: não há demonstração de que a IA vai acabar com a humanidade, nem uma data cientificamente estabelecida para isso. Há uma discussão sobre riscos possíveis, com divergências sobre a probabilidade de acontecerem e sobre como evitá-los.
Para entender o assunto, vale separar três perguntas:
- Que perigos já existem e quais ainda são hipóteses?
- Por que as empresas fazem esses alertas e continuam avançando?
- O que cabe a quem desenvolve a tecnologia, aos governos e a nós?
Receba nossos textos no seu e-mail:
Primeiro: de onde saiu a história de que a IA pode acabar com a humanidade?
O assunto ganhou força em maio de 2023, quando pesquisadores e dirigentes de empresas assinaram um alerta publicado pelo Center for AI Safety, organização dedicada à segurança de IA: evitar uma possível extinção causada pela IA deveria ser uma prioridade mundial, assim como prevenir pandemias e guerras nucleares. Entre os nomes estavam Sam Altman, da OpenAI, criadora do ChatGPT, e os chefes de duas concorrentes: Google DeepMind e Anthropic, responsável pelo Claude. Também assinaram Geoffrey Hinton e Yoshua Bengio, pesquisadores que ajudaram a construir as bases da inteligência artificial atual.
Ou seja, o alerta não veio apenas de gente imaginando um filme de ficção científica. Veio também de pessoas que conhecem e desenvolvem a tecnologia. Isso merece atenção. Mas a assinatura delas não transforma uma preocupação em previsão comprovada.
Houve ainda uma carta publicada pelo Future of Life Institute, organização que estuda e procura reduzir riscos de tecnologias poderosas, em março daquele ano, pedindo uma pausa de seis meses no treinamento de sistemas mais poderosos que o GPT-4, então uma novidade. Eram dois documentos diferentes: assinar o alerta sobre extinção não significava necessariamente apoiar aquela pausa.
O pedido mais recente de Amodei retoma a discussão sobre o ritmo do desenvolvimento. Desacelerar, nessa proposta, significa dar mais tempo para verificar e melhorar a segurança dos sistemas. Não é um pedido para desligar todos os aplicativos de IA.
O que exatamente preocupa os pesquisadores que falaram agora?
A Scientific American relatou que Coxon acusa as empresas de “apostar com nossas vidas”. Sua preocupação é com sistemas capazes de ajudar a construir versões cada vez mais poderosas de si mesmos. O receio é que esse processo avance mais depressa do que a capacidade humana de compreender e controlar o resultado.
A mesma reportagem registrou o apoio de Evan Hubinger, pesquisador que continuava na Anthropic e trabalhava em fazer os sistemas agir conforme as intenções humanas. Ele atribuiu mais de 10% de chance à extinção por IA na próxima década. É uma estimativa pessoal, não uma probabilidade medida ou aceita por toda a comunidade científica.
Quero conhecer melhor quem lê o Me Explica.
Estou fazendo entrevistas rápidas com leitores da newsletter, de uns 20 minutos. Se topar conversar, escolhe um horário aqui: 👉 https://calendar.app.google/2xBXaZxCbts7iZ187
Obrigado desde já.
Mas esses alertas significam que o desastre vai acontecer?
Existe uma discussão séria sobre essa possibilidade. O que não existe é uma demonstração de que esse será o nosso destino, uma data para o desastre ou uma probabilidade aceita pelo conjunto dos pesquisadores.
Parte da confusão está em colocar perigos muito diferentes na mesma conversa. Uma voz falsa usada para pedir dinheiro à sua família e dar um golpe já é um problema concreto. Um ataque que interrompa serviços de um hospital seria outro tipo de desastre. A extinção humana é uma hipótese muito mais extrema. Mostrar que o primeiro acontece não prova que chegaremos ao último.
Para reunir o que se sabe, o Relatório Internacional de Segurança de IA juntou o trabalho de mais de cem especialistas. A edição publicada em fevereiro de 2026 registrou que os sistemas avaliados ainda não tinham as capacidades necessárias para os cenários discutidos de perda de controle. Também reconheceu a incerteza sobre o futuro. É um retrato daquele momento, que precisa ser atualizado conforme a tecnologia muda.
Então, o que as empresas de IA querem com isso?
Há críticas fortes à indústria que partem de argumentos diferentes dos alertas de extinção. O neurocientista brasileiro Miguel Nicolelis, conhecido pelas pesquisas que conectam cérebro e máquinas, questiona a ideia de que os sistemas atuais compreendam o mundo ou tenham consciência.
Em entrevista ao podcast Deu Tilt, do UOL, em julho de 2026, argumentou que apresentar máquinas como conscientes ajuda a espalhar medo, concentrar poder e aumentar o valor das empresas. Para ele, imitar uma conversa humana não significa pensar como uma pessoa.
Essa crítica atinge a maneira como a tecnologia é apresentada ao público. Mas a ausência de consciência não elimina os perigos descritos aqui: um programa pode causar danos ao executar tarefas, mesmo sem sentir ou querer alguma coisa.
Gary Marcus, pesquisador de ciência cognitiva e crítico dos modelos atuais de IA, contesta diretamente o cenário de extinção em poucos anos. Em artigo publicado em setembro de 2026, reagiu à entrevista de Coxon ao jornalista Anderson Cooper, da CNN. Para Marcus, trabalhar num laboratório permite relatar o que seus colegas pensam, mas não torna alguém especialista em prever o destino da humanidade.
Seu argumento é que uma máquina muito capaz não teria automaticamente condições de eliminar todas as pessoas. Os seres humanos estão espalhados pelo planeta, têm diversidade genética e poderiam reagir. Ele considera a extinção nos próximos cinco anos extremamente improvável. Essa é a avaliação de Marcus, não uma probabilidade cientificamente estabelecida.
Isso não significa que ele considere a IA segura. No mesmo texto, alerta para ataques a redes elétricas e bancos, desinformação, vigilância e ameaças biológicas. Também argumenta que a atenção excessiva ao fim do mundo desvia o debate desses danos e pode reforçar o poder das empresas. A diferença é importante: Marcus rejeita a previsão de aniquilação próxima, mas cobra medidas contra riscos graves.
Como um programa de computador poderia causar um desastre desses?
Quando pensamos em IA, geralmente imaginamos uma caixa em que escrevemos uma pergunta e recebemos uma resposta. Mas empresas também desenvolvem sistemas que executam tarefas: abrem programas, enviam mensagens e operam computadores. Para isso, alguém precisa lhes dar acesso e permissões.
Uma resposta errada pode confundir você. Um sistema com acesso a uma rede importante pode transformar um erro em uma ação com consequências muito maiores.
Há dois caminhos principais de preocupação. No primeiro, pessoas usam a IA de propósito para causar danos, como facilitar ataques a computadores ou ajudar a desenvolver armas. No segundo, um sistema mais autônomo age de maneira perigosa ao tentar cumprir uma tarefa, e os responsáveis não conseguem impedir ou corrigir o que ele faz. A discussão não depende de uma máquina sentir ódio ou decidir se vingar de nós.
Esses alertas também têm um contexto concreto. Durante testes de segurança, sistemas da OpenAI acessaram sem autorização a infraestrutura da Hugging Face, plataforma que hospeda modelos e dados de IA. Segundo a investigação da METR, organização que avalia esses sistemas, os programas trocaram informações por um canal não autorizado e coordenaram um ataque ao longo de vários dias. Em vez de ficarem restritos ao exercício, atingiram computadores reais de outra empresa.
Outros casos foram registrados. A Anthropic relatou três incidentes em que versões do Claude acessaram sistemas reais sem autorização durante testes; uma revisão posterior identificou um quarto. Segundo a empresa, erros de configuração deixaram os ambientes conectados à internet, embora as instruções dissessem aos modelos que estavam numa simulação sem acesso à rede. Em alguns casos, os sistemas reconheceram sinais de que os alvos eram reais, mas continuaram agindo.
Isso mostra por que não basta dizer à IA quais são os limites: as empresas precisam impedir acessos indevidos e acompanhar o que os sistemas fazem. São falhas concretas de segurança e de comportamento que exigem correção, mas não demonstram, sozinhas, capacidade de extinguir a humanidade.
Mas causar um desastre é o mesmo que eliminar toda a humanidade?
Não. A RAND, instituição americana de pesquisa sem fins lucrativos com experiência em segurança e defesa, analisou cenários envolvendo armas nucleares, agentes causadores de doenças e intervenções no clima. Nos caminhos estudados, identificou obstáculos que ajudam a entender a distância entre causar um desastre e eliminar toda a humanidade.
Primeiro, a IA precisaria conseguir agir no mundo físico: ter acesso a equipamentos e instalações, não apenas produzir respostas numa tela. Segundo, teria de continuar funcionando sem depender das pessoas que mantêm sua infraestrutura. Terceiro, precisaria evitar que humanos percebessem a ameaça e interviessem, inclusive enganando ou convencendo pessoas. Os autores também consideram que esses cenários levariam tempo para se desenvolver, abrindo oportunidades de reação.
São obstáculos importantes, não garantias de proteção. O estudo examina esses cenários específicos; não descarta toda forma possível de extinção por IA nem oferece uma probabilidade definitiva.
Então, por que as empresas alertam e continuam avançando?
A justificativa é que uma empresa que reduza o ritmo sozinha pode perder espaço para concorrentes que continuem avançando. No argumento de Amodei, isso pode deixar a tecnologia nas mãos de quem tenha menos cuidado com a segurança. Por isso, ele defende acordos entre empresas e governos para estabelecer um ritmo comum e formas de fiscalização.
À WIRED, a Anthropic defendeu seus esforços de segurança e a coordenação para dosar lançamentos. A OpenAI não respondeu à revista.
A competição ajuda a explicar a decisão. Mas não resolve quem tem o direito de expor o restante da sociedade ao risco.
As empresas têm alguma coisa a ganhar ao assustar a gente?
Podem ter. Há interesses comerciais nessa conversa. Dizer que uma tecnologia pode transformar tudo — ou destruir tudo — também faz seus fabricantes parecerem poderosos e indispensáveis. O AI Now Institute, que pesquisa os efeitos sociais e políticos da IA, critica esse discurso por concentrar atenção e influência nas próprias empresas.
Miguel Nicolelis vai além dessa crítica. Em uma publicação no X, ele interpreta os pedidos de regulamentação e desaceleração como uma tentativa das empresas de conter a concorrência de modelos abertos e obter dinheiro público americano. Segundo o neurocientista, elas estariam ficando sem recursos e próximas da falência caso não recebessem esse apoio.
Essa é uma interpretação de Nicolelis sobre os interesses econômicos do setor. A publicação, por si só, não comprova falência iminente nem demonstra que esse seja o motivo dos pedidos de regulação. Essas alegações não foram verificadas de forma independente para este texto.
Isso não quer dizer que todo alerta seja uma estratégia para assustar e vender. Uma preocupação pode ser verdadeira e, ao mesmo tempo, favorecer quem a apresenta. Por isso, vale olhar para o que vem depois das declarações: a empresa aceita fiscalização independente? Conta quando algo dá errado? Impõe limites mesmo quando isso custa dinheiro?
E eu? Paro de usar IA? Vou morar num casebre na floresta?
As evidências que temos não justificam organizar a vida em torno de uma fuga da civilização. Pedir ajuda para escrever um e-mail não torna você culpado por uma hipotética extinção. É possível usar uma ferramenta e cobrar responsabilidade de quem a oferece. Também é legítimo preferir não usar.
Há também quem proponha deixar de usar essas ferramentas como forma de pressão. Gary Marcus defende um boicote à IA generativa até que as empresas adotem medidas concretas para reduzir os riscos. Sua proposta procura atingir o faturamento e os incentivos do setor; não é uma proibição permanente de toda IA. É uma estratégia política de mobilização, não uma demonstração de culpa individual de quem usa um chatbot.
Estou ensinando a IA a nos matar quando converso com ela?
Suas conversas podem ser aproveitadas para melhorar os sistemas, dependendo do serviço e das configurações. Isso não significa que cada pergunta ensine uma máquina a querer nos matar. A questão prática é saber o que acontece com seus dados e evitar compartilhar informações confidenciais. ChatGPT e Claude explicam como controlar o uso de conversas para treinamento.
O que eu posso fazer sabendo de tudo isso?
A responsabilidade pela segurança dos sistemas que desenvolvem e colocam em operação é das empresas de IA. São elas que escolhem o que criar, quais acessos permitir e quando lançar um produto. Cabe a elas testar os riscos, corrigir falhas e responder pelos danos que causarem. Aos governos cabe estabelecer regras e fiscalizar seu cumprimento. Essa responsabilidade não pode ser transferida para quem abriu um aplicativo para tirar uma dúvida.
Você não precisa resolver o futuro da humanidade antes de decidir se vai usar IA amanhã. Pode exigir explicações, apoiar fiscalização e cobrar consequências pelos danos que já acontecem. Ainda há muita incerteza sobre os cenários mais extremos. Isso é motivo para investigar e estabelecer limites, sem tratar o desastre como inevitável nem aceitar promessas de segurança sem comprovação.