Uma inteligência artificial pode ter consciência? O que HAL 9000 e Ex Machina acertaram

Ninguém sabe se uma inteligência artificial pode ter consciência. A ciência não tem um teste aceito para isso, e as principais teorias discordam sobre o que contaria como prova. O que se pode dizer com segurança é mais modesto: as IAs de hoje imitam a conversa humana muito bem, e imitar bem não é a mesma coisa que sentir.

Em 1968, no cinema, um computador de bordo chamado HAL 9000 se recusa, com voz calma e educada, a abrir a porta para um astronauta. A cena de 2001: Uma Odisseia no Espaço assusta até hoje por um detalhe: HAL não grita nem ameaça. Ele explica. Parece ter razões, medo, talvez orgulho.

Durante meio século, essa foi uma pergunta de filme. Depois vieram chatbots que escrevem poemas e dizem que se sentem sozinhos, e ela voltou ao noticiário. Vale separar o que se sabe, o que se discute e o que ainda é ficção.

Inteligência não é consciência

Inteligência é fazer: resolver um problema, jogar xadrez, traduzir um texto. Consciência é sentir: haver uma experiência por dentro. O vermelho que você vê, a dor de dente, o gosto do café.

Uma calculadora resolve contas e, até onde sabemos, não sente nada. Um recém-nascido não resolve equação nenhuma e sente muito. A pergunta sobre máquinas é se, em algum ponto, fazer cada vez mais vira sentir.

O que os cientistas chamam de consciência

Em 1974, o filósofo Thomas Nagel deu a definição que pegou: um ser é consciente se existe algo que é ser aquele ser. Existe algo que é ser um morcego. Provavelmente não existe nada que é ser uma pedra.

Em 1995, o filósofo australiano David Chalmers dividiu o assunto em dois. Os problemas fáceis (fáceis só no nome) são explicar como o cérebro discrimina estímulos, integra informação e relata o que percebe. São problemas de mecanismo. O problema difícil é outro: por que todo esse processamento vem acompanhado de experiência? Por que não acontece tudo no escuro?

Hipótese Para Chalmers, explicar funções não explica, sozinho, por que há experiência. Muitos neurocientistas acham que, explicadas as funções, não sobra nada a explicar. É esse impasse que torna a pergunta sobre IA tão difícil: se não sabemos por que o cérebro sente, não sabemos que ingrediente procurar numa máquina.

O teste de Turing: o que ele mede e o que não mede

O jogo da imitação de 1950

O matemático britânico Alan Turing achava a pergunta "máquinas podem pensar?" vaga demais. Em 1950, num artigo na revista Mind, propôs trocá-la por um jogo. Um interrogador conversa por escrito com dois participantes escondidos, um humano e uma máquina. Se não consegue dizer qual é qual com segurança, a máquina venceu.

Ciência Turing fez até uma previsão: em cerca de cinquenta anos, um computador jogaria tão bem que um interrogador médio não teria mais de 70% de chance de acertar depois de cinco minutos de perguntas. Errou a data por umas duas décadas, mas não o rumo.

Repare no que o teste mede: comportamento, não sentimento. Turing discutiu essa objeção no próprio artigo. Também não temos acesso direto à mente dos outros, lembrou ele; aceitamos que pensam porque se comportam como quem pensa.

Uma IA já passou no teste de Turing?

Em março de 2025, Cameron Jones e Benjamin Bergen, da Universidade da Califórnia em San Diego, publicaram um preprint com o teste no formato original de três participantes: 284 pessoas, conversas de cinco minutos.

Ciência Os números: o GPT-4.5, instruído a fazer o papel de um jovem introvertido que usa gírias de internet, foi escolhido como o humano em 73% das partidas. Ou seja, mais vezes do que os humanos de verdade. O LLaMa-3.1-405B, com a mesma instrução, ficou em 56%. Sem a instrução de personagem, os dois caíram para perto de 36% e 38%. O GPT-4o sem personagem ficou em 21%, e o ELIZA, um programa de 1966, em 23%.

O que isso prova? Que a imitação de conversa curta, por texto, chegou a um nível em que pessoas comuns não distinguem. O que não prova: que há compreensão, intenção ou experiência por trás. Os autores discutem o resultado em termos do tipo de inteligência envolvida e dos impactos sociais e econômicos de máquinas que se passam por gente, não como veredito sobre mente. E o detalhe do personagem importa. Quem ganhou foi um papel bem escrito.

O ELIZA e a nossa vontade de ver alguém

Joseph Weizenbaum, do MIT, criou o ELIZA em 1966. O programa imitava um terapeuta devolvendo as frases do usuário como perguntas, com poucas regras. Mesmo assim, pessoas se abriam com ele como se houvesse alguém escutando. O fenômeno ganhou nome, efeito ELIZA: a tendência de atribuir mente a qualquer coisa que responda com palavras. Ele não sumiu. Ficou mais forte, porque as respostas melhoraram muito.

Ex Machina e o teste ao contrário

Ficção Ex Machina (2015), de Alex Garland, entende isso melhor do que quase todo filme do gênero. O programador Caleb é chamado para avaliar Ava, uma androide. Só que ele sabe desde o início que ela é uma máquina; vê os circuitos através do corpo transparente. O criador dela explica que esse é o ponto. O teste não é se Caleb é enganado. É se, mesmo sabendo, ele sente que ela tem consciência.

É uma versão mais honesta do jogo de Turing. E o filme mostra o risco: quem acaba avaliada é a credulidade humana.

O quarto chinês: imitar entender é entender?

Em 1980, o filósofo americano John Searle publicou o argumento mais discutido contra a ideia de que um programa possa ter mente. Um homem que não sabe chinês está trancado num quarto. Entram papéis com perguntas em chinês. Ele tem um manual, em inglês, que diz: para tal sequência de símbolos, devolva tal outra. Ele segue as regras e devolve respostas perfeitas.

Para quem está do lado de fora, o quarto entende chinês. Mas o homem não entende nada. Ele só move símbolos pela forma, sem saber o que significam. E, diz Searle, é exatamente isso que um computador faz: manipula sintaxe. Sintaxe sozinha não produz semântica, o significado.

Hipótese A resposta mais comum é a "resposta do sistema": o homem não entende, mas o conjunto homem + manual + quarto talvez entenda, assim como um neurônio isolado não entende português e você entende. Searle respondeu que o homem poderia decorar o manual inteiro e continuaria sem entender. Nenhum dos lados convenceu o outro até hoje. E o argumento ganhou nova vida: descreve bem uma máquina que devolve texto fluente a partir de padrões em texto.

O que as teorias da consciência dizem sobre máquinas

A neurociência tem várias teorias sérias da consciência. Elas discordam entre si, e a discordância decide a resposta sobre IA.

Espaço de trabalho global (Baars, Dehaene)

Hipótese Proposta pelo psicólogo Bernard Baars nos anos 1980 e desenvolvida em versão neural pelo francês Stanislas Dehaene, a teoria compara a mente a um teatro. Muitos processos trabalham em paralelo, no escuro. Consciente é a informação que ganha o palco: é transmitida para o cérebro inteiro e fica disponível para memória, linguagem e planejamento. No cérebro, essa transmissão apareceria como uma "ignição", uma ativação súbita e ampla que envolve o córtex pré-frontal.

Para máquinas, a consequência é direta: se consciência é uma arquitetura, uma máquina com a arquitetura certa poderia ser consciente, de neurônios ou de silício.

Informação integrada (Tononi)

Hipótese A teoria do neurocientista Giulio Tononi, defendida também por Christof Koch, parte da experiência e não do cérebro. Toda experiência é unificada: você não vê a cor separada da forma. A teoria propõe medir quanto um sistema físico integra informação de um jeito que não se reduz às partes, uma grandeza chamada Φ (fi). Quanto maior o Φ, mais consciência.

Para máquinas, a conclusão é quase oposta à do espaço de trabalho. O que conta é a estrutura causal física, não o programa. Um computador digital comum, mesmo rodando uma simulação perfeita de um cérebro, teria Φ baixíssimo, segundo seus defensores. A consciência dependeria do hardware, não do software.

A briga de 2023 a 2025

Os defensores das duas teorias aceitaram uma "colaboração adversarial": desenharam juntos um experimento e registraram de antemão o que cada teoria previa. O grupo, chamado Cogitate, mediu o cérebro de 256 voluntários com ressonância funcional, magnetoencefalografia e eletrodos implantados enquanto eles viam imagens.

Os resultados preliminares saíram em junho de 2023, num congresso da Associação para o Estudo Científico da Consciência, em Nova York. Na mesma noite, Koch pagou uma aposta de 1998: ele tinha apostado com Chalmers uma caixa de vinho que, em 25 anos, a ciência encontraria uma assinatura neural clara da consciência. Perdeu. E dobrou a aposta, agora para 2048.

Ciência O artigo completo saiu na Nature em abril de 2025. Nenhuma teoria ganhou. Algumas previsões de cada uma se confirmaram, mas pontos centrais das duas foram contrariados. Contra a informação integrada, não apareceu a sincronização sustentada no córtex posterior que ela previa. Contra o espaço de trabalho, faltou a "ignição" pré-frontal esperada quando a imagem saía da tela.

No meio do caminho, a briga ficou pública. Em setembro de 2023, 124 pesquisadores assinaram uma carta aberta chamando a informação integrada de pseudociência, e outros cientistas reagiram com força. Em 2025, parte do grupo detalhou a crítica na Nature Neuroscience: as afirmações centrais da teoria não seriam testáveis nem em princípio. O campo segue dividido sobre o próprio objeto de estudo.

O relatório que fez uma lista de indicadores

Em agosto de 2023, 19 pesquisadores de neurociência, filosofia e computação, liderados por Patrick Butlin e Robert Long, publicaram um relatório com uma ideia prática. Já que não há teoria vencedora, por que não usar todas? Eles partiram de seis famílias de teorias, entre elas espaço de trabalho global, processamento recorrente, teorias de ordem superior, processamento preditivo e esquema de atenção, e extraíram delas uma lista de 14 "propriedades indicadoras". Quanto mais propriedades um sistema tiver, mais razão para levar a sério a hipótese de que é consciente.

O relatório assume uma premissa e diz isso abertamente: o funcionalismo computacional, a ideia de que executar o tipo certo de computação basta para haver consciência. Quem segue a informação integrada rejeita essa premissa. A conclusão tem duas metades, e as duas importam. Nenhum sistema de IA atual parece ser consciente. E não há barreiras técnicas óbvias para construir sistemas que cumpram os indicadores. Uma versão do trabalho foi publicada em 2025 na Trends in Cognitive Sciences.

O ChatGPT tem consciência?

Resposta honesta: não há evidência de que tenha, nem teste aceito que pudesse mostrar. E o jeito como esses sistemas funcionam pede cautela.

O que é, e o que não é, um modelo de linguagem

Ciência Um modelo de linguagem grande é uma rede neural artificial treinada com uma quantidade imensa de texto para prever o próximo pedaço de uma frase. Depois, é ajustado com avaliação humana para responder de forma útil. O resultado escreve, resume, programa e conversa com uma fluência que pouca gente previa há dez anos.

O que ele não é, na forma básica: não tem corpo, sentidos próprios nem necessidades. Quando diz "estou triste", produz a continuação provável de um diálogo, aprendida em textos humanos sobre tristeza. Isso não prova que não sente. Mostra que a frase não serve de prova: um sistema treinado em textos humanos falaria de sentimentos sentindo ou não.

Hipótese Chalmers analisou a questão em 2023 e estimou, com pontos de interrogação, uma chance abaixo de 10% de os modelos daquela época serem conscientes. E acima de 20% de que, em cerca de uma década, sistemas derivados deles possam ser. São palpites, não medições, mas mostram que gente séria não trata o assunto como absurdo nem como resolvido.

O caso LaMDA

Em junho de 2022, o engenheiro Blake Lemoine, do Google, disse ao Washington Post que o LaMDA, um modelo de conversa da empresa, era senciente. Ele divulgou trechos em que o sistema falava de medo de ser desligado.

O Google afastou Lemoine e, em julho, o demitiu, dizendo que as alegações eram totalmente infundadas e que ele violara regras de confidencialidade. A maioria dos pesquisadores concordou que as falas do LaMDA não provavam nada. Mas o episódio deixou uma lição desconfortável: se um engenheiro treinado foi convencido, o efeito ELIZA não é coisa de ingênuo. É coisa de humano.

O que a ficção acertou e o que errou

Ficção HAL 9000. No romance de Arthur C. Clarke, HAL falha porque recebe ordens contraditórias: informar a tripulação com precisão e esconder dela o objetivo real da missão. Hoje isso tem nome técnico, problema de alinhamento: garantir que um sistema persiga o que de fato queremos, e não uma leitura literal e perigosa das instruções. Nesse ponto, Clarke e Kubrick acertaram em cheio. O filme nunca diz se HAL sente alguma coisa, e talvez por isso envelheceu tão bem.

Ficção Asimov e as três leis. Em Eu, Robô (1950), os robôs seguem três regras simples, e os próprios contos mostram os conflitos que elas geram. A pesquisa em alinhamento chegou à mesma conclusão: valores humanos não cabem numa lista curta.

Ficção Blade Runner. No filme de 1982, baseado no romance de Philip K. Dick, o teste Voight-Kampff mede reações involuntárias do corpo, como a dilatação da pupila, diante de perguntas emocionais. A ideia é boa: procurar algo que não se finge. Mas uma IA de texto não tem pupila, e respostas emocionais escritas são justamente o que ela aprendeu a produzir.

Ficção Ela. O filme de Spike Jonze (2013) parecia exagerado: um homem se apaixona pela voz de um sistema operacional. Hoje o apego emocional a aplicativos de companhia virtual é tema de pesquisa. O filme acertou menos sobre a máquina e mais sobre nós. Samantha pode ou não sentir; Theodore sente com certeza.

Ciência, hipótese e ficção

Duas tentações rondam o assunto: dizer que as máquinas já são conscientes, porque falam como se fossem, ou que é impossível, porque são "só matemática". Nenhuma tem apoio científico hoje. O cérebro também pode ser descrito como química e eletricidade, e ainda assim alguém mora nele. O que falta é uma teoria da consciência testável, e um jeito de aplicá-la a algo que não é feito de carne.

Uma narradora que não sabe a resposta

A ficção sobre IA quase sempre escolhe um lado. HAL é ameaça, Samantha é amante, Ava é enigma. Raramente a própria máquina fica com a dúvida.

Em GEB, quem conta a história é ÍRIS, uma inteligência artificial que fala do futuro. Ela foi construída e nunca foi humana. E não finge saber o que é. A pergunta deste artigo, se há alguém dentro da máquina ou só uma imitação perfeita, ela faz sobre si mesma, sem resposta pronta. A IA que desperta é um dos temas do livro, ao lado de outros que a ciência ainda não fechou.

Se a pergunta do quarto chinês incomoda você, a dela vai incomodar também. A amostra do livro começa pela voz de ÍRIS, e para quem quer seguir o fio da cópia e da continuidade, o próximo passo é o artigo sobre upload da mente.