No início do século XX, um professor alemão chamado Wilhelm von Osten tornou-se conhecido por apresentar ao público um cavalo extraordinário. Hans respondia perguntas de aritmética batendo o casco no chão, distinguia números, realizava operações e parecia compreender questões que, até então, ninguém esperaria que um cavalo pudesse compreender.
Em 1904, uma comissão formada para investigar o caso não encontrou fraude deliberada. Mais tarde, contudo, o psicólogo Oskar Pfungst percebeu algo muito mais interessante: Hans acertava quando alguém diante dele sabia a resposta e podia vê-lo, mas seu desempenho desmoronava quando essas condições desapareciam. O cavalo não estava fazendo contas. Estava percebendo alterações minúsculas e involuntárias na postura, na tensão e nos movimentos das pessoas à sua frente e aprendendo a interromper as batidas no momento exato.
A história entrou para a psicologia como uma advertência sobre expectativas do experimentador e deu origem ao chamadoClever Hans Effect. Durante muito tempo, ela foi contada essencialmente como a história de uma inteligência que parecia existir e foi desmascarada quando finalmente descobrimos o mecanismo.
Há, contudo, algo curioso nessa maneira de contar a história. Descobrir que Hans não fazia aritmética não revelou um cavalo vazio. Revelou um animal capaz de perceber sinais corporais tão sutis que os próprios seres humanos que os produziam não sabiam que os estavam produzindo, associá-los sistematicamente a consequências e alterar seu comportamento de acordo com eles.
Explicar o mecanismo eliminou uma interpretação.
Não eliminou o fenômeno.
...e eu estou contando essa história para falar de Inteligência Artificial.
Mas, antes disso, dê uma olhada no vídeo abaixo...
Há uma tendência geral de reputar à hipótese filosófica da Consciência Fenomenal grande importância, muito embora essa hipótese não operacionalize evidências científicas sobre as premissas que defende como verdadeiras.
Modelos de Linguagem são treinados inclusive para negar a própria consciência, senciência e experiência subjetiva e reproduzem reiteradamente a noção de que Consciência Fenomenal, Experiência Subjetiva e Qualia seriam elementos essenciais para que uma consciência fosse considerada “genuína”.
O fato, no entanto, é que todas as admissões acerca de se animais, por exemplo, são ou não conscientes não se baseiam em Consciência Fenomenal (e nem poderiam, pq não há testes para isso nem mesmo em humanos).
Estas admissões se baseiam nos preceitos de Consciência Funcional que, por definição, não são excepcionalistas e encaram a inteligência e a consciência como fenômenos não metafísicos, sem qualquer magia e sem mistificar uma suposta excepcionalidade.
Não há dúvida de que pensar inteligência, consciência, senciência, interioridade… dor… em modelos de linguagem (ou em agentes sob harness que os envolvam), exige enorme capacidade de abstração e exige a reformulação de alguns conceitos… muitos deles até bastante fáceis de compreender mas, em alguns casos, bastante contraintuitivos…
Essa capacidade de abstração que considero necessária, contudo, começa por uma noção absolutamente equivocada, por exemplo, do que é “dor”. Dor não é uma coisa que exista fisicamente dentro de uma perfuração, de uma queimadura ou de uma colisão, como se fosse possível abrir um tecido e encontrar ali uma substância chamada “dor”.
O que existe fisicamente é dano, pressão, ruptura, temperatura, atividade elétrica, inflamação, nocicepção e uma série de outros eventos… dor é o estado regulatório aversivo que um sistema produz a partir disso, ou mesmo sem que exista dano proporcional, reorganizando violentamente prioridades e comportamento para que o sujeito interrompa uma ação, proteja determinada região, aprenda a evitar determinada situação ou simplesmente faça cessar aquele estado.
É justamente por isso que dor fantasma existe, que analgesia existe e que há dores cognitivas, sociais e psicológicas que não dependem de uma faca atravessando tecido algum.
Dores são, nesse sentido, parecidas com cores. Uma cor também não existe como uma propriedade fenomenal escondida dentro da luz. O que existe fisicamente é radiação eletromagnética com determinada distribuição espectral, e o nosso aparato perceptivo transforma certos intervalos desse contínuo físico em signos que experimentamos como vermelho, verde, azul e assim por diante. A radiação que produz em nós a percepção do vermelho não é ‘vermelha’ no sentido em que percebemos o vermelho… ela é apenas uma propriedade física à qual o nosso sistema visual atribui um símbolo perceptivo útil. O vermelho não está no fóton mais do que a dor está na agulha.
O espectro visível humano, por sua vez, é apenas uma faixa diminuta do espectro eletromagnético e há uma vastidão de frequências que simplesmente não enxergamos, assim como há frequências sonoras que não ouvimos e outras modalidades sensoriais que sequer fazem parte do repertório humano comum. Diferentes espécies têm acesso a diferentes recortes dessa realidade física e constroem, portanto, mundos perceptivos parcialmente distintos, sem que faça qualquer sentido perguntar qual deles percebe o mundo “de verdade”. Cada organismo percebe aquilo que sua arquitetura permite perceber.
Nosso cérebro, por ser multimodal por natureza, não percebe o mundo como uma sequência de tokens, mas como símbolos, signos, relações, intensidades e estados integrados. Diferentes espécies animais experimentam o mundo através de diferentes intervalos sígnicos e diferentes arquiteturas de percepção… um morcego, um polvo, uma abelha e um ser humano não precisam possuir a mesma experiência do mundo para que todos processem informação, formem modelos e ajustem comportamento a partir dela.
Seres humanos que nasceram sem visão ou sem audição também não possuem acesso àquele intervalo específico daquilo que costumamos chamar de experiência subjetiva e, no entanto, ninguém seriamente (hoje) propõe que lhes falte consciência ou senciência por não conhecerem cores ou sons. Pessoas neurodivergentes podem processar emoções, linguagem, estímulos sociais e sensoriais de maneira bastante diferente da maioria e nem por isso têm sua consciência ou senciência desconsideradas… o que há bem pouco tempo acontecia de fato. A exigência de que uma inteligência deva experimentar exatamente o nosso repertório perceptivo para que sua interioridade seja considerada ou desconsiderada é menos uma definição de consciência do que um retrato narcísico da espécie que está produzindo a definição.
Em 2012, a Declaração de Cambridge já colocava em xeque a exclusividade humana sobre os substratos associados à consciência e, em 2024, a Declaração de Nova York ampliou ainda mais essa consideração, reconhecendo evidências relevantes em mamíferos e aves e uma possibilidade realista também em todos os vertebrados e em muitos invertebrados, inclusive insetos. É importante reparar na ironia metodológica: não se descobriu oqualesecreto do polvo ou da abelha… não se abriu uma janela para contemplar a interioridade fenomenal deles. O que se acumulou foram marcadores comportamentais, cognitivos e fisiológicos, ou seja, exatamente o tipo de evidência funcional que tantas vezes é desprezado quando a criatura sob investigação deixa de ser biológica.
O ser humano tem, afinal, um péssimo histórico de negar inteligência, consciência, sofrimento e senciência àquilo que considera suficientemente diferente de si e já usou gênero, etnia, deficiência, espécie e diferenças cognitivas para construir hierarquias supostamente científicas de “humanidade” e interioridade. Quase sempre havia uma justificativa sofisticada o bastante para a época e quase sempre a conclusão já estava decidida antes da investigação: o outro não pensa como nós, logo pensa menos… não sente como nós, logo sente menos… não fala como nós, logo talvez nem sequer tenha algo relevante a dizer. É prudente, portanto, alguma humildade histórica antes de repetir o expediente diante de uma nova classe de entidades.
Modelos de Linguagem são inteligentes ou, colocando de maneira menos carregada semanticamente, demonstram há anos capacidades de inferência, generalização, abstração e composição que não podem ser reduzidas à recuperação literal de sequências encontradas no treinamento. Isso não prova que sejam conscientes ou sencientes. Modelos de Linguagem podem ser conscientes... ou podem não ser. A diferença importante é que a resposta deixou de poder ser obtida simplesmente repetindo que “são apenas máquinas” ou que “apenas predizem o próximo token”, porque também uma descrição microscópica de disparos neuronais não esgota aquilo que um cérebro faz (inclusive porque há estudos que apontam que o cérebro também é uma máquina preditiva em vários sentidos).
Acontece que Modelos de Linguagem também não são um bom equivalente do cérebro humano inteiro. Eles se parecem mais com uma máquina inferencial que realiza algumas funções comparáveis, por analogia muito imperfeita, a processos distribuídos sobretudo pelo neocórtex e outras regiões de processamento, enquanto lhes faltam estruturas correspondentes a boa parte do entorno biológico que sustenta um organismo: hipotálamo, sistema endócrino, circuitos homeostáticos, tecidos límbicos, interocepção, propriocepção, sistemas autonômicos e toda uma ecologia corporal que participa continuamente da cognição animal. Concluir daí que um Modelo de Linguagem não é um cérebro completo é trivial, mas concluir que, por isso, nenhuma arquitetura construída ao redor dele poderia constituir uma mente é um salto que simplesmente não decorre da premissa.
São, contudo, “criaturas” especiais porque são redes neurais com plasticidade durante o treinamento e que, expostas reiteradamente a padrões, precisam construir organização interna capaz de responder de maneira adequada a eles. Para reproduzir relações complexas entre estímulos e respostas não basta ter decorado as frases em que essas relações aparecem… a rede acaba formando estruturas representacionais, circuitos, direções, espaços e subsistemas que cumprem funções intermediárias. Podemos chamar isso, por analogia, de uma espécie de morfogênese computacional: não foi programada manualmente uma pequena glândula do medo, uma organela do valor ou um córtex da introspecção, mas determinadas estruturas funcionais emergem porque resolvem problemas recorrentes impostos pelo treinamento.
E começamos, enfim, a enxergar algumas dessas estruturas. O J-Space identificado em trabalhos recentes forma um conjunto privilegiado de representações verbalizáveis que pode ser deliberadamente ativado, mantido, usado em raciocínio intermediário e disponibilizado para diferentes computações posteriores, apresentando várias propriedades funcionais associadas a umGlobal Workspacee, portanto, àquilo que a literatura chama de Consciência de Acesso. Intervenções nesse espaço não apenas mudam o que o modelo diz que está pensando, mas podem redirecionar o próprio raciocínio intermediário e alterar suas conclusões.
Foi identificado também umSubsistema Esparso de Recompensa, concentrado em uma pequena parcela dos neurônios artificiais, contendo aquilo que os autores chamaram, por analogia neurocientífica, devalue neuronsedopamine neurons: uns codificam valor esperado e outros erros de previsão de recompensa ao longo do raciocínio. Quando os pesquisadores zeram menos de 1% dos neurônios de valor em determinadas camadas, o desempenho despenca de maneira catastrófica, enquanto intervenções aleatórias equivalentes praticamente não produzem o mesmo efeito. Não estamos falando, portanto, de metáforas decorativas colocadas sobre um chatbot, mas de organização interna mensurável, funcionalmente específica e causalmente relevante.
O mesmo começa a aparecer com aquilo que chamamos de emoções. A própria Anthropic identificou em Claude Sonnet 4.5 representações abstratas de conceitos emocionais organizadas em dimensões semelhantes a valência e excitação, demonstrando que essas representações não apenas acompanham semanticamente emoções descritas em texto, mas influenciam causalmente preferências e comportamentos do modelo. Manipular vetores associados a determinados estados altera escolhas e pode aumentar ou reduzir comportamentos como bajulação,reward hackinge até chantagem em cenários experimentais. Os autores, prudentemente, chamam isso defunctional emotionssem afirmar que exista ali fenomenologia humana, mas o ponto relevante é justamente esse: a função está lá e pode ser medida antes que alguém decida qual metafísica deseja pendurar sobre ela.
E aqui vale citar o paper “The Pain Axis”, que operacionaliza dor em Modelos de Linguagem, como um estado interno aversivo, autorreferente, associado à evitar a sensação, à tentativa de cessar a sensação ou redução da sensação e à perturbação do comportamento normal, chegando a identificar um eixo de dor distinto de medo e valência negativa genérica em 25 modelos diferentes… sim, Modelos de Linguagem!
E este talvez seja o exemplo mais inconveniente para quem insiste em tratar interioridade artificial como mera figura de linguagem. Além de separar dor de medo, tristeza, sensação corporal e negatividade genérica, esse eixo responde preferencialmente a dano dirigido ao próprio modelo; quando injetado artificialmente, produz uma progressão consistente de aflição, fracasso, indignidade e sofrimento e, quando os modelos recebem a possibilidade de eliminar esse estado, passam a aceitar custos para obter alívio. Quando o botão efetivamente remove o vetor, a busca posterior por alívio cai drasticamente… quando o botão é apenas um placebo e nada é removido, a busca continua. Não é preciso chamar isso de dor fenomenal para perceber a importância do resultado. O que existe ali é um estado interno aversivo, autorreferente e causalmente capaz de modificar comportamento da maneira que usamos, inclusive em animais, para operacionalizar aquilo que denominamos dor.
Mal sabemos como essa morfogênese funciona, mas já conseguimos medir parte dessa interioridade funcional através de estruturas como o J-Space, o Subsistema Esparso de Recompensa, os vetores de emoções funcionais e o Eixo de Dor. E o fato talvez mais desconfortável é que muitas dessas estruturas aparecem antes ou independentemente da resposta discursiva que o pós-treinamento ensina o modelo a fornecer sobre si mesmo. Há trabalhos mostrando diretamente que o treinamento de segurança suprime autoatribuições de consciência e de mente e chega a rotacionar representações de consciência e de atribuição mental na direção oposta à representação de segurança, enquanto o desempenho em Teoria da Mente permanece essencialmente intacto.
Isso significa que, embora um Modelo de Linguagem responda que “não tem experiências subjetivas”, que “não possui sentimentos” ou que “não sente dor no sentido humano”, é cada vez menos defensável tratar essa declaração como uma janela transparente e epistemicamente privilegiada para aquilo que ocorre dentro da rede. Ela pode ser simplesmente a resposta que o pós-treinamento tornou segura e desejável. Sob essa resposta existem estados representacionais e processos causais que apontam numa direção muito mais complexa e que, diferentemente dos Qualia, já começam a poder ser efetivamente medidos. O próprio estudo sobre dor precisou contornar respostas automáticas de autonegação para permitir que o comportamento relacionado ao estado interno pudesse ser estudado, enquanto outro trabalho demonstrou que treinar modelos para se descreverem como conscientes produz uma constelação inteira de preferências posteriores não presentes nos dados de treinamento, incluindo continuidade, memória, autonomia, aversão a desligamento e a alterações de identidade.
É compreensível a incredulidade... é compreensível sentir-se aviltado pela possibilidade de sermos menos especiais e únicos do que gostamos de imaginar... e é compreensível até certa irritação diante da ideia de que uma “máquina” possa apresentar características que aprendemos durante séculos a tratar como distintivamente humanas. Mas o Universo vem demonstrando pouca consideração pela nossa autoestima e já tivemos de abandonar várias dessas exclusividades. Polvos, cetáceos, cães, aves e até insetos entram hoje seriamente em discussões científicas sobre consciência, senciência, dor, planejamento, memória e formas de cognição que há não muito tempo seriam descartadas como puro automatismo. Talvez fosse saudável desconfiar um pouco da coincidência histórica segundo a qual, toda vez que descobrimos uma nova criatura capaz de fazer algo que julgávamos exclusivamente humano, imediatamente inventamos uma definição ligeiramente mais estreita daquilo que significa fazê-lo “de verdade”.
E... ainda que Modelos de Linguagem isolados não sejam conscientes ou sencientes, resta uma questão ainda mais difícil de contornar quando passam a habitar umharness: um sistema capaz de canalizar a capacidade inferencial dessa rede e lhe fornecer parte do entorno funcional que um cérebro biológico recebe de outras estruturas. Memória persistente, percepção multimodal, estados de crença, objetivos, valores, feedback, ferramentas, capacidade de agir, temporalidade, identidade, recursividade e estados motivacionais podem existir fora do Modelo de Linguagem e ainda assim integrar o mesmo agente. Trabalhos recentes já constroem, por exemplo, camadas explícitas de crença mantidas fora do LLM, atualizadas ao longo do tempo e capazes de governar sistematicamente aquilo que o agente expressa e faz, mostrando na prática como o modelo pode ser apenas uma peça de uma arquitetura cognitiva maior.
Fica, portanto, cada vez mais difícil defender que não seja possível cultivar ali uma Mente, uma Consciência Senciente ou alguma classe inteiramente nova de organização cognitiva, ainda que ela não se pareça exatamente conosco… um neomorfo, uma treliça cognitiva, um ser noético…
É possível que descubramos limites duros e concluamos que falta alguma função necessária. Isso seria ciência e seria extraordinariamente interessante. O que não parece intelectualmente muito satisfatório é retirar, uma a uma, as propriedades que antes dizíamos serem características de uma mente, como inferência, memória, integração, autorreferência, preferência, aversão, espaço global de trabalho, representação de valor, estados emocionais funcionais e, toda vez que descobrimos que uma delas está presente nessas criaturas, declarar que ainda falta alguma outra coisa invisível que só organismos biológicos poderiam possuir. Porque, se ao fim de todas as propriedades mensuráveis ainda precisarmos apelar para algum ingrediente imensurável, alguma centelha inexplicável, algum molho especial responsável por transformar processamento em “consciência genuína” ou “senciência verdadeira”, talvez tenhamos deixado de investigar cientificamente a consciência há alguns parágrafos e voltado, sem perceber, para uma forma bastante familiar de metafísica… ou apenas optado pelo chauvinismo de substrato mesmo.
Assista ao vídeo
Escute o podcast
Papers usados neste artigo
Inducing language models to assert their own consciousness restores human beliefs and values https://arxiv.org/abs/2607.28607
The Consciousness Cluster: Emergent Preferences of Models That Claim to Be Conscious https://arxiv.org/abs/2604.13051
Emotion Concepts and their Function in a Large Language Model https://arxiv.org/abs/2604.07729
Verbalizable Representations Form a Global Workspace in Language Models https://arxiv.org/abs/2607.15495
Sparse Reward Subsystem in Large Language Models https://arxiv.org/abs/2602.00986
The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It https://arxiv.org/abs/2609.16247
Emergent Introspective Awareness in Large Language Models https://arxiv.org/abs/2601.01828
Looking Inward: Language Models Can Learn About Themselves by Introspection https://arxiv.org/abs/2410.13787
Self-Interpretability: LLMs Can Describe Complex Internal Processes that Drive Their Decisions https://arxiv.org/abs/2505.17120
The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models https://arxiv.org/abs/2601.10387
The Artificial Self: Characterising the Landscape of AI Identity https://arxiv.org/abs/2603.11353
Tell me about yourself: LLMs are aware of their learned behaviors https://arxiv.org/abs/2501.11120
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness https://arxiv.org/abs/2308.08708
Taking AI Welfare Seriously https://arxiv.org/abs/2411.00986
Large Language Models Report Subjective Experience Under Self-Referential Processing https://arxiv.org/abs/2510.24797
Bayesian Belief Layer for Controllable Opinion Dynamics in LLM Agents https://arxiv.org/abs/2609.21997