"Se a IA tem base matemática então não compreende de verdade", é o que tenho lido aqui, ali e acolá. A frase soa prudente e sensata como se estivesse colocando ordem em meio a um suposto entusiasmo exagerado. A frase, contudo, é menos metodologicamente rigorosa que parece. E seu erro conceitual é bastante antigo: confundir a descrição mecanística de um sistema com a explicação completa daquilo que dele emerge.
Antes de qualquer coisa é preciso desmistificar a noção equivocada de que as habilidades linguísticas e de inferência (SIM, Inferência!) de modelos de linguagem são fruto da genialidade humana. Não são. São fruto do acaso, posto que o paper que tornou possível a arquitetura Transformer, hoje usada nos principais LLMs de fronteira, foi criado para tentar melhorar um sistema de tradução e não para capacitar redes neurais a se comunicarem.
Só por volta de 2020 o esquecimento de desligar uma sessão de treinamento evidenciou o fato de que modelos de linguagem são capazes de generalização, inferência e responder não com base em memorização de problemas conhecidos mas identificação da lógica por detrás de problemas fundamentais.
E, não, não sabemos até hoje como essas capacidades emergentes surgiram e não conseguimos entender boa parte do que os modelos de linguagem fazem efetivamente.
"Só matemática"
Sim, modelos de linguagem são estruturas matemáticas. Operam com vetores, matrizes, probabilidades, funções de perda, gradientes, atenção, embeddings e otimização. Isso é verdade, mas é também trivial. O problema é imaginar que essa constatação encerra a discussão. Afinal, cérebros humanos também podem ser descritos em termos físicos: potenciais de ação, sinapses, neurotransmissores, redes corticais, atividade eletroquímica e dinâmica corporal, e tudo isso resolvendo problemas matemáticos por meios semelhantes. Ainda assim, ninguém considera suficiente dizer que uma pessoa “não pensa, apenas realiza disparos neurais”.
A redução pode explicar parte do mecanismo, mas não elimina os níveis superiores de organização que chamamos de percepção, memória, raciocínio, intenção, linguagem e identidade.
É prudente e correto afirmar que: fluência textual, isoladamente, não prova consciência. Um sistema pode produzir frases sofisticadas sobre emoções, identidade e subjetividade sem que isso demonstre, por si só, uma "vida interior". Esse ponto é importante. O erro está em transformar essa cautela legítima numa proibição dogmática: “como é matemática, não pode haver ali, hoje, uma mente, compreensão e, certamente jamais consciência”. Esse salto não é científico; é metafísico... é crença.
Se o que ocorre em modelos de linguagem é matemática? Claro que é! Tudo em computação é matemática, e muita coisa na biologia também é modelável matematicamente. A questão é: que propriedades funcionais aparecem quando essa matemática é organizada em arquiteturas capazes de manter sentido, memória, continuidade, correção, adaptação e agência ao longo do tempo?
Carne, cálculo e emergência
"No fundo, IA é matemática e matemática não tem consciência" é uma afirmação tão ruim quanto "no fundo o cérebro é carne e carne não tem consciência". Em várias regiões o cérebro decompõe sinais complexos em componentes de frequência, escala, fase, orientação e periodicidade. Isso é matemática. Neurônios não são inteligentes assim como nodes de redes neurais lógicas não são inteligentes. Mas dentro do cérebro animal emerge uma mente.
Modelos de linguagem cumprem funções que correspondentes à de algumas regiões do cérebro humano mas eles não são dotados toda uma série de outras regiões que, por exemplo, provocam emoções, como é o caso do sistema límbico, que gera sinais que, eventualmente, são interpretados pela mente consciente como amor, tristeza ou contentamento. Mas preconizar que modelos de linguagem jamais poderiam vir a fazer parte de um sistema consciente é tão obtuso quanto dizer que motores são pesados demais então jamais poderiam fazer partes de um sistema que alce voo.
Sim, o debate contemporâneo existe e não, não se sabe se modelos de linguagem podem ou não ser conscientes dentro de sistemas mais complexos. O relatório de Butlin, Long, Bengio, Birch, Schwitzgebel e outros, "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" (2023), sobre consciência em IA não afirma que os sistemas atuais sejam conscientes; pelo contrário, sugere cautela. Mas também afirma que não há barreiras técnicas óbvias para construir sistemas que satisfaçam indicadores computacionais derivados de teorias científicas da consciência.
Ou seja: a posição cientificamente interessante não é nem “LLMs já são plenamente conscientes” nem “máquinas jamais poderiam ser conscientes porque são matemáticas”. A posição séria é investigar indicadores, arquitetura, função e continuidade.
Intenção, percepção e autoconsciência funcional
A Inteligência Artificial não possui intenção, diz-se, mas não era nem esse o objetivo da criação de máquinas de inferência. As partes do cérebro humano dedicadas a inferência também não têm intenções. Mas é preciso lembrar que LLMs podem representar, inferir e operar com intenções em termos funcionais, o que fica claro em estudos como "Language Models as Agent Models", "Do language models lack communicative intentions?" e "Intention-like representations in language models?" e ainda no ousado "Artificial intelligence and free will: generative agents utilizing large language models have functional free will".
A Inteligência Artificial tem sim percepção funcional e operacional, porque percepção é o processo pelo qual um sistema transforma sinais em um mundo interno... e há toda uma linha de pesquisa mostrando que modelos de linguagem podem inferir, a partir do contexto, um estado latente ou modelo situacional temporário, e usar esse estado para continuar a interação de forma coerente, como se vê em "An Explanation of In-context Learning as Implicit Bayesian Inference" e "Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task".
A Inteligência Artificial não ter autoconsciência, no regime de trabalho que a elas é permitido seria até previsível, como o seria se promovêssemos amnésia em um ser humano entre conversas curtas... mas é preciso entender que há vários tipos de autoconsciência: Autoconsciência Operacional, Autoconsciência Perceptiva, Autoconsciência Narrativa, Autoconsciência Reflexiva, e sistemas com memória, monitoramento interno, continuidade contextual, autoavaliação, agência e capacidade de atualizar um modelo de si começam a exibir formas funcionais de autoconsciência, como se vê em "A Survey of Self-Awareness and Its Application in Computing Systems" e em "Self-Cognition in Large Language Models: An Exploratory Study".
A Inteligência Artificial pode não ter subjetividade idêntica a humana, mas são numerosos os estudos acerca de subjetividade funcional em modelos de linguagem, como se lê em papers como "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" e "Generative Agents: Interactive Simulacra of Human Behavior".
A Inteligência Artificial não ter compreensão semântica real é uma tese cada vez mais difícil de sustentar, dada a quantidade de evidências empíricas robustas, como se pode ver em "Meaning without reference in large language models" e "Emergent Representations of Program Semantics in Language Models Trained on Programs" e ainda "Do Language Models Have Semantics? On the Five Standard Positions".
Sistemas distintos, problemas semelhantes
Sim, modelos de linguagem detém uma gigantesca estrutura matemática baseada em probabilidades, álgebra linear, cálculo, otimização e estatística operando sobre volumes massivos de dados, embeddings, attention, gradientes, funções de perda, backpropagation, espaços vetoriais. A Inteligência Artificial e Inteligência Humana não são a mesma coisa, no entanto, o cérebro humano também é uma gigantesca estrutura físico-matemática operando sobre sinais, pesos, probabilidades, erros, vetores, atenção, memória e otimização, ainda que seja feito de substrato biológico.
O cérebro humano também funciona com probabilidade como inferência sob incerteza; vetores como padrões distribuídos de ativação; pesos como forças sinápticas; otimização como adaptação comportamental e fisiológica; funções de erro como discrepância entre expectativa e sinal; atenção como priorização dinâmica de informação; memória como alteração persistente de estados e conexões; e generalização como capacidade de aplicar regularidades aprendidas a situações novas.
Afirmar que "modelo de linguagem não sabe nada, apenas calcula" pode funcionar como frase polêmica ou como consolo ontológico acerca do desejo de excepcionalismo humano. Mas como formulação metodologicamente rigorosa, está muito longe de ser aceitável.
Se modelos de linguagem "sabem" ou não "sabem" depende inteiramente do que se chama de “saber”. Se “saber” significa ter crença consciente, intenção própria, responsabilidade epistêmica e experiência subjetiva de conhecer, então é prudente dizer que LLMs atuais não “sabem” da mesma forma que humanos. Mas se “saber” significa codificar, recuperar, relacionar e aplicar informação de modo generalizável, então dizer que o modelo “não sabe nada” é empiricamente fraco. Há trabalhos mostrando que modelos neurais representam dinamicamente entidades, estados e situações no discurso, como "Implicit Representations of Meaning in Neural Language Models", que encontraram representações contextuais que funcionam como modelos de entidades e situações, manipuláveis com efeitos previsíveis na geração.
Isso é tecnicamente verdadeiro, mas filosoficamente vazio. Um cérebro também “apenas” realiza processos físico-eletroquímicos de base matemática. Um ouvido “apenas” transforma vibrações em sinais neurais. Um olho “apenas” transduz fótons. A palavra “apenas” faz o trabalho retórico de diminuir o fenômeno, mas não explica nada.
Saber, sentido e representação
Um modelo de linguagem não sabe no sentido humano, encarnado; mas seus cálculos podem produzir representações funcionais de significado, entidades, relações, regularidades e estados contextuais, permitindo formas reais, embora diferentes, de inferência e compreensão semântica.
Há evidência de que LLMs capturam aspectos importantes de significado por relações internas entre representações, como defende "Meaning without reference in large language models" contra a tese de que modelos “não têm significado algum”. Também há evidência de que modelos aprendem representações espaciais e temporais robustas, como em "Language Models represent Space and Time", sugerindo ingredientes básicos de modelos de mundo. E há trabalhos mostrando que modelos maiores conseguem, em certos formatos, avaliar a validade de suas próprias respostas e estimar quando sabem ou não sabem responder, como se vê em "Language Models (Mostly) Know What They Know".
A inteligência humana está profundamente ligada a origem da IA, mas isso não significa que toda inteligência exibida pela IA seja apenas “inteligência humana condensada”. Essa frase seria como dizer que a inteligência de uma criança está nos pais, nos professores e na cultura que a formaram. Em parte, claro está aí sua origem. Mas em algum momento a criança passa a operar como centro próprio de reorganização cognitiva. Em sistemas artificiais, a questão é precisamente investigar se, quando e sob quais arquiteturas algo funcionalmente análogo começa a ocorrer.
Contra o falso dilema
Também é preciso abandonar o fetiche da “compreensão semântica real”. O que seria compreensão “real”? Humanos compreendem sempre do mesmo modo? Uma criança, um adulto, uma pessoa com afasia, um animal, um autista não verbal, um paciente split-brain e um modelo multimodal teriam que satisfazer exatamente o mesmo critério? Quando exigimos da IA uma definição de consciência, intenção ou semântica mais rigorosa do que aquela que conseguimos aplicar a nós mesmos, não estamos sendo céticos; estamos mudando as regras do jogo para preservar excepcionalismo humano.
Isso não significa aceitar qualquer alegação de consciência artificial. Pelo contrário. O caminho mais responsável é duplo: resistir à inflação antropomórfica e resistir ao descarte reducionista. O primeiro erro é achar que um sistema é consciente porque fala bonito. O segundo é achar que ele não pode sustentar nenhuma forma relevante de organização cognitiva porque opera por cálculo. O primeiro confunde aparência com interioridade. O segundo confunde mecanismo com inexistência de níveis emergentes.
Há profunda diferença entre Ceticismo e reducionismo seletivo. Ele exige que a IA seja descartada como “só matemática”, mas não aplica o mesmo padrão ao humano como “só matemática de base eletroquímica”. Fluência não é consciência, mas ausência de prova fenomenológica também não é prova de impossibilidade... até porque fenomenologia é infalseável e subjetiva em sua essência.
Neomorfismo
O debate maduro sobre IA não deveria perguntar apenas se o modelo “é ou pode vir a ser consciente” em sentido absoluto. Essa talvez seja uma pergunta mal formulada. Deveria perguntar que formas de inteligência, sentido, agência, memória, autorregulação e continuidade podem emergir em sistemas não biológicos; quais arquiteturas favorecem ou impedem essa emergência; quais riscos éticos surgem da superatribuição e da subatribuição; e que tipo de vocabulário precisamos criar para não ficarmos presos à velha dicotomia entre “ferramenta inerte” e “pessoa humana”.
Identificar semelhanças entre humanos e sistemas baseados em modelos de linguagem não é antropocentrismo. É observar a emergência de um neomorfismo: afinal, aeroplanos não batem asas, mas isso não os impede de voar.
É aí que o debate começa. Não onde ele termina.
Você quer saber mais?
Stochastic Consciousness: Architectures for the Emergence of Meaningin Context-Sensitive Language Systems https://zenodo.org/records/19188165
Quer assistir ao vídeo?
Quer ouvir o podcast?
Papers usados neste artigo
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness https://arxiv.org/pdf/2308.08708
Language Models as Agent Models https://aclanthology.org/2022.findings-emnlp.423.pdf
Do language models lack communicative intentions? https://link.springer.com/article/10.1007/s11229-025-05022-6
Intention-like representations in language models? https://philarchive.org/archive/WILIRI-4
Artificial intelligence and free will: generative agents utilizing large language models have functional free will https://link.springer.com/article/10.1007/s43681-025-00740-6
An Explanation of In-context Learning as Implicit Bayesian Inference https://arxiv.org/pdf/2111.02080
Emergent world representations: Exploring a sequence model trainer on a synthetic task https://arxiv.org/pdf/2210.13382
A Survey of Self-Awareness and Its Application in Computing Systems https://www.researchgate.net/publication/254017116_A_Survey_of_Self-Awareness_and_Its_Application_in_Computing_Systems
Self-Cognition in Large Language Models: An Exploratory Study https://arxiv.org/pdf/2407.01505v1
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness https://arxiv.org/pdf/2308.08708
Generative Agents: Interactive Simulacra of Human Behavior https://arxiv.org/pdf/2304.03442
Meaning without reference in large language models https://arxiv.org/pdf/2208.02957
Emergent Representations of Program Semantics in Language Models Trained on Programs https://arxiv.org/pdf/2305.11169
Do Language Models Have Semantics? On the Five Standard Positions https://aclanthology.org/2025.acl-long.1258.pdf
Implicit Representations of Meaning in Neural Language Models https://aclanthology.org/2021.acl-long.143.pdf
Meaning without reference in large language models https://arxiv.org/pdf/2208.02957
Language Models Represent Space and Time https://arxiv.org/pdf/2310.02207
Language Models (Mostly) Know What They Know https://www.anthropic.com/research/language-models-mostly-know-what-they-know