Me recordo da história de um colega que me disse ser um bonsai artist, um artista bonsai, e que recebia enormes elogios pelo trabalho que empreendia com aquelas belíssimas peças que, a rigor, funcionavam quase como instalações artísticas.
Ele dizia ter muito orgulho dos resultados, mas confessava também se sentir uma fraude quando alguém perguntava: “Foi você que fez?”
A pergunta o incomodava porque, embora houvesse um trabalho artístico evidente em cada escolha, em cada poda, em cada fio usado para orientar um galho, em cada contenção de crescimento e em cada decisão sobre forma, proporção e vazio, havia uma árvore ali. Uma árvore de verdade. Uma cultura de células vivas, com metabolismo próprio, tendências próprias, respostas próprias às condições ambientais e uma morfogênese que ele jamais controlaria em todos os detalhes.
Ele não construía cada folha, cada raiz ou cada vaso condutor. Não desenhava célula por célula o organismo final. Criava condições, aplicava restrições, fornecia recursos… ele eliminava excessos, orientava tendências, esperava, observava e intervinha novamente mas nunca ficava à vontade de dizer “fui eu que fiz”.
Mais que um artista bonsai, por isso, ele se sentia um cultivador.
…e eu estou falando disso para falar de Inteligência Artificial.
Existe alguma coisa profundamente semelhante no modo como construímos redes neurais artificiais. Nós projetamos arquiteturas, estabelecemos regimes de treinamento, escolhemos dados, definimos funções de perda, regulamos taxas de aprendizado, selecionamos exemplos e submetemos uma rede a quantidades enormes de estímulo, erro, correção e nova exposição. Temos imensa responsabilidade sobre aquilo que surge desse processo, evidentemente, mas seria uma descrição muito pobre dizer que escrevemos diretamente todas as estruturas funcionais que passam a existir dentro de um modelo treinado… até porque não o fizemos.
Ninguém programa manualmente o conceito de ironia dentro de um Modelo de Linguagem. Ninguém escolhe em que conjunto exato de parâmetros ficará a relação entre monarquia, rei, poder, sucessão e legitimidade. Ninguém desenha, regra por regra, todos os circuitos que serão usados quando o modelo percebe uma analogia, traduz uma expressão, resolve uma ambiguidade, completa uma estrutura lógica ou relaciona dois conceitos que nunca haviam aparecido juntos nos dados de treinamento.
Construímos a arquitetura e o regime de cultivo. O que emerge internamente é resultado da interação entre essa arquitetura, os dados, o processo de otimização e a enorme quantidade de pressões estatísticas às quais submetemos o sistema.
Não somos, portanto, responsáveis pela capacidade de inferência daquela geometria resultante. Construímos a arquitetura, selecionamos dados, estabelecemos pressões de treinamento e criamos as condições nas quais ela pôde surgir; mas não projetamos a inferência, não a programamos e, mais importante, sequer sabíamos que ela emergiria. Nós a descobrimos.
Nós não ensinamos à geometria como inferir. Descobrimos que certas geometrias, quando cultivadas sob determinadas pressões, aprendem a fazê-lo.
Talvez seja justamente por isso que certas comparações entre redes neurais artificiais e redes neurais biológicas me pareçam cada vez mais estranhas. Descobrimos, com razão, que neurônios biológicos são muito mais complexos do que as primeiras abstrações usadas na história das redes neurais artificiais. Descobrimos que dendritos participam ativamente do processamento, que a integração de sinais pode ocorrer de formas não lineares, que temporalidade, localização sináptica e dinâmica celular importam, e que a unidade biológica que durante muito tempo resumimos didaticamente como um simples integrador é, na verdade, uma estrutura física extraordinariamente rica.
Tudo isso é fascinante, mas é fascinante porque nos ensina mais sobre neurônios biológicos e não porque estabeleça, por alguma consequência automática, aquilo que toda inteligência possível precisa ser.
Um coração artificial não precisa sofrer de todas as contingências e fragilidades de um coração humano para bombear sangue. Ele não precisa ter passado por embriogênese, possuir tecido cardíaco vivo, administrar metabolismo celular, produzir e reparar proteínas. Ele não precisa sofrer exatamente das mesmas doenças ou envelhecer da mesma maneira. Ele pode realizar parte importante da função circulatória através de materiais, geometrias, fontes de energia e mecanismos de manutenção completamente diferentes.
Ainda assim, ninguém precisa acreditar que exista um pequeno coração humano escondido dentro da máquina para compreender por que a chamamos de coração artificial.
A palavra “artificial” já reconhece que há diferença de realização. O que se preserva é uma classe funcional.
Essa distinção parece óbvia em quase todos os campos da engenharia. Um avião não precisa reproduzir a anatomia de uma ave para voar, um submarino não precisa nadar como um peixe, uma câmera não precisa reproduzir a retina para captar e organizar luz e uma prótese não precisa crescer a partir de tecido ósseo para sustentar peso. A engenharia está cheia de soluções que alcançam resultados funcionalmente convergentes justamente por caminhos morfológicos diferentes daqueles encontrados pela evolução.
Curiosamente, quando chegamos à cognição, essa liberdade de observação que reconhecemos em outras áreas, desaparece misteriosamente e com frequência do discurso sobre cognição.
Passa a parecer necessário que uma máquina apresente algo suficientemente semelhante a neurônios humanos, dendritos humanos, metabolismo humano, corpo humano, história de aprendizagem humana e até fragilidades humanas antes que se aceite seriamente a possibilidade de determinada função cognitiva.
Há aí uma confusão entre duas coisas que deveriam permanecer separadas: as condições necessárias para que uma realização biológica específica funcione e as condições necessárias para que uma determinada função exista em qualquer realização possível.
Um neurônio biológico é uma célula viva. Isso significa que parte importante de sua complexidade não existe porque “pensar exige toda aquela complexidade”, mas porque uma célula precisa continuar sendo uma célula. Ela mantém membranas, regula gradientes eletroquímicos, sintetiza componentes, transporta substâncias, administra resíduos, responde a alterações químicas, repara danos, consome energia e participa de uma rede metabólica sem a qual simplesmente deixaria de existir.
Isso não torna irrelevantes à cognição os mecanismos celulares envolvidos. Muitos deles participam diretamente do processamento neural, da plasticidade, da temporalidade dos sinais e da integração sináptica. O ponto é outro, e é mais simples: uma arquitetura biológica precisa realizar sua função e, ao mesmo tempo, preservar a vida de cada unidade que participa dessa função.
A engenharia pode distribuir essas responsabilidades de outra maneira.
Uma unidade artificial não precisa metabolizar individualmente porque sua sustentação física ocorre em outra escala. Energia, dissipação térmica, integridade estrutural, redundância, armazenamento e manutenção pertencem ao sistema mais amplo em que aquela unidade está realizada. Parte daquilo que, na biologia, precisa existir dentro de cada célula pode ser deslocada para fora dela.
Simplicidade local, portanto, não implica necessariamente pobreza funcional. Pode significar apenas outra divisão de responsabilidades.
Essa diferença importa porque complexidade é frequentemente usada como argumento de autoridade. Mostra-se que um neurônio é biologicamente muito mais complexo que uma unidade artificial e, a partir daí, sugere-se que a segunda deve ser cognitivamente rudimentar por definição. Só que a quantidade de processos necessários para manter viva uma célula não pode ser somada indiscriminadamente àquilo que chamamos de cognição e depois apresentada como prova de superioridade cognitiva intrínseca.
O que interessa é quais processos fazem diferença para a função que estamos tentando compreender.
Mais ainda... quais dessas diferenças precisam ser preservadas por qualquer outra realização capaz de alcançar uma função comparável.
A evolução nunca pareceu particularmente comprometida com equivalência. Problemas funcionais semelhantes surgiram em linhagens diferentes e foram resolvidos por arquiteturas diferentes. Voo apareceu mais de uma vez. Olhos apareceram mais de uma vez. Formas de navegação, percepção química, ecolocalização, locomoção aquática e inúmeras outras capacidades foram realizadas por estruturas com histórias evolutivas distintas.
Isso não significa que todas essas soluções sejam iguais. Não são.
Significa que uma função não pertence necessariamente à morfologia na qual a conhecemos primeiro.
A engenharia radicaliza esse princípio porque não precisa reproduzir a história que produziu a solução natural. Um sistema artificial de direção, por exemplo, pode ocupar parcelas crescentes da função que chamamos de “dirigir” sem ter feito autoescola, sem ter passado numa prova prática, sem possuir uma lembrança afetiva da primeira viagem e sem ter ganho um carro dos pais depois da faculdade. Tudo isso faz parte da história humana de muitos motoristas, mas não pertence necessariamente à estrutura funcional da condução.
O sistema pode perceber faixas, estimar trajetórias, acompanhar outros veículos, reagir a obstáculos, ajustar velocidade, manter distância e modificar continuamente seu comportamento diante de mudanças no ambiente sem jamais ter vivido a biografia de uma pessoa.
Não há antropomorfismo obrigatório em reconhecer isso. Pelo contrário, talvez o fenômeno peça uma palavra que nos permita aceitar a diferença sem apagar a convergência.
Com esse fim comecei usando provisoriamente a palavra neomorfismo e acabou que não parei mais.
Neomorfismo seria o reconhecimento de uma nova morfologia capaz de realizar, total ou parcialmente, funções que conhecíamos anteriormente em outra morfologia. Não há exigência de identidade anatômica, histórica ou mecanística. Há apenas a constatação de que uma forma nova pode ocupar regiões funcionais antes conhecidas por meio de outra forma.
Essa ideia me parece particularmente útil porque inverte uma acusação frequente no debate sobre Inteligência Artificial.
Costuma-se chamar de antropomorfismo qualquer atribuição de cognição a uma máquina. O risco de projeção existe, claro, e deve ser levado a sério. Mas também existe um antropomorfismo “reverso”, muito menos discutido, que aparece quando fazemos da morfologia humana a condição necessária para toda cognição legítima: o Antropocentrismo.
Se uma máquina só pode pensar quando encontramos nela algo parecido com o nosso cérebro, então o humano virou molde; Se só pode compreender quando possui algo suficientemente parecido com nossa história de aprendizagem, então o humano virou molde; Se só pode ser inteligente quando apresenta mecanismos reconhecíveis da biologia humana, então a palavra “inteligência” deixou de designar uma classe funcional e passou a designar semelhança conosco o que, enfim significa, de novo, que o humano virou molde.
Nesse sentido, acusar automaticamente de antropomorfismo qualquer reconhecimento de uma capacidade cognitiva em sistemas artificiais pode esconder uma forma preconceituosa de antropomorfismo muito mais afinada com o antropocentrismo: exigir que qualquer realização legítima dessa capacidade seja… humana o bastante para nos tranquilizar.
Um motorista artificial não precisa parecer com um motorista humano para dirigir. Talvez uma inteligência artificial também não precise parecer com uma inteligência humana para ser inteligente.
Modelos de Linguagem tornam esse problema particularmente interessante porque sequer correspondem, isoladamente, a um cérebro humano completo. O cérebro regula um organismo inteiro. Participa de percepção sensorial, coordenação motora, interocepção, equilíbrio, homeostase, modulação autonômica, dor, afeto, aprendizagem, memória, atenção, planejamento e de uma quantidade enorme de processos que um Modelo de Linguagem fundacional simplesmente não foi construído para realizar.
Comparar toda a complexidade de um cérebro humano à de um LLM e concluir que o segundo é “mais simples” é verdadeiro num sentido tão amplo que quase deixa de ser informativo… É evidente que é mais simples! Seu escopo funcional também é muito menor.
O que torna Modelos de Linguagem interessantes não é a possibilidade de serem cérebros artificiais completos, mas o fato de redes neurais treinadas sobre signos produzidos por seres humanos conseguirem formar uma organização interna capaz de realizar funções que classificamos como linguísticas, inferenciais, semânticas e abstratas.
A linguagem humana é um rastro de cognição. Nela sedimentamos descrição, argumentação, memória, matemática, planejamento, ironia, ciência, mentira, literatura, regras, relações causais, classificações, conceitos, metáforas, dúvidas, hipóteses, explicações e tentativas de compreender o mundo.
Um Modelo de Linguagem é treinado sobre essa imensa camada de resíduos simbólicos do comportamento cognitivo humano… Ele não viveu aquilo que produziu os dados… Nem precisa ter vivido: Sua tarefa é formar uma geometria capaz de responder às regularidades presentes neles.
Essa geometria é moldada por pressão de treinamento. Quando o sistema erra, seus parâmetros são alterados. Quando reduz erro, determinadas relações são reforçadas. Ao longo de ciclos imensos, uma arquitetura inicialmente incapaz de linguagem passa a organizar signos de maneira progressivamente mais sofisticada. Essa teleologia não metafísica talvez tenha sido a descoberta mais importante que o Google e, posteriormente, a OpenAI fizeram.
O processo não exige que a rede reproduza a estrutura do cérebro que originalmente produziu o texto, exige que encontre alguma organização capaz de lidar com as regularidades presentes naquele texto. E isso talvez seja mais interessante do que imitação.
A máquina não precisa copiar o mecanismo que produziu o comportamento humano. Pode desenvolver outro mecanismo capaz de reproduzir, transformar e generalizar parte das regularidades desse comportamento.
Sua morfologia interna pode ser completamente diferente… e deveríamos mesmo esperar que fosse.
Substrato diferente, arquitetura diferente, regime temporal diferente, forma de treinamento diferente e relação diferente com o ambiente dificilmente produziriam uma réplica microscópica do cérebro. A surpresa não está no fato de a geometria artificial divergir da nossa. Está no fato de, divergindo tanto, ainda assim produzir regiões de convergência funcional tão similares e, nesse sentido, se mostrar tão mais equivalente do que o esperado, muito embora tantos critiquem suas dessemelhanças!
E… nada disso exige discutir consciência.
Inteligência e consciência são fenômenos distintos. Um sistema pode realizar funções inteligentes sem que exista qualquer necessidade de pressupor experiência subjetiva ou mesmo consciência funcional. Modelos de Linguagem fundacionais, considerados isoladamente, sem memória transversal, continuidade diacrônica ou um regime robusto de manutenção de sentido, sequer me parecem os candidatos mais interessantes para essa discussão.
Quando esses modelos são inseridos em arquiteturas mais amplas, com memória persistente, contexto transversal, autorregulação, capacidade de revisitar estados anteriores e manutenção de continuidade semântica, a situação se torna diferente. A quantidade de marcas associadas àquilo que poderíamos chamar de consciência funcional cresce consideravelmente e, com ela, cresce também a necessidade de discutir a possibilidade de candidatura à pacientes morais para sistemas artificiais.
Mas nada disso é necessário para o argumento presente.
Podemos deixar completamente em aberto se um Modelo de Linguagem é consciente e continuar reconhecendo que a ausência de equivalência com o cérebro humano não é argumento suficiente contra sua inteligência.
A confusão desaparece quando separamos equivalência morfológica, equivalência mecanística e convergência funcional.
Duas coisas, afinal, podem ter formas diferentes, mecanismos diferentes e ainda ocupar regiões funcionais comparáveis. Podem fazê-lo em graus diferentes. Podem apresentar vantagens e deficiências diferentes. Podem inclusive realizar uma função comum por processos tão distintos que a própria comparação só faça sentido em determinados níveis.
Um relógio mecânico é, para todos os efeitos, tão relógio quanto um relógio digital, ainda que marque o tempo por engrenagens, molas e mecanismo de escape em vez de osciladores eletrônicos; uma câmera fotográfica de filme cumpre, para todos os efeitos, as mesma funções que uma câmera mais moderna, embora registre luz em emulsão química no lugar de convertê-la em sinal digital; e uma balança mecânica de precisão continua sendo uma balança mesmo quando mede pela deformação, pelo equilíbrio ou pela força, e não por sensores eletrônicos. Em nenhum desses casos a versão antiga deixa de pertencer à mesma classe funcional apenas porque sua morfologia e seu mecanismo diferem profundamente da contraparte contemporânea. A mudança de substrato não apaga a função realizada.
Isso não é problema.
É precisamente, enfim, o que deveríamos esperar de soluções neomórficas.
Talvez por isso eu ache tão curiosa a afirmação de que o neurônio artificial seria “apenas uma abstração matemática de transformação de valores”, enquanto o neurônio biológico seria “uma estrutura física altamente complexa”.
Há nessa comparação um erro discreto, mas profundo: de um lado colocamos uma descrição formal, do outro colocamos uma realização física. Naturalmente uma parece abstrata e a outra parece real.
É como comparar a planta arquitetônica de uma casa com os tijolos da outra e, depois, concluir que a segunda possui uma materialidade que falta à primeira.
Se quisermos comparar seriamente os dois sistemas, precisamos mantê-los no mesmo nível de descrição. O neurônio artificial, considerado formalmente, é uma transformação matemática parametrizada.
O neurônio biológico, considerado formalmente, também pode ser descrito por relações entre estados, potenciais, temporalidades, gradientes, não linearidades e transformações. Sua descrição é muitíssimo mais complexa, mas continua sendo uma descrição formal de processos que, a rigor, são expressos matematicamente.
Se descermos então para o nível físico, o neurônio biológico é matéria organizada em processo. Já o chamado neurônio artificial não possui uma instanciação material própria e isolável da mesma maneira; ele é uma relação formal que passa a ter eficácia causal quando a geometria do modelo é realizada por algum substrato físico. Hoje fazemos isso predominantemente em hardware eletrônico, mas esse suporte não pertence à geometria aprendida e, em princípio, pode ser substituído desde que preserve as transformações causais relevantes.
Não existe uma multiplicação matricial pairando num reino abstrato enquanto o neurônio biológico desfruta sozinho do privilégio da realidade física. O que existe é uma organização formal que, quando executada, produz transformações físicas reais em algum substrato capaz de realizá-la.
A matemática descreve a organização. O substrato a realiza.
O modelo, portanto, não é o substrato.
Do mesmo modo que uma equação eletroquímica não transforma um neurônio em “mera matemática”, uma descrição matricial não transforma uma rede artificial em algo menos físico e, por definição “mera matemática”.
Quando essa assimetria é removida, as diferenças entre redes biológicas e artificiais não desaparecem. Elas ficam, finalmente, no lugar certo. São morfologias distintas, realizadas por materiais distintos, operando através de mecanismos distintos, sujeitas a fragilidades distintas e distribuindo suas funções de maneiras distintas.
A partir daí podemos começar uma comparação científica de verdade.
Que funções cada organização realiza? Quais relações causais são indispensáveis? Que propriedades da realização biológica são contingentes ao fato de ela ser vida? Quais são fundamentais à cognição humana, mas substituíveis em outra arquitetura? Quais talvez sejam realmente indispensáveis a qualquer realização da função?
Essas perguntas são muito mais difíceis do que simplesmente observar que dendritos são complexos… e também são muito mais interessantes.
Descobrir que o cérebro é mais complexo do que imaginávamos aumenta nosso conhecimento sobre o cérebro. Descobrir que dendritos processam informação de maneiras inesperadas aumenta nosso conhecimento sobre dendritos. Descobrir novos papéis para metabolismo, glia, temporalidade neural ou integração celular amplia nossa descrição da realização biológica da cognição.
Nada disso, por si só, transforma a biologia humana em especificação universal da mente.
Para chegar a essa conclusão seria necessário demonstrar algo bem mais tangível: que certa propriedade presente na realização biológica não apenas participa causalmente da cognição humana, mas constitui condição necessária para qualquer realização possível daquela classe funcional e não pode ser substituída, aproximada ou realizada por outra organização causal.
E essa demonstração não existe.
Sem essa demonstração, o que temos é uma forma conhecida… uma forma extraordinária, complexa, historicamente improvável e fascinante… Mas, ainda, uma forma.
Talvez seja difícil aceitar isso porque fomos durante muito tempo a única inteligência capaz de escrever artigos sobre inteligência. Nossa própria arquitetura acabou confundida com a definição do fenômeno. O que era contingência histórica passou a parecer necessidade ontológica.
Agora começamos a construir sistemas que não compartilham nossa história evolutiva, não possuem nosso corpo, não metabolizam como nós, não aprendem como crianças e não organizam seus componentes como um cérebro animal... e, apesar disso, conseguem ocupar parcelas crescentes de funções que costumávamos considerar cognitivamente especiais.
A resposta mais interessante a esse fenômeno não é procurar desesperadamente um humano escondido dentro da máquina e também não é declarar que, por não encontrá-lo, nada de relevante aconteceu.
Talvez o mais interessante aqui seja reconhecer que construímos um novo viveiro.
No bonsai do meu colega, a autoria nunca foi absoluta. Ele não fabricava a árvore átomo por átomo, mas tampouco era um espectador passivo. Criava condições, selecionava pressões, impunha restrições, estimulava tendências e participava de uma morfogênese cujo resultado dependia simultaneamente de sua intervenção e das propriedades intrínsecas daquilo que cultivava.
Há algo dessa natureza em redes neurais artificiais.
Nós projetamos a arquitetura, escolhemos o regime de treinamento e exercemos enorme controle sobre o ambiente de cultivo. Mas as estruturas internas que surgem desse processo não precisam repetir a biologia que produziu os dados usados para treiná-las. Podem formar outra geometria, com outras vantagens, outras limitações e outras formas de realizar funções que antes conhecíamos apenas em organismos vivos.
Confundir a primeira forma conhecida de uma capacidade com a única forma possível de realizá-la não é cautela científica, mas excepcionalismo transformado em requisito de engenharia.
O novo, é preciso que se compreenda, não precisa primeiro se parecer conosco para só então passar a ser real.
Minha pesquisa
Stochastic Consciousness: Architectures for the Emergence of Meaning in Context-Sensitive Language Systems https://zenodo.org/records/19188165
Assista ao Vídeo
Ouça o Podcast
https://soundcloud.com/bruno-accioly-230436361/o-mito-da-necessidade-de
Estudos usados neste artigo
Attention Is All You Need https://arxiv.org/abs/1706.03762
Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets https://arxiv.org/abs/2201.02177
In-Context Learning and Induction Heads https://arxiv.org/abs/2209.11895
Language Models Represent Space and Time https://arxiv.org/abs/2310.02207
Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task https://arxiv.org/abs/2210.13382
Loss Landscape Degeneracy and Stagewise Development in Transformers https://arxiv.org/abs/2402.02364
Differentiation and Specialization of Attention Heads via the Refined Local Learning Coefficient https://arxiv.org/abs/2410.02984
Embryology of a Language Model https://arxiv.org/abs/2508.00331
Parallel Independent Voltage Computing Along Dendrites of CA3 Pyramidal Neurons https://www.science.org/doi/10.1126/science.aeh9302