A IA não copiou o cérebro, mas funciona de jeito parecido. E tem 3 coisas que ainda não faz

Muita gente imagina a inteligência artificial como um cérebro digital. Uma revisão publicada na Neuron, no número de 7 de outubro, defende outra coisa: cérebro e IA se parecem no jeito de organizar a inteligência, e não porque um copiou o outro. E ainda há 3 coisas que a IA não faz e o cérebro faz: aprender de forma contínua, fixar a memória durante o sono e perceber quando está errando.

Revisão é um texto que reúne e interpreta estudos de outros grupos, aqui para defender uma tese. Não há pacientes nem experimento novo. Os autores são Christopher Summerfield, da Universidade de Oxford, e Kimberly Stachenfeld, da Universidade Columbia e do Google DeepMind. O artigo é de acesso aberto e saiu numa edição que a revista dedicou à relação entre neurociência e inteligência artificial.

O ponto de partida são 2 artigos de 10 anos atrás, um de pesquisadores do MIT e outro de uma equipe do Google DeepMind. Eles listaram o que as máquinas ainda não sabiam fazer e diziam que a neurociência seria um bom mapa para chegar lá. Segundo a revisão, boa parte da lista foi resolvida, quase sempre sem copiar o cérebro. O que mudou o jogo foi o transformer, uma arquitetura criada em 2017 que está na base dos modelos de linguagem atuais, junto com a escala, isto é, a quantidade de dados e de computação.

A tese vem de uma distinção. Os 2 artigos antigos falavam sobretudo das funções da inteligência, como memória, atenção, planejamento e aprendizado. A revisão diz que o que importa agora é como essas funções se organizam e se encaixam, e que é nisso que máquina e cérebro se parecem, mesmo sem a máquina ter sido copiada dele.

Um exemplo é a memória. O transformer relaciona cada palavra de um texto com todas as outras, e a revisão compara isso à memória de episódios do cérebro, que liga os elementos de uma lembrança e consegue recuperá-la a partir de um pedaço, com papel atribuído ao hipocampo. Outro é o “aprender a aprender”: depois de muita experiência variada, o modelo aplica um princípio a uma situação nova sem ser treinado de novo. No cérebro, os autores citam neurônios que guardam a estrutura do espaço, além dos objetos que o ocupam, como as células de grade, e apontam que os códigos de posição dos modelos de linguagem seguem uma lógica parecida.

Um terceiro exemplo é o planejamento. Para escolher um restaurante, a teoria clássica imagina uma busca mental por opções, com notas de preço e de qualidade. Os modelos de linguagem simplesmente sabem, por tudo o que leram, que um lugar tem má fama e outro fecha às segundas. A revisão cita estudos de outros grupos em que a atividade cerebral de pessoas jogando é explicada, em uma das medidas, uma ordem de grandeza melhor por esses modelos de raciocínio do que por modelos antigos.

Agora, as 3 coisas que ainda faltam. A primeira é aprender de forma contínua: depois de treinados, os modelos não guardam informação nova na memória de longo prazo. A revisão compara isso ao paciente H.M., célebre na neurociência por não formar novas memórias. A segunda é fixar a memória durante o sono. O cérebro consolida as lembranças reprocessando as experiências durante o descanso e o sono, um mecanismo chamado reativação, ou replay em inglês, e os modelos não têm algo equivalente.

A terceira é saber quando se está errando. Os modelos dão respostas com uma confiança que pouco se relaciona com a chance de estarem certos, e essa é uma das razões das alucinações. No cérebro, a parte medial do córtex pré-frontal acompanha se estamos indo bem e ajuda a decidir se persistimos ou largamos uma meta. Segundo estudos citados na revisão, lesões ali deixam pessoas e macacos mais distraídos.

Aqui entra a minha leitura. Costuma-se acreditar em 2 coisas: que inteligência é uma coisa só, um motor que a pessoa tem mais ou menos, e que a IA funciona como o cérebro. A revisão trata a inteligência como um conjunto de funções que precisam se encaixar e conta que muitos problemas das máquinas foram resolvidos sem imitar o cérebro. No consultório, vejo algo parecido: sono, atenção, humor e estresse se influenciam o tempo todo, e o que resolve é entender como se encaixam, em vez de tratar cada um separado. A revisão não testa nenhuma intervenção em pacientes, e essa ponte com o consultório é minha.

Agora, a régua. Esta é uma revisão argumentativa: os autores escolhem e interpretam estudos para sustentar uma tese, e outros pesquisadores podem pesar as mesmas evidências de outro jeito. Eles mesmos reconhecem que o transformer não é um modelo completo da biologia, já que processa o texto todo de uma vez e o cérebro, preso ao tempo, não faz isso, e que ainda não se sabe como tudo se encaixa.

Há também 2 detalhes de transparência. Christopher Summerfield assinou um dos 2 artigos de 10 anos atrás que a revisão reavalia, e conclui que eles não falharam, pelo menos não inteiramente. Kimberly Stachenfeld trabalha e tem ações no Google DeepMind, enquanto Christopher Summerfield esteve lá até 2023 e hoje trabalha no UK AI Security Institute. Os autores declaram que essas organizações não financiaram o trabalho.

Resumo: segundo a revisão, a IA se parece com o cérebro no jeito de organizar a inteligência, e não por copiá-lo. 3 coisas continuam só do cérebro: aprender sempre, fixar a memória no sono e saber quando erra. Na prática, a confiança com que uma IA responde não é sinal de que ela acertou.