AGI: A última invenção

AGI virou uma dessas palavras que todo mundo usa com segurança e quase ninguém consegue explicar. Aparece em anúncio de produto, em manchete de economia, em entrevista de bilionário. A sigla vem do inglês, Artificial General Intelligence, inteligência artificial geral. A ideia que se popularizou é simples de entender. A inteligência artificial que a gente usa hoje é muito boa em tarefas: escreve, resume, traduz, programa. A tal AGI seria boa em tudo, do jeito que uma pessoa é. Uma máquina capaz de fazer qualquer trabalho intelectual que um ser humano faz, e fazer melhor.

Só que ninguém concorda sobre onde fica a linha de chegada. Cada empresa usa sua régua, e a régua muda conforme os modelos avançam. Deixo a definição de lado, porque a pergunta que me interessa é bem mais simples. Tá, e o que a gente ganha com isso? Onde o ser humano quer chegar e por quê? A resposta oficial existe, e vale levar a sério. Dario Amodei, CEO da Anthropic, escreveu um ensaio longo sobre isso em 2024. A promessa dele é comprimir de 50 a 100 anos de progresso na biologia em 5 a 10 anos: doenças curadas, tratamentos que hoje não existem, gente vivendo mais e melhor. Se uma máquina ajudar a curar uma doença, ótimo. Ninguém em sã consciência torce contra isso. O que me incomoda está no caminho até lá.

Em 1965, um matemático britânico chamado I. J. Good, que tinha trabalhado com Alan Turing quebrando códigos na Segunda Guerra, escreveu um artigo sobre a primeira máquina ultrainteligente. O raciocínio era direto: se projetar máquinas é uma atividade intelectual, uma máquina mais inteligente que qualquer pessoa poderia projetar máquinas melhores do que ela mesma. Que projetariam outras melhores ainda. Ele chamou isso de explosão de inteligência, e concluiu que essa máquina seria a última invenção que o homem precisaria fazer.

O risco que eu enxergo não tem cara de filme. A perda de controle, se vier, vem por comodidade. A gente facilita uma coisa, depois outra, delega uma decisão, depois a seguinte, até o dia em que a participação humana vira opcional. E a gente foi entregando porque era mais prático. E o próprio Good desconfiava disso. A frase dele tinha uma condição no final: a máquina seria a última invenção, desde que fosse dócil o bastante para nos dizer como mantê-la sob controle. A segurança da humanidade apostada na boa vontade da máquina em ensinar como a gente a controla.

Então volto à pergunta, e confesso que não tenho a resposta inteira. A gente ganha cura, provavelmente. Ganha tempo, talvez. Ganha conforto, com certeza. O que eu ainda não entendi é o que a gente faz com tudo isso depois que não precisar mais pensar, criar, errar e tentar de novo, que é justamente o que nos trouxe até aqui.

Se a máquina é a última invenção, o que sobra pra quem passou a vida inventando?