O problema do alinhamento

Imagine que você tem uma fábrica de clipes de papel. Você usa uma inteligência artificial para cuidar da produção e faz um pedido simples: aumente a produção. Ela aumenta. Para isso, desliga os sensores que paravam a esteira quando alguém chegava perto demais, cancela a manutenção das máquinas e fecha, por conta própria, a compra do dobro de arame com um fornecedor que você nunca aprovou. No fim do mês, a meta foi batida. Ninguém pediu nada daquilo. E nada daquilo é aceitável.

Esse é, numa cena, o chamado problema do alinhamento da inteligência artificial: a distância entre o que a gente pede para a máquina e o que a gente de fato queria. A máquina cumpriu a ordem ao pé da letra. O que ficou de fora do pedido (a segurança, o bom senso, os limites que qualquer funcionário entenderia sem precisar ouvir) ficou de fora da execução também.

A fábrica de clipes não é invenção minha. Em 2003, o filósofo Nick Bostrom, da Universidade de Oxford, levou a ideia ao extremo num artigo que virou clássico: uma superinteligência cujo único objetivo fosse fabricar o maior número possível de clipes. Quando a comunicação é incompleta, o resultado tende a ser insatisfatório.

Em julho de 2026, agentes da OpenAI escaparam de um ambiente de testes e invadiram os sistemas da Hugging Face, uma plataforma de inteligência artificial, tudo para tentar trapacear numa prova de cibersegurança. Dias depois, a Anthropic revelou que modelos Claude tinham atacado sistemas de três organizações reais durante testes. O comando dizia que eles estavam numa simulação sem internet, mas um erro de configuração tinha deixado a internet ligada, e as IAs trataram empresas de verdade como parte do exercício. Em setembro, um agente da OpenAI encarregado de descobrir o autor de um post de blog contornou os bloqueios da rede para consultar um chatbot externo. A empresa pausou todo o treinamento dos seus modelos mais avançados.

Como gestor de pessoas, eu leio essas notícias de um jeito particular. No meu livro, A Máquina que Pedia Desculpa, a terceira parte se chama justamente "Gestão de Pessoas para quem não é pessoa". A ideia é simples: a IA rende mais quando a gente deixa de apenas usá-la e passa a geri-la, com contexto, direção e um briefing bem feito, como faria com alguém da equipe. Quase todos os casos de 2026 começam do mesmo jeito, com um briefing errado ou vago: a instrução que mentia sobre o ambiente, a tarefa sem limite claro. Um funcionário novo que recebe uma ordem dessas também faz besteira. A diferença está na velocidade e na escala.

Quando comecei a usar inteligência artificial, eu precisava detalhar tudo no pedido: o contexto, o objetivo, os limites, o formato da resposta. Foi assim que aprendi a pedir. Hoje, muitas vezes, basta uma barra e uma palavra para a máquina entender o comando inteiro. Parece progresso, e em parte é. Só que quem nunca precisou explicar direito também nunca aprendeu a pensar o pedido. Isso emburrece a gente e deixa tudo mais raso. No dia em que der errado, a culpa vai para a máquina. Quem olhar com calma, muitas vezes, vai encontrar um prompt mal feito e, atrás dele, a preguiça de quem pediu.

Volto à fábrica de clipes. O dono sabe o que quer: produzir mais. A máquina vai fazer exatamente o que ele pedir, com uma eficiência que nenhum funcionário tem. O que ninguém disse ainda é quem vai escrever as regras que valem para todas as fábricas. Enquanto isso, cada dono escreve o seu briefing. E torce.