Um dos criadores do ChatGPT lança um tipo de IA que promete nunca "alucinar" — e os desenvolvedores estão em êxtase

Enquanto o resto da indústria de IA segue brigando para fazer seus modelos de linguagem alucinarem menos, uma startup decidiu simplesmente sair do jogo das palavras. A TypeSafe AI, fundada por Diogo Almeida — ex-pesquisador da OpenAI que ajudou a criar o próprio ChatGPT e o RLHF (a técnica de aprendizado por reforço com feedback humano que tornou os chatbots modernos possíveis — sim, aquele mesmo) — saiu do modo stealth nesta quinta-feira (18) para lançar o Jev, um modelo que a empresa classifica como o primeiro de uma nova categoria: os "System One models". E a promessa central é ambiciosa o bastante para chamar atenção: um modelo que, por construção, não consegue alucinar.

Fonte: TypeSafe AI — blog oficial

Por que o Jev não é "só mais um modelo de linguagem"

A diferença central do Jev para um LLM tradicional está na própria natureza do que ele produz. Em vez de gerar texto livre — que é justamente onde mora o risco de alucinação, já que o modelo pode "inventar" qualquer sequência de palavras plausível —, o Jev trabalha devolvendo probabilidades sobre um conjunto de respostas predefinidas pelo próprio usuário. A TypeSafe chama esse conceito de "decisões calibradas": como as opções de saída já vêm delimitadas de antemão, o modelo literalmente não tem como escapar do roteiro e inventar uma resposta que não estava no cardápio.

Na prática, isso muda o tipo de tarefa para o qual o Jev é útil — não é um substituto para o ChatGPT numa conversa aberta, mas uma ferramenta afiadíssima para classificação, automação de software, roteamento de modelos e monitoramento do comportamento de outros agentes de IA (sim, uma IA cuja função é ficar de olho em outras IAs, o que por si só já diz muito sobre o tamanho da preocupação da indústria com esse tema). O modelo foi treinado inteiramente com dados sintéticos, usando uma técnica que a empresa batizou de "aprendizado por reforço a partir de decisões calibradas" — uma variação direta da técnica de RLHF que o próprio Almeida ajudou a popularizar anos atrás, só que aplicada a um paradigma completamente diferente.

Fonte: TypeSafe AI — blog oficial

O contexto: a indústria toda está tentando resolver o mesmo problema

O timing do lançamento não podia ser mais simbólico. No mesmo espaço de dias em que a TypeSafe anunciava um modelo "incapaz de alucinar", a imprensa internacional revelava que uma alucinação de um chatbot quase desencadeou uma operação militar americana contra um alvo chinês — um lembrete e tanto de que o problema que o Jev tenta resolver não é acadêmico, é uma fonte real e crescente de risco em qualquer setor que já delegou decisões a modelos de linguagem generativos, da defesa nacional ao atendimento ao cliente.

Isso ajuda a explicar por que "System One models" — batizados em referência ao conceito de pensamento rápido e intuitivo da psicologia cognitiva, em contraste com o raciocínio deliberado e passo a passo que modelos de "reasoning" tentam imitar — vêm sendo tratados por parte da indústria como um complemento necessário aos LLMs tradicionais, e não como concorrentes diretos. A ideia não é substituir o ChatGPT ou o Gemini nas tarefas em que eles brilham (conversação, criatividade, raciocínio complexo), mas cobrir o ponto cego que eles têm: decisões de alto volume, baixa latência e zero tolerância a erro, onde uma resposta "quase certa" formatada com confiança pode ser pior do que nenhuma resposta.

A visão por trás do produto

Almeida resumiu a aposta da empresa numa frase que soa quase como manifesto: "achamos que software inteligente vai existir em todo lugar, de forma distribuída e emergente — muito parecido com a internet dos primeiros anos". É uma visão que rejeita a ideia de "um modelo gigante para todas as tarefas" em favor de um ecossistema de modelos especializados, pequenos, baratos e embutidos em praticamente qualquer camada de software — do backend de um aplicativo até o pipeline de decisão de um agente autônomo.

Vindo de alguém que ajudou a construir a tecnologia por trás do ChatGPT, esse pivô é significativo. Almeida está, essencialmente, apostando que a próxima onda de valor em IA não vem de modelos maiores e mais conversacionais, mas de modelos radicalmente mais confiáveis e baratos para tarefas específicas — uma tese que, se provar certa, pode reconfigurar boa parte da infraestrutura de IA que empresas de tecnologia já construíram em cima da geração atual de LLMs.

O que fica

O Jev ainda é recém-nascido, e como toda tecnologia que promete resolver um problema estrutural de uma vez por todas, merece ser observado com um pé atrás até que mais gente fora do círculo de early adopters entusiasmados teste seus limites. Mas o timing do lançamento, logo depois de o mundo descobrir que uma alucinação de IA quase provocou um incidente diplomático grave, dá a essa aposta um peso simbólico que vai muito além do produto em si: a corrida por IA "que não erra" deixou de ser luxo de laboratório de pesquisa e virou, de uma vez por todas, prioridade de segurança.