LLM em produção sem refém: a estratégia multi-provider do GO Tatame

Colocar IA em produção é fácil na demo. O problema aparece depois: o provedor sobe o preço, muda o limite de requisições, aposenta o modelo que você usava, ou simplesmente fica fora do ar numa terça à tarde. Quando o seu produto depende de um único fornecedor de LLM, cada uma dessas mudanças vira um incidente — e você não controla nenhuma delas.

No GO Tatame — plataforma de gestão de academias desenvolvida por nós — o assistente em linguagem natural (o Copilot) foi desenhado desde o início para não ter dono. Ele conversa com Gemini, mas pode cair para Claude ou OpenAI sem trocar uma linha de código de negócio. Este artigo mostra como, e por que isso é decisão de arquitetura, não de fornecedor.

O risco não é técnico, é estratégico

Quando você escreve seu código chamando diretamente o SDK de um provedor, está costurando o seu produto à API, ao formato de resposta, ao modelo e à política de preços daquela empresa. Funciona — até o dia em que algo muda do lado de lá. Aí o “só trocar de provedor” vira semanas de reescrita, justamente quando você precisa de velocidade.

Modelos de IA são uma commodity em movimento rápido: o melhor custo-benefício de hoje não é o de daqui a três meses. Ficar preso a um fornecedor significa não conseguir aproveitar isso — nem se proteger quando ele piora.

A solução: uma interface, vários provedores

A virada é simples de enunciar e exige disciplina para manter: o resto do sistema nunca fala com um provedor específico. Ele fala com uma interface — “complete esta conversa”, “detecte qual ferramenta usar” — e por trás dela existem implementações intercambiáveis.

No Copilot, essa interface tem várias implementações: uma para o Gemini, uma para o Claude (com a tradução do formato nativo da Anthropic, inclusive tool calling), uma para gateways compatíveis com OpenAI. Qual delas roda é configuração, não código. Trocar o provedor primário, ou definir a ordem de fallback, é mudar um arquivo de settings — o serviço que pergunta “quem está em risco de evasão?” nem fica sabendo.

Fallback: degradar com elegância

Abstrair o provedor abre a porta para a parte que mais importa em produção: o que acontece quando dá errado. Se o provedor primário estoura a cota ou fica indisponível, a chamada cai para o próximo da cadeia, em vez de devolver um erro ao usuário. E se todos falharem, há uma resposta segura de último recurso — o assistente diz que não conseguiu agora, em vez de quebrar a tela.

Isso transforma uma falha de terceiro (que você não controla) em uma degradação suave (que você controla). O usuário, no pior caso, espera um pouco mais ou tenta de novo — não encontra um produto quebrado.

Escolher o modelo certo para a tarefa

Multi-provider também libera escolher modelo por tarefa, não por marca. O Copilot usa modelos rápidos e baratos da família “flash”/“haiku” porque a tarefa — entender uma pergunta de gestão e consultar dados — não pede o modelo mais caro do mercado. E afina a temperatura por contexto: mais baixa (próxima de zero) quando precisa decidir qual ferramenta chamar, onde o que importa é determinismo, e um pouco mais alta nas respostas em texto.

A lição: capacidade de IA não é uma chave liga-desliga. É um conjunto de escolhas — provedor, modelo, parâmetros — que você só consegue ajustar livremente se não estiver amarrado a um deles.

Por que isso vale para o seu produto

Esse padrão não é exclusivo de academias. Qualquer produto que coloca IA no caminho crítico enfrenta os mesmos riscos: preço, cota, disponibilidade, deprecação. A defesa é a mesma de sempre em engenharia séria — isolar a dependência externa atrás de uma fronteira que você controla.

O custo de fazer isso no começo é pequeno: uma interface e duas ou três implementações. O custo de não fazer aparece no pior momento possível, quando o fornecedor muda e o seu roadmap para para apagar incêndio.

É assim que a Dravit constrói: a IA entra no produto como uma dependência gerenciada, não como um casamento. Quer levar IA para produção sem ficar refém de um fornecedor? Vamos conversar.