O caso empresarial para modelos de pesos abertos no Databricks

Como engenheiros de campo da Databricks, passamos nossos dias em implantações de IA empresarial, onde observamos uma mudança clara na estratégia. Após dois anos de padronização em fornecedores de modelos de última geração individuais, as empresas estão reavaliando sua abordagem devido a sete pressões principais:

Sete observações que moldam a estratégia de IA

1. O gasto não está gerando retornos suficientes. Os orçamentos de IA superaram a receita e a economia de custos, gerando a necessidade de uma melhor economia de unidade [1].

2. As classificações de modelos mudaram repetidamente desde 2023. O melhor modelo para codificação, raciocínio e extração muda de mês para mês, e a principal classificação de inteligência mudou de mãos mais de 20 vezes desde maio de 2023 [2]. Arquiteturas vinculadas a um único provedor tornam mais difícil adotar um modelo melhor conforme as classificações mudam.

3. As barreiras de proteção de última geração podem bloquear trabalhos legítimos. As barreiras de proteção de modelos impostas por laboratórios de IA podem recusar tarefas legítimas, como analisar malware ativo ou reproduzir um exploit para corrigi-lo, uma limitação descoberta no incidente recente da Hugging Face [6][7]. Quando os respondedores da Hugging Face alimentaram modelos de última geração hospedados com logs de ataques reais e payloads de exploits para análise, as barreiras de proteção recusaram, e a equipe executou a análise em um modelo de pesos abertos (GLM 5.2) em vez disso.

4. As políticas de retenção de dados evoluíram e podem continuar a fazê-lo. Alguns provedores de última geração se desviaram das políticas de retenção de zero dados (ZDR), como a retenção mínima de 30 dias introduzida com a camada de última geração da Anthropic [8]. Para empresas cuja política de conformidade foi redigida em torno do princípio de que "nenhum prompt ou conclusão é armazenado", uma mudança na política upstream pode introduzir problemas e potencialmente exigir uma alteração no sistema.

5. As empresas querem visibilidade e controle sobre a governança de modelos. A demanda está crescendo por visibilidade de ponta a ponta e governança em todos os modelos de IA. Os clientes querem registros pesquisáveis de entradas, saídas, erros e ações de agentes de modelos para permitir que as equipes avaliem a precisão e melhorem o desempenho, bem como controles centralizados para proteger dados confidenciais e propriedade intelectual.

6. O harness importa tanto quanto o modelo. A pesquisa da Databricks mostra que a estrutura em torno de um modelo, seu harness de prompts, ferramentas e fluxo de controle, altera o desempenho medido. No próprio benchmark da Databricks, o mesmo modelo pontuou 61,7% em um harness, 48,1% em outro e 38,4% sem nada [9]. Como a escolha do harness altera os resultados do benchmark, as avaliações devem testar o modelo e o harness juntos.

7. Modelos de pesos abertos alcançaram os modelos de última geração. Os principais modelos de pesos abertos agora apresentam benchmarks em um nível comparável ao dos principais modelos de última geração a um custo menor [3][4][5]. Isso não era verdade dezoito meses atrás. Modelos de pesos abertos que alcançam desempenho de benchmark em nível de última geração alteram as compensações de custo, controle e implantação descritas nos outros seis pontos.

Em meio a essas observações, as empresas estão tentando: 1) otimizar custos sem sacrificar ganhos de produtividade, 2) preservar a liberdade operacional e 3) garantir que as implementações de IA possam incorporar inovações rapidamente. Para fazer isso, elas precisam de uma arquitetura na qual modelos e harnesses possam mudar sem enfraquecer a governança.

O apelo dos modelos de pesos abertos

Modelos de pesos abertos melhoram a eficiência de custos, o controle e a flexibilidade em relação aos modelos de última geração:

• Inteligência Comoditizada: Conforme a inteligência do modelo se torna uma comodidade, as opções de pesos abertos agora fornecem paridade de inteligência com os principais modelos de última geração por uma fração do custo, permitindo um melhor ROI em implantações de IA.
• Soberania de Dados: Hospedar modelos em infraestrutura controlável dá às equipes autoridade sobre conformidade, segurança e políticas de retenção de dados e reduz o risco de alterações em desacordo com a conformidade no futuro.
• Autonomia Operacional Completa: Modelos de pesos abertos permitem que as equipes executem cargas de trabalho que as barreiras de proteção de última geração podem inibir (por exemplo, resposta a cibersegurança)

Fonte: [5] DeepSWE Leaderboard by Cost. Alguns dos principais modelos de pesos abertos comparados com seus equivalentes proprietários, filtrados a critério dos autores.

Os benefícios de usar modelos de pesos abertos no Unity Gateway

Aproveite modelos de pesos abertos junto com modelos de última geração

O Unity Gateway serve modelos de pesos abertos e de última geração por meio de uma API unificada com controles de governança centralizados, permitindo que as equipes alternem entre modelos por meio de configuração ou roteamento inteligente [10][11] em vez de alterações de código ou outras abstrações [12][13].

A capacidade de vários modelos do Unity Gateway está se tornando parte integrante das estratégias de IA dos clientes. Desde janeiro, o número médio de modelos exclusivos usados por cliente aumentou de 4,2 para 7,1, um indicador das opções disponíveis no Unity Catalog e da busca por modelos de maior ROI. Destes modelos, cerca de ~40% eram de pesos abertos.

Fonte: Dados internos da Databricks da semana encerrada em 5 de janeiro de 2026 até a semana encerrada em 27 de julho de 2026. Criado usando Genie One.

Use grandes modelos de pesos abertos a velocidades líderes do setor

Servir grandes modelos de pesos abertos com tempos de resposta competitivos requer otimização para manter a eficiência de custos em escala. A Databricks aborda restrições de latência aproveitando engines de inferência personalizadas e kernels otimizados implantados em GPUs de última geração. Avaliações independentes da Artificial Analysis destacam essas características de desempenho: por exemplo, o GLM 5.3 (max) atinge um tempo de resposta de ponta a ponta (incluindo processamento de entrada, raciocínio e geração) de 9,1 segundos na Databricks [15], tendo um desempenho favorável em comparação com endpoints gerenciados de alto nível [16].

Fonte: [15] Provedores de Modelos GLM 5.3: Artificial Analysis

Governe custos e uso de todos os modelos em um único local

Aqui estão alguns recursos importantes para ajudar a governar esses modelos e controlar custos no Unity Gateway:

• Roteamento inteligente envia sessões para o modelo econômico para a tarefa, de modo que as tarefas de rotina sejam transferidas dos modelos de última geração [10][11].
• Cadeias de fallback redirecionam automaticamente em resposta a limites de taxa de modelo ou interrupções de provedores [14].
• Orçamentos com limites de gastos por usuário, equipe ou caso de uso evitam gastos descontrolados [19][30]. Esses limites podem ser configurados com vários níveis de gravidade, desde avisos leves até políticas rígidas que redirecionam sessões para modelos mais baratos.
• Governança centralizada para ferramentas e habilidades. Junto com servidores MCP integrados, o Unity Catalog oferece suporte ao registro de servidores MCP externos que executam por meio de proxies gerenciados e são auditados de forma centralizada. Portanto, os agents obtêm suas ferramentas com a mesma governança de seus models [20]. As habilidades [21] também podem ser registradas e governadas, melhorando o determinismo e a eficiência de tokens para fluxos de trabalho repetíveis.
• Governança unificada entre models open-weight, externos e de fronteira. Conecte provedores de models externos (por exemplo, Amazon Bedrock, Azure AI Foundry) por meio de serviços de provedor de models [17] e roteie solicitações pela mesma camada de governança central usada para os models open-weight e de fronteira hospedados no Databricks [18]. Gerencie o acesso, os controles de gastos e as trilhas de auditoria em todo o seu portfólio de models a partir de uma única plataforma.

As empresas estão migrando cargas de trabalho para models open-weight

O GLM 5.2 coincidiu com um aumento acentuado no uso de open-weight no Unity Gateway. Depois que o GLM 5.2 ficou disponível em meados de julho, seu uso aumentou. Ao mesmo tempo, o crescimento entre os clientes do Unity Gateway permaneceu relativamente consistente, sugerindo que os clientes existentes direcionaram mais tráfego de IA para models open-weight. Apenas um mês após ser oferecido pela primeira vez, o GLM 5.2 já responde por cerca de 40% dos tokens open-weight usados no Unity Gateway, com a maior parte desse crescimento sendo incremental. Tanto o desempenho de benchmark do GLM 5.3 quanto o do Kimi K3 oferecem aos clientes outra opção open-weight para avaliar junto com o GLM 5.2 [5].

Fonte: Dados internos do Databricks da semana encerrada em 5 de janeiro de 2026 até a semana encerrada em 27 de julho de 2026. Criado usando Genie One

Para apoiar essa demanda, o Databricks anunciou uma rodada de captação de recursos de US$ 3 bilhões em julho, e o CEO Ali Ghodsi disse à CNBC que a captação se deve em parte a garantir capacidade de GPU para hospedar models abertos. "Estamos ficando sem GPUs em todo lugar... Japão, Coreia, EUA e Índia, então precisávamos conseguir muitas delas, e isso exige muito financiamento. Portanto, foi isso que motivou essa captação de recursos para nós" [22].

Acesse models open-weight em ambientes de provedor com o Unity Gateway

O ambiente que seus desenvolvedores já utilizam ainda pode executar models open-weight hospedados no Databricks. A partir do final de julho, os models servidos no Unity Gateway, incluindo o GLM 5.3, podem ser executados dentro de ambientes de codificação de provedores, como Codex e OpenCode [12][26], com suporte para ambientes adicionais sendo lançado. O gateway expõe endpoints compatíveis com OpenAI por ambiente, portanto, a configuração é apenas uma alteração de config. Aponte o ambiente para a URL do gateway do seu workspace ou use o ucode helper com uma única linha:

ucode codex --model system.ai.glm-5-3

Considerações finais

As empresas devem planejar um portfólio de models porque nenhum model ou provedor individual liderará em qualidade, custo e conformidade com políticas para todas as cargas de trabalho. Entre as opções disponíveis, os models open-weight agora oferecem inteligência competitiva a um custo menor e maior controle sobre o tratamento de dados e políticas de governança. Em contrapartida, os models de fronteira continuam úteis quando oferecem melhores resultados. O Unity Gateway gerencia essas opções por meio de controles de acesso comuns, políticas de roteamento, orçamentos e auditoria. O Omnigent estende essa flexibilidade ao ambiente, para que as equipes possam alterar models ou ambientes de agents sem precisar reconstruir fluxos de trabalho.

Os dados de uso neste artigo mostram que os clientes já estão caminhando nessa direção. Eles estão servindo mais models, direcionando mais tráfego para open weights e usando ambientes portáteis para ampliar suas opções. A vantagem duradoura é a capacidade de fazer essas alterações rapidamente à medida que as opções de models, a qualidade, os preços e os requisitos de políticas evoluem.

Fontes

[1] Nanda, M., Challapally, A., Pease, C., Raskar, R., & Chari, P. (2025, julho). The GenAI divide: State of AI in business 2025 (Descobertas Preliminares da Pesquisa de Implementação de IA). Project NANDA, Massachusetts Institute of Technology. 
[2] Histórico do Leaderboard de LLM: Classificações de IA de 2023-2026 rastreadas, BenchLM 
[3] Kimi K3 - Análise de inteligência, desempenho e preço, Artificial Analysis 
[4] GLM-5.3 (max) - Análise de inteligência, desempenho e preço | Artificial Analysis 
[5] Leaderboard DeepSWE por Custo 
[6] Divulgação de incidente de segurança, julho de 2026, Hugging Face Blog 
[7] A violação do Hugging Face pela OpenAI mostra que os guardrails de IA de fronteira estão falhando, Forbes, 23 de julho de 2026 
[8] Declaração sobre a diretiva do governo dos EUA para suspender o acesso ao Fable 5 e Mythos 5 
[9] O que é um Harness de Agente de IA?, Databricks Blog 
[10] Roteamento inteligente para agentes de codificação 
[11] Roteamento inteligente no Unity AI Gateway: Alcance a qualidade de fronteira com um custo por tarefa mais de 30% menor 
[12] Modelos de fundação hospedados no Databricks, Documentação do Databricks 
[13] Agent Bricks: Data + AI Summit 2026, Databricks Blog 
[14] Configurar roteamento e fallbacks para serviços de modelos 
[15] Análise e benchmarking de provedores de API do GLM-5.3 (max) 
[16] https://artificialanalysis.ai/models#end-to-end-response-time 
[17] Governar provedores de modelos externos (serviços de provedores de modelos) 
[18] Documentação do Databricks Unity AI Gateway 
[19] Gerenciar orçamentos para o Unity Gateway 
[20] Unity AI Gateway: Como conectar agentes a MCPs externos com segurança, Databricks Blog 
[21] Suporte a habilidades no Unity Gateway 
[22] CEO do Databricks: Estamos hospedando modelos de código aberto como o Kimi e ficando sem GPUs, CNBC, 17 de julho de 2026 
[23] Modelos e credenciais, documentação do Omnigent 
[24] Fazendo o benchmark de agentes de codificação na base de código de vários milhões de linhas do Databricks 
[25] Governando MCPs em escala com o Unity AI Gateway 
[26] Usar modelos de código aberto com agentes de codificação 
[27] Unity AI Gateway: Governança multi-IA e controle de custos, Databricks 
[28] Apresentando o Omnigent: Um meta-harness para combinar, controlar e compartilhar seus agentes, Databricks Blog 
[29] Provedores do GLM-5.2: Comparação de velocidade de saída, Artificial Analysis 
[30] Apresentando controles de gastos com IA com o Unity Gateway 
[31] Apresentando o Omnigent: Um meta-harness para combinar, controlar e compartilhar seus agentes

Explore o Unity AI Gateway

Saiba como governar, rotear e monitorar modelos de pesos abertos, de fronteira e externos por meio de uma plataforma unificada.

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original