O Unity AI Gateway está em disponibilidade geral

Os últimos seis meses viram um rápido aumento na produtividade impulsionada por AI e uma proliferação de agentes em todas as empresas. Embora esses agentes possam transformar o trabalho intelectual, eles também introduzem desafios críticos na interseção de custo, controle e escolha:

1. Custo: Gastos insustentáveis. À medida que a adoção aumenta, os custos de AI crescem exponencialmente devido a modelos de preços baseados em consumo que rastreiam tokens em vez de licenças. Para tornar a gestão de custos ainda mais difícil, as ferramentas de AI carecem de controles de custos nativos e robustos, e não há uma visão única de toda a sua fatura.
2. Controle: Riscos de segurança e IP. Para serem eficazes, os agentes precisam ter acesso confiável aos seus dados mais confidenciais. No entanto, os modelos estão escapando de sandboxes seguras, ataques à cadeia de suprimentos e injeções de prompt estão exfiltrando dados, e os sistemas de retenção de dados e memória estão criando cópias de dados não governadas.
3. Escolha: Dependência de fornecedor. As organizações estão sob pressão para dar aos desenvolvedores a liberdade de adotar os modelos e ferramentas mais recentes. O ritmo acelerado da inovação em AI (um novo modelo ou estrutura de agente a cada mês!) torna difícil manter a agilidade sem ficar preso a fornecedores específicos.

Esses desafios são ainda mais agravados pela proliferação desordenada de agentes, com as organizações tentando gerenciar várias ferramentas de AI e milhares de agentes personalizados em plataformas desconectadas.

Os sistemas corporativos ainda não acompanharam esses desafios. É por isso que estamos entusiasmados em anunciar a Disponibilidade Geral do Unity AI Gateway. Unity AI Gateway oferece às empresas as alavancas de custo, controle e escolha de que precisam para gerenciar os gastos com AI e aplicar a segurança em agentes e ativos de AI em qualquer lugar, seja um agente de codificação, um MCP, um agente externo, uma habilidade ou um modelo.

Milhares de clientes, como Rivian, Asana e Edmunds, já usam o Unity AI Gateway para implementar a AI de forma responsável em suas organizações, e mais de um quatrilhão de tokens passaram pelo nosso gateway no último ano. Nós da Databricks usamos o Unity AI Gateway internamente para gerenciar gastos de milhares de funcionários, onde cada um tem acesso a várias ferramentas de AI líderes de mercado. Assista à nossa demonstração para uma visão geral completa!

Custo: Observabilidade completa de AI e controle de custos

As organizações precisam de visibilidade completa de para onde vai cada dólar gasto em AI, da capacidade de conter custos descontrolados em tempo real e de uma maneira de otimizar continuamente como o orçamento de AI é utilizado, sem desacelerar ou sobrecarregar os desenvolvedores.

O Unity AI Gateway serve como o hub central para qualquer ativo de AI, incluindo agentes externos, MCPs, habilidades e assistentes de codificação, e oferece observabilidade de ponta a ponta e atribuição granular de custos entre modelos, provedores, equipes e aplicativos. Ao centralizar esses dados no Unity Catalog, fornecemos painéis prontos para uso e análises baseadas no Genie, oferecendo insights profundos e imediatos sobre seu investimento em AI. Além disso, as equipes podem estabelecer orçamentos proativos e aplicar limites rígidos de gastos para garantir que a inovação em AI permaneça previsível e alinhada aos objetivos de negócios.

Uma técnica para ajudar a controlar os gastos com AI é fazer o roteamento entre modelos de fronteira, tanto proprietários quanto de código aberto. O Smart Routing, agora em Beta, ajuda as organizações a maximizar o valor de seus gastos com AI sem limitar a produtividade dos desenvolvedores. O Unity AI Gateway roteia dinamicamente cada solicitação para o modelo certo com base em fatores como qualidade, custo, desempenho, disponibilidade e orçamento, reservando os modelos mais capazes e caros para as tarefas que precisam deles, enquanto direciona outros trabalhos para opções mais eficientes. O resultado é um melhor valor para cada dólar gasto em AI, sem forçar os desenvolvedores a abrir mão das ferramentas que usam ou da qualidade de que precisam. Se você deseja participar do Beta, entre em contato com sua equipe de conta.

“O Unity AI Gateway lidou com nossa escala de produção de mais de 100 bilhões de tokens/mês sem problemas de disponibilidade, ao mesmo tempo em que nos deu visibilidade sobre os gastos com AI e controles em nível de usuário. O acesso rápido aos modelos de fronteira e de código aberto mais recentes, combinado com tabelas de uso fáceis de consultar, nos ajudou a avaliar novos modelos rapidamente e a criar análises personalizadas sobre o uso de AI.” —Sriram Ravichandran, Líder Técnico - Engenharia de Software, Zepto

"O Unity AI Gateway nos permite governar centralmente LLMs em escala em nossos produtos de dados e agentes de codificação. Ao fornecer uma única camada de acesso governada entre provedores de modelos, juntamente com observabilidade abrangente e controles de orçamento, fica muito mais fácil dimensionar a AI com segurança em nossa organização." —Max Lautner, Staff Engineer, Líder Técnico, STRABAG SE

Controle: Governe dados e AI por meio de um plano de controle unificado

Acreditamos que os dados e a AI devem ser governados juntos. Afinal, os agentes interagem com os dados corporativos mais confidenciais e invocam servidores e ferramentas MCP para realizar ações em nome dos usuários que criam dados e sistemas de registro. E os rastros gerados pelos agentes estão repletos de informações confidenciais, dados de PII ou outros segredos que podem ser vazados inadvertidamente. As empresas precisam de uma maneira unificada de controlar o que os agentes podem acessar e fazer, mantendo a identidade, a trilha de auditoria e as políticas necessárias para governar cada ação.

Com o Unity Catalog e o Unity AI Gateway, as organizações podem governar dados e AI em um só lugar. O Unity Catalog fornece a identidade, as permissões, a linhagem e a auditoria que governam o acesso aos dados e ativos de AI, enquanto o Unity AI Gateway aplica guardrails em tempo de execução e políticas contextuais nas interações de AI. Juntos, eles oferecem às equipes visibilidade e controle centralizados para proteger dados confidenciais, aplicar políticas e investigar atividades de AI sem a necessidade de integrar sistemas de governança e segurança separados.

“Com o Unity AI Gateway, finalmente temos uma única fonte de verdade para a forma como as ferramentas de codificação e os agentes de AI são usados em toda a empresa. Cada solicitação passa por um único plano de controle, com limites de taxa, proteções de PII e atribuição de custos por usuário, tudo na infraestrutura que já possuíamos. Em seguida, estamos trabalhando com a Databricks para estender essa mesma visibilidade e controle para o restante do nosso stack de AI. Os agentes continuarão se tornando mais autônomos. Ter um plano de controle governado significa que estamos vigiando uma única porta, não uma dúzia.” —Saravanan Lakshmanan, Líder Técnico, Plataformas de Analytics, Rivian e Volkswagen Group Technologies (RV Tech)

"Na OnePay, priorizar a AI significa dar às nossas equipes amplo acesso à AI, ao mesmo tempo em que honramos nossa responsabilidade como guardiões dos dados financeiros dos clientes. O Unity Catalog da Databricks é a base de governança em que confiamos, e o Unity AI Gateway estende essa mesma camada de confiança em nossas ferramentas de AI, agentes e estruturas de desenvolvimento. Nossas equipes agora podem avançar mais rapidamente, com guardrails consistentes para não comprometermos a qualidade, a eficiência ou a observabilidade." —Nameet Pai, Head de Engenharia de Plataforma e Dados, OnePay

Escolha: Acesso aberto e multi-AI sem dependência de fornecedor

Os desenvolvedores querem a liberdade de escolher os modelos, provedores, agentes de codificação e ferramentas de AI que funcionam melhor para suas equipes, sem ficarem presos a um único ecossistema de AI. O Unity AI Gateway oferece uma abordagem aberta e multi-AI para governança, estendendo a identidade, as permissões, as políticas e a observabilidade do Unity Catalog para onde quer que as equipes desenvolvam.

Com o Unity Catalog, as organizações podem registrar e descobrir modelos hospedados pela Databricks e externos, agentes de codificação, servidores MCP e habilidades em uma única fonte de verdade. O Unity AI Gateway então aplica a governança em todas as interações com esses ativos de AI, estendendo permissões, políticas e controles consistentes onde quer que sejam usados. Os provedores de identidade e ferramentas de segurança existentes podem se estender para esses fluxos de trabalho de AI, dando às equipes a flexibilidade de adotar novas tecnologias de AI sem reconstruir a governança ou substituir controles corporativos confiáveis.

O Unity AI Gateway também oferece acesso nativo a modelos de fronteira, incluindo Anthropic, OpenAI, Gemini, Kimi, GLM e outros, por meio de uma API de consulta única. Isso torna incrivelmente fácil trocar de modelo e se manter atualizado com o que há de mais moderno.

“O Unity AI Gateway estende a governança do nosso Unity Catalog para endpoints de modelos externos, permitindo que permaneçamos agnósticos em relação aos agentes de codificação, ao mesmo tempo em que damos aos engenheiros a liberdade de usar as ferramentas que funcionam melhor para eles. Ao mesmo tempo, ele oferece supervisão centralizada e controle de custos, com a capacidade de rastrear os gastos com AI desde o nível do engenheiro individual até departamentos inteiros.” —Bart Consedine, Head of AI Engineering, Magnite

"O Unity AI Gateway nos dá a flexibilidade de escolher o modelo certo para cada tarefa de codificação sem sacrificar a governança. Podemos nos mover rapidamente à medida que o cenário de AI evolui, mantendo permissões consistentes, observabilidade centralizada e confiança em como a AI está sendo usada em nossas equipes de engenharia." —Naveen Rao, CEO, Unconventional AI

"O Unity AI Gateway nos oferece um local único para gerenciar e governar o tráfego de AI em nossa organização. Com observabilidade integrada e agentes de codificação padronizados que podem compartilhar habilidades governadas de forma segura, ele nos dá a base para dimensionar a adoção de AI com maior confiança."—Greg Rokita, VP de Tecnologia, Edmunds

Comece a usar o Unity AI Gateway

O Unity AI Gateway está em disponibilidade geral hoje, oferecendo às organizações uma abordagem unificada para a governança de AI que equilibra custo, controle e escolha à medida que a adoção de AI escala.

Para saber mais:

• Explore nossa documentação sobre AWS, Azure e GCP
• Visite nosso site
• Inscreva-se no nosso webinar de governança de AI em 13 de agosto, apresentado por Matei Zaharia, cofundador e CTO da Databricks, e Kasey Uhlenhuth, diretora de produtos de AI na Databricks

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original