Ir para o conteúdo principal
Setores

Como a AUMOVIO centralizou o acesso à IA com o Databricks Unity Gateway

por Louis Rottmeier, Maximilian Fest, Michael Boesl, Michael Weber, Martin Gindler e Kelly Albano

À medida que a adoção de IA cresceu, as equipes da AUMOVIO desenvolveram diferentes maneiras de acessar grandes modelos de linguagem. Hoje, o Databricks Unity Gateway fornece um ponto de entrada compartilhado para nossas cargas de trabalho de IA. Este blog discute como unimos essas abordagens.

O desafio: Gerenciar o acesso à IA em vários provedores

As equipes da AUMOVIO desenvolveram diferentes maneiras de acessar LLMs, incluindo integrações de provedores e gateways criados para casos de uso específicos. Todas essas abordagens atenderam a necessidades reais, mas, conforme a adoção de IA cresceu, sua variedade aumentou a complexidade das operações, a atribuição de custos e a governança consistente.

As principais oportunidades de melhoria eram:

  • Visibilidade compartilhada. Reunir o uso de modelos em um único lugar para relatórios consistentes.
  • Transparência de custos. Atribuir gastos a um usuário, equipe ou caso de uso.
  • Operações simplificadas. Gerenciar atualizações de provedores, incidentes e suporte por meio de um serviço compartilhado.
  • Governança consistente. Aplicar aprovações de modelos, logs e barreiras de proteção por meio de uma abordagem comum.

Juntas, essas abordagens destacaram o valor de um modelo operacional compartilhado para gerenciar nossas cargas de trabalho de IA com uma única solução de gateway de IA.

A decisão: Um gateway de IA centralizado

A força-tarefa de IA multifuncional da AUMOVIO reuniu partes interessadas de segurança, proteção de dados, áreas de negócios e TI. A força-tarefa decidiu por um AI Gateway central como a rota compartilhada para acesso e governança de LLM, estabelecendo uma direção comum para o acesso a modelos em toda a empresa.

A partir daí, nosso trabalho era tornar o caminho central útil para as equipes e suas aplicações.

Por que escolhemos o Databricks Unity Gateway

Criar um gateway de IA é simples, mas operá-lo como um serviço empresarial é um compromisso permanente: as APIs dos provedores mudam, as dependências precisam de patches, os requisitos de segurança evoluem e os usuários precisam de suporte. Assim que as aplicações dependem dele, um gateway precisa de um roteiro, de uma escala de plantão e de um processo de suporte. Pesando isso em comparação com a compra de mais um gateway de IA, cinco argumentos decidiram por que o Databricks Unity Gateway foi a solução para nós.

1. O Databricks já era nossa plataforma de dados. O 1ADP (One AUMOVIO Data Platform) é executado no Databricks. Colocar o acesso aos modelos próximo aos nossos dados corporativos governados significava nenhum novo fornecedor, nenhum novo caminho de rede para revisar e nenhuma pilha isolada para operar.

2. Integração de identidade corporativa. O Databricks está integrado ao nosso locatário corporativo do Microsoft Entra ID, e outras aplicações da AUMOVIO se autenticam nesse mesmo locatário. Uma aplicação apresenta seu token do Entra ID e obtém acesso ao Unity Gateway por meio de troca de tokens, sem conta separada, sem chave de API para distribuir e sem integração sob medida. Integrar uma nova aplicação habilitada para IA exige uma concessão de permissão, e o acesso a cada modelo termina automaticamente quando a identidade corporativa expira.

3. Governança e monitoramento de uso. Aprovações de modelos, políticas de acesso, monitoramento de uso e registro em log ficam em um só lugar, em vez de serem reimplementados por aplicação. O registro em log de payloads por meio de tabelas de inferência é desativado por padrão e só é habilitado com uma justificativa explícita e aprovada, que é a postura exigida por nossos acordos de proteção de dados.

4. Continuamos livres para escolher provedores. Isso foi o que mais importou. Publicamos um catálogo com curadoria de apelidos de modelos 1adp-*, e o Unity Gateway roteia cada apelido para o provedor que o atende: modelos de fundação hospedados no Databricks, Google Vertex AI, Azure OpenAI, AWS Bedrock ou outros. Os usuários programam usando um nome estável e neutro em relação ao fornecedor, e podemos redirecionar esse nome para um provedor diferente ou para um modelo mais recente sem que nenhum consumidor mude uma única linha de código. Os apelidos oferecem às equipes uma rota consistente para modelos aprovados.

5. A configuração é infraestrutura como código. O Terraform expressa tudo o que o Unity Gateway faz por nós: os endpoints por trás de cada apelido 1adp-*, o provedor para o qual cada modelo é roteado, a ordem de failover quando um provedor degrada, limites de taxa e as barreiras de proteção aplicadas por endpoint. Adicionar um modelo, redirecionar um apelido ou endurecer um controle de segurança é um pull request, revisado, versionado e reproduzível em vários ambientes. Quando a produção apresenta comportamento inesperado, nosso controle de versão explica a configuração que o causou. Como provisionamos o restante do 1ADP da mesma forma, o Gateway é mais um módulo para os engenheiros que já operam a plataforma.

Como o Unity Gateway nos ajuda com o gerenciamento de custos de IA e o acesso a modelos  

Centralizar o acesso aos modelos foi o primeiro passo. Em seguida, construímos três recursos sobre o Unity Gateway para apoiar a forma como nossas equipes gerenciam, acessam e usam a IA:

Atribuição de custos e estorno. O Unity Gateway relata quantos tokens foram consumidos, e cada usuário atribui seu consumo a um centro de custos pessoal ou a um dos projetos em que trabalha. Os pipelines juntam essa atribuição com as tabelas de sistema do Databricks e cobram o uso do centro de custos correto. Publicamos o resultado como painéis: quais modelos são usados, por quem, como o consumo evolui e quanto custa. Os proprietários de orçamento podem ver seus gastos e identificar alterações no consumo.

Um catálogo de modelos com curadoria. O acesso padronizado não torna os modelos intercambiáveis. O catálogo é a única fonte de verdade para quais modelos são aprovados, a que eles mapeiam e em qual camada de consumo são executados. As equipes ainda testam suas aplicações em relação ao modelo escolhido, mas não precisam mais construir infraestrutura para alcançá-lo.

Uma interface para funcionários. A aplicação de IA do 1ADP é executada em produção no mesmo gateway e oferece aos funcionários uma maneira governada de usar IA sem escrever código. Os desenvolvedores obtêm um endpoint compatível com o OpenAI e podem direcionar ferramentas de codificação baseadas em agentes compatíveis para os mesmos modelos centrais. Mesma infraestrutura, dois públicos: padronizamos o acesso aos modelos e deixamos a escolha da interface de desenvolvimento em aberto.

Os resultados até o momento: Governança de IA centralizada, visibilidade de custos e acesso para desenvolvedores

O Unity Gateway fornece uma rota compartilhada para acesso a LLMs. Os apelidos 1adp-* conectam aplicações a modelos, barreiras de proteção são aplicadas de forma centralizada e o uso é atribuído a centros de custos quase em tempo real.

A próxima fase avança na pilha da plataforma de IA: compartilhamento de agentes dentro de projetos do 1ADP e conexão de fontes de conhecimento, busca na web e outras ferramentas por meio de conexões MCP (Model Context Protocol) gerenciadas e traga sua própria conexão (BYOC). O acesso aos modelos permanece centralizado; o que muda é o leque de ferramentas que um agente pode alcançar. Isso levanta questões sobre o que um agente pode recuperar, quais ferramentas ele pode chamar e sob cujas permissões ele age. Ter uma única estrutura para responder a essas perguntas é o motivo pelo qual nos consolidamos em primeiro lugar.

Lições aprendidas: Construir versus comprar um AI Gateway empresarial

Se você está unindo diferentes abordagens de acesso a modelos, envolva segurança, proteção de dados, áreas de negócios e TI no modelo operacional. Em seguida, torne o serviço compartilhado útil para as equipes que devem usá-lo.

Ao comparar a construção com a compra, calcule o custo para a década, e não apenas para o protótipo. Pergunte quem aplica patches na integração com o provedor, quem responde ao chamado de suporte, quem lida com o incidente e quem fará isso novamente no próximo ano.

Em seguida, decida o que é genuinamente seu para construir. O gateway não era. A atribuição de custos, o catálogo de modelos e a aplicação de IA voltada para os funcionários eram, porque eles codificam a forma como a AUMOVIO trabalha e nenhum fornecedor iria nos entregar isso pronto.

Continuamos responsáveis pela nossa arquitetura, pelas nossas decisões de segurança e pela qualidade dos nossos aplicativos. O Unity Gateway fornece o serviço de acesso a modelos compartilhado, enquanto as equipes continuam livres para escolher os aplicativos que criam.

Perguntas frequentes

Por que a AUMOVIO escolheu o Databricks Unity Gateway em vez de criar seu próprio gateway de IA?

A AUMOVIO escolheu o Databricks Unity Gateway para centralizar o acesso aos modelos de IA sem a manutenção contínua, as atualizações de segurança e a complexidade operacional de criar o seu próprio gateway. Como a Databricks já impulsionava sua plataforma de dados corporativa, a AUMOVIO pôde reaproveitar a infraestrutura existente, a integração com o Microsoft Entra ID e os controles de governança. Isso permitiu que suas equipes focassem na criação de recursos específicos da empresa, como atribuição de custos, um catálogo de modelos selecionados e um aplicativo de IA voltado para os funcionários.

Como as empresas podem governar centralmente o acesso a modelos de IA em vários provedores?

O Databricks Unity Gateway oferece um ponto de entrada único e governado para acessar modelos de IA em provedores como Azure OpenAI, Google Vertex AI, AWS Bedrock e modelos hospedados na Databricks. A AUMOVIO usa aprovações centralizadas de modelos, políticas de acesso, logs e proteções para aplicar uma governança consistente em todos os aplicativos. Seus aliases de modelos selecionados também permitem que os administradores alterem o modelo ou provedor subjacente sem exigir alterações no código do aplicativo.

Como o Databricks Unity Gateway ajuda as empresas a rastrear e alocar custos de IA?

O Unity Gateway fornece dados de uso de tokens que as empresas podem usar para rastrear o consumo de IA entre modelos e usuários. A AUMOVIO combina esses dados das tabelas de sistema da Databricks com atribuições de projetos e centros de custo para direcionar os gastos com IA aos proprietários de negócios apropriados. Os dashboards oferecem visibilidade quase em tempo real sobre o uso de modelos, tendências de consumo e custos, dando suporte ao reembolso interno e ao controle de orçamento.

Como as empresas podem dar aos desenvolvedores acesso a vários modelos de IA sem gerenciar chaves de API separadas?

O Databricks Unity Gateway oferece acesso centralizado a modelos por meio de um endpoint compatível com a OpenAI, reduzindo a necessidade de os desenvolvedores gerenciarem integrações de provedores separadas. Na AUMOVIO, os aplicativos se autenticam por meio da troca de tokens do Microsoft Entra ID, eliminando a necessidade de distribuir chaves de API individuais. Os desenvolvedores podem usar modelos aprovados por meio de agentes de codificação e aplicativos compatíveis, enquanto a TI gerencia permissões e conexões de provedores de forma centralizada.

Quais são os benefícios de usar um gateway de IA centralizado para aplicativos e agentes de IA corporativos?

Um gateway de IA centralizado simplifica o acesso a vários modelos, unindo governança, visibilidade de custos e gerenciamento operacional em um único serviço compartilhado. A AUMOVIO usa o Unity Gateway para dar suporte tanto a aplicativos de IA voltados para funcionários quanto a ferramentas de desenvolvedor por meio da mesma infraestrutura. Sua próxima fase estenderá essa abordagem a agentes de IA compartilhados e conexões MCP, com foco em governar o acesso a ferramentas e permissões.

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original

Tags relacionadas:

Unity Gateway e Produção industrial

Receba os posts mais recentes na sua caixa de entrada

Assine nosso blog e receba os posts mais recentes diretamente na sua caixa de entrada.