Unity AI Gateway ist allgemein verfügbar

In den letzten sechs Monaten war ein rasanter Anstieg der AI-gestützten Produktivität und eine starke Zunahme von Agenten im gesamten Unternehmen zu verzeichnen. Obwohl diese Agenten die Wissensarbeit grundlegend verändern können, bringen sie auch entscheidende Herausforderungen an der Schnittstelle von Kosten, Kontrolle und Wahlfreiheit mit sich:

1. Kosten: Unwirtschaftliche Ausgaben. Mit zunehmender Nutzung steigen die AI-Kosten exponentiell an. Grund dafür sind nutzungsbasierte Preismodelle, die Tokens statt Lizenzen (Seats) abrechnen. Erschwerend kommt hinzu, dass es AI-Tools an robusten, nativen Kostenkontrollen fehlt und keine einheitliche Übersicht über die gesamte Abrechnung existiert.
2. Kontrolle: Sicherheits- und IP-Risiken. Um effektiv zu sein, müssen Agenten Zugriff auf Ihre sensibelsten Daten erhalten. Dennoch brechen Modelle aus sicheren Sandboxes aus, Supply-Chain-Angriffe und Prompt-Injections führen zum Abfluss von Daten, und Datenspeicherungs- und Memory-Systeme erstellen unkontrollierte Datenkopien.
3. Wahlfreiheit: Vendor Lock-in. Unternehmen stehen unter Druck, Entwicklern die Freiheit zu geben, die neuesten Modelle und Tools zu nutzen. Das rasante Tempo der AI-Innovationen (jeden Monat ein neues Modell oder Agent-Framework!) macht es schwierig, agil zu bleiben, ohne sich an bestimmte Anbieter zu binden.

Diese Herausforderungen werden durch die unkontrollierte Verbreitung von Agenten weiter verschärft, da Unternehmen versuchen, mehrere AI-Tools und Tausende von benutzerdefinierten Agenten über unzusammenhängende Plattformen hinweg zu verwalten.

Unternehmenssysteme sind diesen Herausforderungen noch nicht gewachsen. Daher freuen wir uns, die allgemeine Verfügbarkeit (General Availability) von Unity AI Gateway bekannt zu geben. Unity AI Gateway bietet Unternehmen die Hebel für Kosten, Kontrolle und Wahlfreiheit, die sie benötigen, um ihre AI-Ausgaben zu verwalten und die Sicherheit für AI-Agenten und -Assets überall durchzusetzen – sei es ein Coding-Agent, ein MCP, ein externer Agent, ein Skill oder ein Modell. Tausende von Kunden wie Rivian, Asana und Edmunds nutzen Unity AI Gateway bereits, um AI verantwortungsvoll in ihren Unternehmen einzuführen, und im vergangenen Jahr sind über eine Billiarde Token durch unser Gateway geflossen. Wir bei Databricks nutzen Unity AI Gateway intern, um die Ausgaben für Tausende von Mitarbeitern zu verwalten, die jeweils Zugriff auf mehrere führende AI-Tools haben.

Kosten: Vollständige AI-Observability und Kostenkontrolle

Unternehmen benötigen vollständige Transparenz darüber, wohin jeder AI-Dollar fließt, die Möglichkeit, ausufernde Kosten in Echtzeit zu stoppen, und einen Weg, die Nutzung ihres AI-Budgets kontinuierlich zu optimieren, ohne die Entwickler auszubremsen oder zu belasten.

Unity AI Gateway dient als zentraler Hub für alle AI-Assets, einschließlich externer Agenten, MCPs, Skills und Coding-Assistenten, und bietet End-to-End-Observability sowie eine granulare Kostenzuordnung über Modelle, Anbieter, Teams und Anwendungen hinweg. Durch die Zentralisierung dieser Daten in Unity Catalog stellen wir vorkonfigurierte Dashboards und Genie-gestützte Analysen bereit, die Ihnen tiefe und sofortige Einblicke in Ihre AI-Investitionen geben. Darüber hinaus können Teams vorausschauende Budgets erstellen und strikte Ausgabenlimits durchsetzen, um sicherzustellen, dass AI-Innovationen kalkulierbar bleiben und mit den Geschäftszielen übereinstimmen.

Eine Methode zur Kontrolle von AI-Ausgaben besteht darin, Anfragen über verschiedene Frontier-Modelle hinweg zu leiten – sowohl proprietäre als auch Open-Source-Modelle. Smart Routing, jetzt in der Beta-Phase, hilft Unternehmen, den Wert ihrer AI-Ausgaben zu maximieren, ohne die Produktivität der Entwickler einzuschränken. Unity AI Gateway leitet jede Anfrage dynamisch an das richtige Modell weiter, basierend auf Faktoren wie Qualität, Kosten, Leistung, Verfügbarkeit und Budget. Dabei werden die leistungsfähigsten und teuersten Modelle für die Aufgaben reserviert, die sie wirklich benötigen, während andere Aufgaben an effizientere Optionen weitergeleitet werden. Das Ergebnis ist ein höherer Gegenwert für jeden AI-Dollar, ohne dass Entwickler Kompromisse bei den verwendeten Tools oder der benötigten Qualität eingehen müssen. Wenn Sie an der Beta-Phase teilnehmen möchten, wenden Sie sich bitte an Ihr Account-Team.

„Unity AI Gateway hat unser Produktionsvolumen von >100 Mrd. Token/Monat ohne Verfügbarkeitsprobleme bewältigt und uns gleichzeitig Einblick in die AI-Ausgaben und Kontrollen auf Benutzerebene gegeben. Der schnelle Zugriff auf die neuesten Frontier- und Open-Source-Modelle in Kombination mit leicht abfragbaren Nutzungstabellen hat uns geholfen, neue Modelle schnell zu evaluieren und benutzerdefinierte Analysen zur AI-Nutzung zu erstellen.“ —Sriram Ravichandran, Technical Lead - Software Engineering, Zepto

„Unity AI Gateway ermöglicht es uns, LLMs über unsere Datenprodukte und Coding-Agenten hinweg zentral und skalierbar zu steuern. Durch die Bereitstellung einer einzigen, kontrollierten Zugriffsebene über alle Modellanbieter hinweg, zusammen mit umfassender Observability und Budgetkontrollen, wird es viel einfacher, AI in unserem Unternehmen sicher zu skalieren.“ —Max Lautner, Staff Engineer, Technical Lead, STRABAG SE

Kontrolle: Daten und AI über eine einheitliche Control Plane steuern

Wir sind überzeugt, dass Daten und AI gemeinsam gesteuert werden müssen. Schließlich interagieren Agenten mit Ihren sensibelsten Unternehmensdaten und rufen MCP-Server und -Tools auf, um im Namen von Benutzern Aktionen auszuführen, die Daten und Systems of Record erstellen. Zudem sind die erzeugten Agenten-Traces oft voller vertraulicher Informationen, PII-Daten oder anderer Geheimnisse, die versehentlich durchsickern können. Unternehmen benötigen eine einheitliche Möglichkeit zu kontrollieren, worauf Agenten zugreifen und was sie tun können, während gleichzeitig die Identität, der Audit-Trail und die Richtlinien beibehalten werden, die zur Steuerung jeder Aktion erforderlich sind.

Mit Unity Catalog und Unity AI Gateway können Unternehmen Daten und AI an einem zentralen Ort steuern. Unity Catalog bietet die Identität, Berechtigungen, Lineage und Auditing-Funktionen zur Steuerung des Zugriffs auf Daten und AI-Assets, während Unity AI Gateway Runtime-Guardrails und kontextbezogene Richtlinien für AI-Interaktionen durchsetzt. Zusammen bieten sie Teams zentrale Transparenz und Kontrolle, um sensible Daten zu schützen, Richtlinien durchzusetzen und AI-Aktivitäten zu untersuchen, ohne separate Governance- und Sicherheitssysteme mühsam zusammenflicken zu müssen.

„Mit Unity AI Gateway haben wir endlich eine Single Source of Truth dafür, wie AI-Coding-Tools und -Agenten im gesamten Unternehmen genutzt werden. Jede Anfrage läuft über eine einzige Control Plane, mit Rate Limits, PII-Guardrails und benutzerbezogener Kostenzuordnung – und das alles auf einer Infrastruktur, die wir bereits besitzen. Als Nächstes arbeiten wir mit Databricks zusammen, um dieselbe Transparenz und Kontrolle auf den Rest unseres AI-Stacks auszuweiten. Agenten werden immer autonomer werden. Eine einzige gesteuerte Control Plane zu haben bedeutet, dass wir nur eine Tür im Auge behalten müssen und nicht ein Dutzend.“ —Saravanan Lakshmanan, Tech Lead, Analytics Platforms, Rivian and Volkswagen Group Technologies (RV Tech)

„Bei OnePay bedeutet AI-forward zu sein, unseren Teams breiten Zugang zu AI zu gewähren und gleichzeitig unserer Verantwortung als Hüter der Finanzdaten unserer Kunden gerecht zu werden. Der Unity Catalog von Databricks ist das Governance-Fundament, auf das wir uns verlassen, und Unity AI Gateway erweitert diese Vertrauensebene auf unsere AI-Tools, Agenten und Entwicklungs-Frameworks. Unsere Teams können jetzt schneller agieren, unterstützt durch konsistente Guardrails, sodass wir keine Kompromisse bei Qualität, effizienz oder Observability eingehen müssen.“ —Nameet Pai, Head of Platform & Data Engineering, OnePay

Wahlfreiheit: Offener Multi-AI-Zugang ohne Lock-in-Effekt

Entwickler wollen die Freiheit haben, die Modelle, Anbieter, Coding-Agenten und AI-Tools zu wählen, die für ihre Teams am besten funktionieren, ohne an ein einziges AI-Ökosystem gebunden zu sein. Unity AI Gateway bietet einen offenen Multi-AI-Ansatz für die Governance und erweitert die Identitätsverwaltung, Berechtigungen, Richtlinien und Observability von Unity Catalog auf alle Bereiche, in denen Teams entwickeln.

Mit Unity Catalog können Unternehmen von Databricks gehostete sowie externe Modelle, Coding-Agenten, MCP-Server und Skills in einer Single Source of Truth registrieren und finden. Unity AI Gateway setzt dann die Governance für alle Interaktionen mit diesen AI-Assets durch und erweitert konsistente Berechtigungen, Richtlinien und Kontrollen auf alle Einsatzbereiche. Bestehende Identitätsanbieter und Sicherheitstools können in diese AI-Workflows integriert werden. Dies gibt Teams die Flexibilität, neue AI-Technologien einzuführen, ohne die Governance neu aufbauen oder bewährte Unternehmenskontrollen ersetzen zu müssen.

Unity AI Gateway bietet außerdem nativen Zugriff auf Frontier-Modelle, einschließlich Anthropic, OpenAI, Gemini, Kimi, GLM und weiterer, über eine Single-Query-API. Dies macht es unglaublich einfach, Modelle auszutauschen und immer auf dem neuesten Stand zu bleiben.

„Unity AI Gateway erweitert unsere Unity Catalog-Governance auf externe Modell-Endpunkte. So bleiben wir unabhängig von bestimmten Coding-Agents und geben unseren Engineers gleichzeitig die Freiheit, die Tools zu nutzen, die für sie am besten funktionieren. Zudem bietet es eine zentrale Überwachung und Kostenkontrolle mit der Möglichkeit, AI-Ausgaben vom einzelnen Engineer bis hin zu ganzen Abteilungen zu verfolgen.“ —Bart Consedine, Head of AI Engineering, Magnite

„Unity AI Gateway gibt uns die Flexibilität, das richtige Modell für jede Coding-Aufgabe auszuwählen, ohne auf Governance verzichten zu müssen. Wir können schnell agieren, während sich die AI-Landschaft weiterentwickelt, und gleichzeitig konsistente Berechtigungen, zentrale Observability und Vertrauen in die Nutzung von AI in unseren Engineering-Teams gewährleisten.“ —Naveen Rao, CEO, Unconventional AI

„Unity AI Gateway bietet uns einen zentralen Ort, um den AI-Traffic in unserer gesamten Organisation zu verwalten und zu steuern. Mit integrierter Observability und standardisierten Coding-Agents, die gesteuerte Skills sicher teilen können, bietet es uns die Grundlage, um die AI-Einführung mit größerem Vertrauen zu skalieren.“ —Greg Rokita, VP of Technology, Edmunds

Erste Schritte mit Unity AI Gateway

Unity AI Gateway ist ab heute allgemein verfügbar und bietet Unternehmen einen einheitlichen Ansatz für die AI-Governance, der Kosten, Kontrolle und Flexibilität bei der Skalierung der AI-Einführung in Einklang bringt.

Mehr erfahren:

• Entdecken Sie unsere Dokumentation für AWS, Azure und GCP
• Besuchen Sie unsere Website
• Registrieren Sie sich für unser AI-Governance-Webinar am 13. August mit Matei Zaharia, Mitbegründer und CTO von Databricks, und Kasey Uhlenhuth, Product Director für AI bei Databricks

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag