Das Enterprise-Argument für Open-Weight-Modelle auf Databricks

Als Field Engineers bei Databricks verbringen wir unseren Alltag mitten in KI-Implementierungen von Unternehmen, bei denen wir einen klaren Strategiewechsel beobachten konnten. Nach zwei Jahren der Standardisierung auf einzelne Frontier-Modell-Anbieter überdenken Unternehmen ihren Ansatz aufgrund von sieben zentralen Treibern:

Sieben Beobachtungen, die die KI-Strategie prägen

1. Die Ausgaben generieren keinen ausreichenden ROI. Die KI-Budgets sind schneller gewachsen als der Umsatz und die Kosteneinsparungen, was eine bessere Wirtschaftlichkeit pro Einheit erfordert [1].

2. Modell-Rankings haben sich seit 2023 wiederholt verändert. Das beste Modell für Codierung, Reasoning und Extraktion ändert sich von Monat zu Monat, und das Top-Intelligenz-Ranking hat seit Mai 2023 mehr als 20 Mal den Besitzer gewechselt [2]. Architekturen, die an einen einzigen Anbieter gebunden sind, erschweren es, bei Änderungen des Rankings ein besseres Modell zu übernehmen.

3. Frontier-Guardrails können legitime Arbeitslasten blockieren. Von KI-Laboren auferlegte Modell-Guardrails können legitime Aufgaben verweigern, wie etwa die Analyse von Live-Malware oder die Reproduktion eines Exploits zu dessen Behebung – eine Einschränkung, die beim jüngsten Vorfall bei Hugging Face entdeckt wurde [6][7]. Als die Techniker von Hugging Face echte Angriffs-Logs und Exploit-Nutzlasten zur Analyse an gehostete Frontier-Modelle übermittelten, verweigerten die Guardrails den Dienst, woraufhin das Team die Analyse stattdessen auf einem Open-Weight-Modell (GLM 5.2) durchführte.

4. Richtlinien zur Datenspeicherung haben sich weiterentwickelt und werden dies wahrscheinlich auch weiterhin tun. Einige Frontier-Anbieter sind von den Richtlinien zur Nulldatenspeicherung (ZDR) abgewichen, wie etwa die mit dem Frontier-Tarif von Anthropic eingeführte Mindestaufbewahrungsfrist von 30 Tagen [8]. Für Unternehmen, deren Compliance-Richtlinien auf dem Prinzip basieren, dass „weder Prompts noch Completions jemals gespeichert werden“, könnte eine Änderung der Upstream-Richtlinie Probleme verursachen und möglicherweise eine Systemänderung erfordern.

5. Unternehmen wünschen sich Transparenz und Kontrolle über das Modell-Governance. Die Nachfrage nach durchgängiger Transparenz und Governance über KI-Modelle hinweg wächst. Kunden wünschen sich durchsuchbare Aufzeichnungen von Modelleingaben, -ausgaben, -fehlern und Agenten-Aktionen, damit Teams die Genauigkeit bewerten und die Performance verbessern können, sowie zentrale Kontrollen zum Schutz sensibler Daten und des geistigen Eigentums.

6. Das Harness ist genauso wichtig wie das Modell. Die Forschung von Databricks zeigt, dass das Gerüst um ein Modell herum – sein Harness aus Prompts, Tools und Kontrollfluss – die gemessene Leistung beeinflusst. Im eigenen Benchmark von Databricks erzielte dasselbe Modell in einem Harness 61,7 %, in einem anderen 48,1 % und im Rohzustand 38,4 % [9]. Da die Wahl des Harness die Benchmark-Ergebnisse verändert, sollten Evaluationen das Modell und das Harness gemeinsam testen.

7. Open-Weight-Modelle haben zu Frontier-Modellen aufgeschlossen. Die führenden Open-Weight-Modelle erreichen inzwischen ein Benchmark-Niveau, das mit dem von Top-Frontier-Modellen vergleichbar ist, und das zu geringeren Kosten [3][4][5]. Vor achtzehn Monaten war dies noch nicht der Fall. Open-Weight-Modelle, die eine Benchmark-Performance auf Frontier-Niveau erreichen, verändern die Kompromisse in Bezug auf Kosten, Kontrolle und Bereitstellung, die in den anderen sechs Punkten beschrieben wurden.

Angesichts dieser Beobachtungen versuchen Unternehmen: 1) Kosten zu optimieren, ohne Leistungsgewinne zu opfern, 2) die operative Freiheit zu wahren und 3) sicherzustellen, dass KI-Implementierungen Innovationen schnell integrieren können. Dazu benötigen sie eine Architektur, bei der Modelle und Harnesses ausgetauscht werden können, ohne die Governance zu schwächen.

Die Attraktivität von Open-Weight-Modellen

Open-Weight-Modelle bieten im Vergleich zu Frontier-Modellen eine bessere Kosteneffizienz, Kontrolle und Flexibilität:

• Kommodifizierte Intelligenz: Da Modellintelligenz zu einer Commodity wird, bieten Open-Weight-Optionen inzwischen eine Intelligenzparität mit Top-Frontier-Modellen zu einem Bruchteil der Kosten, was einen besseren ROI bei KI-Bereitstellungen ermöglicht.
• Datensouveränität: Das Hosting von Modellen auf einer kontrollierbaren Infrastruktur gibt Teams die Hoheit über Compliance-, Sicherheits- und Datenspeicherungsrichtlinien und verringert das Risiko nicht konformer Änderungen in der Zukunft.
• Vollständige operative Autonomie: Open-Weight-Modelle ermöglichen es Teams, Arbeitslasten auszuführen, die durch Frontier-Guardrails möglicherweise eingeschränkt werden (z. B. Reaktion auf Cybersicherheitsvorfälle)

Quelle: [5] DeepSWE Leaderboard by Cost. Einige der führenden Open-Weight-Modelle im Vergleich zu ihren proprietären Äquivalenten, gefiltert nach Ermessen der Autoren.

Die Vorteile der Verwendung von Open-Weight-Modellen auf Unity Gateway

Open-Weight-Modelle zusammen mit Frontier-Modellen nutzen

Unity Gateway stellt Open-Weight- und Frontier-Modelle über eine einheitliche API mit zentralen Governance-Kontrollen bereit, sodass Teams über Konfiguration oder Smart Routing [10][11] zwischen Modellen wechseln können, anstatt Codeänderungen oder andere Abstraktionen vorzunehmen [12][13].

Die Multimodell-Fähigkeit von Unity Gateway wird zu einem festen Bestandteil der KI-Strategien von Kunden. Seit Januar ist die durchschnittliche Anzahl der pro Kunde verwendeten unterschiedlichen Modelle von 4,2 auf 7,1 gestiegen – ein Indikator für die auf Unity Catalog verfügbaren Optionen und das Streben nach Modellen mit höherem ROI. Etwa ~40 % dieser Modelle waren Open-Weight-Modelle.

Quelle: Interne Daten von Databricks für den Zeitraum von der Woche zum 5. Januar 2026 bis zur Woche zum 27. Juli 2026. Erstellt mit Genie One.

Große Open-Weight-Modelle mit branchenführender Geschwindigkeit nutzen

Die Bereitstellung großer Open-Weight-Modelle mit wettbewerbsfähigen Antwortzeiten erfordert Optimierungen, um die Kosteneffizienz im großen Maßstab aufrechtzuerhalten. Databricks begegnet Latenzbeschränkungen durch den Einsatz maßgeschneiderter Inferenz-Engines und optimierter Kernel, die auf Frontier-GPUs ausgeführt werden. Unabhängige Evaluationen von Artificial Analysis heben diese Performance-Merkmale hervor: So erzielt beispielsweise GLM 5.3 (max) eine End-to-End-Antwortzeit (einschließlich Eingabeverarbeitung, Reasoning und Generierung) von 9,1 Sekunden auf Databricks [15] und schneidet damit im Vergleich zu erstklassigen verwalteten Endpunkten sehr gut ab [16].

Quelle: [15] GLM 5.3 Model Providers: Artificial Analysis

Kosten und Nutzung aller Modelle von einem Ort aus steuern

Hier sind einige wichtige Funktionen zur Steuerung dieser Modelle und zur Kostenkontrolle auf Unity Gateway:

• Smart Routing leitet Sitzungen für die jeweilige Aufgabe an das kosteneffiziente Modell weiter, sodass Routineaufgaben von Frontier-Modellen weg verlagert werden [10][11].
• Fallback-Ketten leiten Daten bei Erreichen von Modell-Ratenlimits oder Ausfällen von Anbietern automatisch um [14].
• Budgets mit Ausgabenobergrenzen nach Benutzer, Team oder Anwendungsfall verhindern ausufernde Kosten [19][30]. Diese Limits können mit unterschiedlichen Schweregraden konfiguriert werden, von sanften Warnungen bis hin zu strengen Richtlinien, die Sitzungen auf günstigere Modelle umleiten.
• Zentralisierte Governance für Tools und Fähigkeiten. Neben integrierten MCP-Servern unterstützt Unity Catalog die Registrierung externer MCP-Server, die über verwaltete Proxies ausgeführt und zentral überprüft werden. So erhalten Agents ihre Tools mit derselben Governance wie ihre Modelle [20]. Fähigkeiten [21] können ebenfalls registriert und geregelt werden, was die Bestimmtheit und Token-Effizienz für wiederholbare Workflows verbessert.
• Einheitliche Governance über Open-Weight-, externe und Spitzenmodelle hinweg. Verbinden Sie externe Modellanbieter (z. B. Amazon Bedrock, Azure AI Foundry) über Modell-Provider-Dienste [17] und leiten Sie Anfragen über dieselbe zentrale Governance-Schicht weiter, die auch für von Databricks gehostete Open-Weight- und Spitzenmodelle verwendet wird [18]. Verwalten Sie Zugriff, Ausgabenkontrollen und Prüfprotokolle für Ihr gesamtes Modellportfolio über eine einzige Plattform.

Unternehmen verlagern Workloads auf Open-Weight-Modelle

GLM 5.2 fiel mit einem starken Anstieg der Open-Weight-Nutzung auf Unity Gateway zusammen. Nachdem GLM 5.2 Mitte Juli verfügbar wurde, stieg seine Nutzung. Gleichzeitig blieb das Wachstum unter Unity Gateway-Kunden relativ konstant, was darauf hindeutet, dass bestehende Kunden mehr KI-Traffic auf Open-Weight-Modelle verlagerten. Nur einen Monat nach der Einführung macht GLM 5.2 bereits rund 40 % der auf Unity Gateway verwendeten Open-Weight-Tokens aus, wobei der Großteil dieses Wachstums zusätzlich ist. Sowohl die Benchmark-Leistung von GLM 5.3 als auch die von Kimi K3 bieten Kunden eine weitere Open-Weight-Option zur Evaluierung neben GLM 5.2 [5].

Quelle: Interne Daten von Databricks für die Woche bis zum 5. Januar 2026 bis zur Woche bis zum 27. Juli 2026. Erstellt mit Genie One

Um diese Nachfrage zu unterstützen, kündigte Databricks im Juli eine Finanzierungsrunde über 3 Milliarden US-Dollar an, und CEO Ali Ghodsi teilte CNBC mit, dass es bei der Finanzierung teilweise darum geht, GPU-Kapazitäten für das Hosting offener Modelle sicherzustellen. „Uns gehen überall die GPUs aus... Japan, Korea, die USA und Indien, also mussten wir einfach viele davon bekommen, und das erfordert viel Finanzierung. Das hat also diese Spendensammlung für uns ausgelöst“ [22].

Zugriff auf Open-Weight-Modelle in Anbietertools mit Unity Gateway

Die Tools, die Ihre Entwickler bereits täglich nutzen, können weiterhin Open-Weight-Modelle ausführen, die auf Databricks gehostet werden. Seit Ende Juli können auf Unity Gateway bereitgestellte Modelle, einschließlich GLM 5.3, in Anbieter-Programmiertools wie Codex und OpenCode ausgeführt werden [12][26], wobei die Unterstützung für weitere Tools eingeführt wird. Das Gateway stellt OpenAI-kompatible Endpunkte pro Tool bereit, sodass die Einrichtung nur eine Konfigurationsänderung erfordert. Verweisen Sie das Tool auf die Gateway-URL Ihres Workspace oder verwenden Sie den ucode-Helfer mit einer Zeile:

ucode codex --model system.ai.glm-5-3

Abschließende Gedanken

Unternehmen sollten ein Portfolio von Modellen einplanen, da kein einzelnes Modell oder kein einzelner Anbieter bei Qualität, Kosten und Richtlinienkonformität für jeden Workload führend sein wird. Von den zur Auswahl stehenden Modellen bieten Open-Weight-Modelle jetzt wettbewerbsfähige Intelligenz zu geringeren Kosten und eine bessere Kontrolle über Datenverarbeitung und Governance-Richtlinien. Im Gegensatz dazu bleiben Spitzenmodelle dort nützlich, wo sie bessere Ergebnisse liefern. Unity Catalog verwaltet diese Optionen durch gemeinsame Zugriffskontrollen, Routing-Richtlinien, Budgets und Audits. Omnigent erweitert diese Flexibilität auf das Tool, sodass Teams Modelle oder Agentenumgebungen wechseln können, ohne Workflows neu erstellen zu müssen.

Die Nutzungsdaten in diesem Artikel zeigen, dass sich Kunden bereits in diese Richtung bewegen. Sie stellen mehr Modelle bereit, leiten mehr Traffic auf Open Weights um und verwenden portable Tools, um ihre Optionen zu erweitern. Der dauerhafte Vorteil ist die Fähigkeit, diese Änderungen schnell vorzunehmen, wenn sich Modelloptionen, Qualität, Preise und Richtlinienanforderungen weiterentwickeln.

Quellen

[1] Nanda, M., Challapally, A., Pease, C., Raskar, R., & Chari, P. (2025, Juli). The GenAI divide: State of AI in business 2025 (Vorläufige Erkenntnisse aus der KI-Implementierungsforschung). Project NANDA, Massachusetts Institute of Technology. 
[2] LLM Leaderboard History: KI-Rankings 2023-2026 verfolgt, BenchLM 
[3] Kimi K3 - Intelligenz-, Leistungs- & Preisanalyse, Artificial Analysis 
[4] GLM-5.3 (max) - Intelligenz-, Leistungs- & Preisanalyse | Artificial Analysis 
[5] DeepSWE-Bestenliste nach Kosten 
[6] Offenlegung des Sicherheitsvorfalls, Juli 2026, Hugging Face Blog 
[7] OpenAIs Hugging Face-Sicherheitsverletzung zeigt, dass Frontier-KI-Leitlinien versagen, Forbes, 23. Juli 2026 
[8] Erklärung zur US-Regierungsanweisung, den Zugriff auf Fable 5 und Mythos 5 auszusetzen 
[9] Was ist ein KI-Agent-Harness?, Databricks Blog 
[10] Intelligentes Routing für Coding-Agenten 
[11] Intelligentes Routing im Unity AI Gateway: Erreichen Sie Frontier-Qualität bei über 30 % geringeren Kosten pro Task 
[12] Von Databricks gehostete Foundation-Modelle, Databricks-Dokumentation 
[13] Agent Bricks: Data + AI Summit 2026, Databricks Blog 
[14] Routing und Fallbacks für Modelldienste konfigurieren 
[15] GLM-5.3 (max) API-Anbieter-Benchmarking & -Analyse 
[16] https://artificialanalysis.ai/models#end-to-end-response-time 
[17] Externe Modell-Anbieter verwalten (Modell-Anbieterdienste) 
[18] Databricks Unity AI Gateway Dokumentation 
[19] Budgets für das Unity Gateway verwalten 
[20] Unity AI Gateway: So verbinden Sie Agenten sicher mit externen MCPs, Databricks Blog 
[21] Skill-Unterstützung im Unity Gateway 
[22] Databricks-CEO: Wir hosten Open-Source-Modelle wie Kimi und es mangelt uns an GPUs, CNBC, 17. Juli 2026 
[23] Modelle & Anmeldeinformationen, Omnigent-Dokumentation 
[24] Benchmarking von Coding-Agenten in der Codebasis von Databricks mit mehreren Millionen Zeilen 
[25] Governance für MCPs im großen Stil mit dem Unity AI Gateway 
[26] Open-Source-Modelle mit Coding-Agenten verwenden 
[27] Unity AI Gateway: Multi-KI-Governance und Kostenkontrolle, Databricks 
[28] Wir stellen vor: Omnigent – Ein Meta-Harness zum Kombinieren, Steuern und Teilen Ihrer Agenten, Databricks Blog 
[29] GLM-5.2-Anbieter: Vergleich der Ausgabegeschwindigkeit, Artificial Analysis 
[30] Wir stellen KI-Ausgabenkontrollen mit dem Unity Gateway vor 
[31] Wir stellen vor: Omnigent – Ein Meta-Harness zum Kombinieren, Steuern und Teilen Ihrer Agenten

Unity AI Gateway erkunden

Erfahren Sie, wie Sie Open-Weight-, Frontier- und externe Modelle über eine einheitliche Plattform steuern, routen und überwachen.

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag