Einführung von OpenAIs neuen Open-Source-Modellen auf Databricks

Wir freuen uns, mit OpenAI zusammenzuarbeiten, um deren Open-Source-Modelle gpt-oss 20B und gpt-oss 120B zu launchen, die ab heute nativ auf Databricks verfügbar sind.

Die gpt-oss Modelle setzen einen neuen Qualitätsstandard für Open-Source-Modelle mit Unterstützung für fortschrittliches Reasoning und Tool-Nutzung. Open-Source-Modelle sind einfacher anzupassen, um KI zu erstellen, die Ihre Unternehmensdaten und -domänen verstehen kann, und bieten damit eine leistungsstarke Alternative zu proprietären Modellen.

gpt-oss erweitert die wachsende Auswahl an Spitzenmodellen auf Databricks und ermöglicht es Ihnen, domänenspezifische benutzerdefinierte KI-Agenten zu erstellen, die das beste Modell für Ihren Anwendungsfall nutzen, während Sie Ihre Daten sicher mit vollständiger Governance und Observability nutzen.

Was Sie mit gpt-oss erstellen können

OpenAI veröffentlicht zwei Modelle: gpt-oss 20B und 120B, die beide Reasoning und Tool-Nutzung unterstützen.

Diese Modelle erweitern die Möglichkeiten von GenAI und ermöglichen neue Anwendungsfälle, sodass Sie Geschwindigkeit, Kosten und Qualität ausbalancieren können. gpt-oss kann allein oder neben Modellen wie GPT-4o, Claude oder Llama verwendet werden. Es eignet sich hervorragend für:

• Schnelle Agenten
  Mit einer Mixture-of-Experts-Architektur gebaut, liefert gpt-oss eine geringe Latenz für Anwendungsfälle wie Suche, Chat und Echtzeit-Entscheidungen.
• Analyse riesiger Datenmengen
  Fassen Sie Millionen von Dokumenten effizient zusammen und klassifizieren Sie sie, indem Sie Modelle direkt neben Ihren Daten und Tools auf Databricks ausführen.
• Modellanpassung
  Feinabstimmen von Open-Source-Gewichten, um sie an Ihre Domäne und Ihren Anwendungsfall anzupassen, und so eine höhere Qualität für spezialisierte Aufgaben zu erzielen, bei denen Allzweckmodelle versagen.
• Compliance auf Unternehmensebene
  Bereitstellung innerhalb Ihrer bereits genehmigten HIPAA- und PCI-konformen Plattform, die durch Unity Catalog gesteuert wird.

gpt-oss auf Databricks nutzen

Beginnen Sie sofort mit der Nutzung von gpt-oss im Playground über unsere Foundation Model API, genau wie bei anderen unterstützten Modellen. Wie immer verwaltet Agent Bricks AI Gateway die Nutzung automatisch mit integriertem Logging, Guardrails und PII-Erkennung, sodass Teams gpt-oss in Unternehmensanwendungen vertrauensvoll nutzen können.

gpt-oss sicher mit Ihren Daten verbinden

Verwenden Sie gpt-oss, um intelligente Copiloten und Agenten zu erstellen, die sicher auf Ihre Unternehmensdaten zugreifen können. Rufen Sie Dokumente ab, rufen Sie APIs auf und treiben Sie RAG-Workflows mit integrierter Governance an.

Aufgaben mit SQL oder Lakeflow automatisieren

Verwenden Sie gpt-oss in SQL, Notebooks oder Lakeflow, um Klassifizierung, Zusammenfassung und Extraktion zu automatisieren – im großen Maßstab und ohne Einrichtungsaufwand.

gpt-oss anpassen

Open-Source-Modelle wie gpt-oss sind auf Ihren domänenspezifischen Daten einfacher anzupassen. Feinabstimmen Sie gpt-oss mit Ihren eindeutigen Unternehmensdaten unter Verwendung von Databricks AI Runtime, um die Qualität des Modells für Ihren Endanwendungsfall zu optimieren. Nutzen Sie interaktive Notebooks mit integriertem MLflow-Tracking für schnelle, skalierbare Feinabstimmungsexperimente und Workflows. Kontaktieren Sie Ihr Databricks-Team für frühen Zugang zu dieser Feinabstimmungsfunktion. Darüber hinaus können Unternehmen gpt-oss mit strukturierten und unstrukturierten Daten über Vector Search und Feature Serving erweitern.

Erste Schritte mit gpt-oss

Die gpt-oss Modelle sind ab sofort auf AWS, Azure und GCP in der Foundation Model API verfügbar, wobei die Unterstützung für Provisioned Throughput und AI Functions in den nächsten Tagen ausgerollt wird.

• Probieren Sie es im Agent Bricks AI Playground aus
• Lesen Sie die Dokumentation zu gpt-oss
• Erfahren Sie, wie Sie Agenten mit gpt-oss und dem Agent Framework erstellen
• Entdecken Sie AI Functions für Ihre Daten
• Feinabstimmen von gpt-oss mit AI Runtime
   

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag