Hochwertige KI-Agent-Systeme entwickeln und implementieren

Mit Mosaic AI Gateway können Sie Modelle wie OpenAI GPT-4, Meta Llama 3, Anthropic Claude 3 usw. verwalten, die für Ihren Anwendungsfall geeignet sind. Sie können Ihre eigenen benutzerdefinierten Modelle weiter verfeinern oder von Grund auf neu erstellen – seien es Predictive-Modelle oder maßgeschneiderte LLMs. Schließlich können Sie auch KI-Tools erstellen, veröffentlichen und gemeinsam nutzen, um unstrukturierte Daten abzurufen, Code auszuführen oder mit Remote-Diensten zu kommunizieren.

Mosaic AI Model Serving unterstützt die Implementierung von Agents, Chains, GenAI-Modellen und klassischen ML-Modellen. MLflow als führende Open-Source-Lösung für MLOps und LLMOps bietet Organisationen für alle Modelle Unterstützung bei der Bereitstellung über den gesamten KI-Lebenszyklus vom Training bis zur Implementierung. Es beschleunigt ML- und GenAI-Anwendungsfälle mit einem zuverlässigen Prozess für Datenaufbereitung, Modellentwicklung, Implementierung und Überwachung.

Databricks MLflow bietet eine integrierte Evaluierung für Agenten, die eine beliebige Kombination von GenAI- und ML-Modellen verwenden. Agent Evaluation misst die Ausgabequalität mit KI-gestützten Judges, die die Antworten bewerten und es ermöglichen, von menschlichen Experten Peer-Feedback zu erhalten. Bei Qualitätsproblemen können Sie die Ursache ermitteln, Behebungsmaßnahmen bewerten und die erneute Implementierung zeitnah vornehmen.

Mit Unity Catalog bietet nur Mosaic AI durchgängige Governance für Agents. Sie können Governance und Sicherheitsmaßnahmen auf alle KI-Modelle anwenden, d. h. auch auf solche, die außerhalb von Databricks gehostet werden. Hiermit lassen sich automatisch angemessene Zugriffskontrollen umsetzen, Nutzungsraten begrenzen, schädliche Inhalte unterbinden und die Datenherkunft von den Daten bis zur Implementierung nachverfolgen.