Déployez Llama 2 avec Databricks Lakehouse AI
Qu'allez-vous apprendre ?
Découvrez comment télécharger et servir des modèles Llama 2 depuis le Marketplace de Databricks.
Les modèles de chat de la fondation Llama 2 sont maintenant disponibles dans le Marketplace de Databricks pour l'ajustement fin et le déploiement sur des points de terminaison de service de modèle privé.
Chaque modèle est enveloppé dans MLflow et sauvegardé dans le Catalogue Unity, ce qui facilite l'utilisation de l'évaluation MLflow dans les notebooks et le déploiement en un seul clic sur les points de terminaison de service de modèle optimisé par LLM-GPU.
Ces points de terminaison sont pré-configurés et accélérés pour servir des modèles fondamentaux, offrant le meilleur rapport coût/performance.
Recommandations
Didacticiel
Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle
Vidéo à la demande
Comment utiliser AutoML pour développer des modèles ML
Vidéo à la demande
Surveillance Lakehouse et Recherche Vectorielle
Type
Visite guidée
Durée
À votre rythme
Liens associés