Déployez Llama 2 avec Databricks Lakehouse AI

Qu'allez-vous apprendre ?

Découvrez comment télécharger et servir des modèles Llama 2 depuis le Marketplace de Databricks.

Les modèles de chat de la fondation Llama 2 sont maintenant disponibles dans le Marketplace de Databricks pour l'ajustement fin et le déploiement sur des points de terminaison de service de modèle privé.

Chaque modèle est enveloppé dans MLflow et sauvegardé dans le Catalogue Unity, ce qui facilite l'utilisation de l'évaluation MLflow dans les notebooks et le déploiement en un seul clic sur les points de terminaison de service de modèle optimisé par LLM-GPU.

Ces points de terminaison sont pré-configurés et accélérés pour servir des modèles fondamentaux, offrant le meilleur rapport coût/performance.

Lancer la visite guidée du produit

Recommandations

<p>Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle</p>

Didacticiel

Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle

<p>Comment utiliser AutoML pour développer des modèles ML</p>

Vidéo à la demande

Comment utiliser AutoML pour développer des modèles ML

<p>Surveillance Lakehouse et Recherche Vectorielle</p>

Vidéo à la demande

Surveillance Lakehouse et Recherche Vectorielle