Databricks Lakehouse AIと共にLlama 2をデプロイします

DatabricksマーケットプレイスからLlama 2モデルをダウンロードして提供する方法を発見します。

Llama 2 foundationチャットモデルは、プライベートモデルサービングエンドポイントでの微調整とデプロイメントのために、現在Databricksマーケットプレイスで利用可能です。

各モデルはMLflowにラップされ、Unity Catalog内に保存されています。これにより、ノートブックでのMLflow評価を簡単に使用し、LLM最適化GPUモデルサービングエンドポイントにワンクリックでデプロイすることが可能です。

これらのエンドポイントは、基本的なモデルを提供するために事前に設定され、高速化されており、最高のコストパフォーマンス比を提供します。