DeepSeek R1 on Databricks

Deepseek-R1は、最先端のオープンモデルであり、初めて「推論」機能をオープンソースコミュニティに提供します。特に、このリリースには、その推論機能をLlama-70BおよびLlama-8Bモデルに蒸留したものも含まれており、スピード、コスト効果、そして新たに「推論」機能の魅力的な組み合わせを提供します。私たちは、Databricks Model ServingでDeepSeek-R1-Llamaモデルを簡単にダウンロードして実行する方法を共有できることを嬉しく思います。そして、それにより、セキュリティ、業界トップクラスのパフォーマンス最適化、そしてDatabricks Data Intelligence Platformとの統合の利点を享受することができます。これらのオープンな「推論」モデルを使って、さらにインテリジェントにデータを推論できるエージェントシステムの構築が可能になります。 Databricks上でのDeepseek-R1-Distilled-Llamaモデルのデプロイ Deepseek-R1-Distill-LlamaモデルをDatabricksにダウンロード、登録、デプロイするには、ここに含まれている ノートブックを使用するか、以下の指示に従ってください： 1. 必要なコンピュート¹を立ち上げ、モデルとそのトークナイザーをロードします： from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-R1-Distill-Llama-8B") model = AutoModelForCausalLM.from_pretrained("deepseek-ai/DeepSeek-R1-Distill-Llama-8B") このプロセスは、Llama...