メインコンテンツへジャンプ
ログイン
      • Databricks を知る
        • エグゼクティブ向け
          • スタートアップ向け
            • レイクハウスアーキテクチャ
              • Mosaic Research
              • 導入事例
                • 注目の導入事例
                • パートナー
                  • クラウドプロバイダ
                    Databricks on AWS、Azure、GCP
                    • コンサルティング・SI
                      Databricks の構築・デプロイ、Databricks への移行のエキスパート
                      • 技術パートナー
                        既存のツールをレイクハウスに接続
                        • C&SI パートナー
                          レイクハウスの構築・デプロイメント、レイクハウスへの移行
                          • データパートナー
                            データコンシューマーのエコシステムにアクセス
                            • パートナーソリューション
                              業界・移行のニーズに応じたカスタムソリューション
                              • Databricks で構築
                                ビジネスの創造・マーケティング・成長
                              • Databricks プラットフォーム
                                • プラットフォームの概要
                                  データ・分析・AI のための統合プラットフォーム
                                  • データ管理
                                    データの信頼性・セキュリティ・パフォーマンス
                                    • 共有
                                      オープン、セキュア、ゼロコピーでのデータ共有
                                      • データウェアハウジング
                                        バッチ、ストリーミングデータのための ETL とオーケストレーション
                                        • ガバナンス
                                          データ・分析・AI のための統合ガバナンス
                                          • データエンジニアリング
                                            バッチ、ストリーミングデータのための ETL とオーケストレーション
                                            • 人工知能(AI)
                                              ML と生成 AI アプリケーションの構築とデプロイメント
                                              • データサイエンス
                                                データサイエンスの大規模な連携
                                                • BI
                                                  実世界データのインテリジェント分析
                                                  • アプリケーション開発
                                                    安全なデータと AI アプリを迅速に構築
                                                    • データベース
                                                      データアプリとAIエージェントのための Postgres
                                                    • 統合とデータ
                                                      • マーケットプレイス
                                                        データ、分析、AI のためのオープンマーケットプレイス
                                                        • IDE 統合
                                                          お気に入りの IDE(統合開発環境)でレイクハウスを構築
                                                          • パートナーコネクト
                                                            Databricks エコシステムの検索と統合
                                                          • ご利用料金
                                                            • Databricks のご利用料金
                                                              料金設定、DBU、その他
                                                              • コスト計算ツール
                                                                クラウド利用でのコンピュートコストの試算
                                                              • オープンソース
                                                                • オープンソーステクノロジー
                                                                  プラットフォームを支えるイノベーションをもっと詳しく
                                                                • 業界向け Databricks
                                                                  • 通信
                                                                    • メディア・エンターテイメント
                                                                      • 金融サービス
                                                                        • 官公庁・公共機関
                                                                          • 医療・ライフサイエンス
                                                                            • リテール・消費財
                                                                              • 製造
                                                                                • 全て見る
                                                                                • クロスインダストリーソリューション
                                                                                  • AI Agents
                                                                                    • サイバーセキュリティ
                                                                                      • マーケティング
                                                                                      • 移行・デプロイメント
                                                                                        • データの移行
                                                                                          • プロフェッショナルサービス
                                                                                          • ソリューションアクセラレータ
                                                                                            • ソリューションアクセラレータ一覧
                                                                                              成果を加速
                                                                                            • トレーニング・認定試験
                                                                                              • トレーニング概要
                                                                                                ニーズに合わせたカリキュラムを探す
                                                                                                • Databricks アカデミー
                                                                                                  Databricks ラーニングプラットフォームにサインインする
                                                                                                  • 認定
                                                                                                    スキル・認定で差別化を図る
                                                                                                    • 無料版
                                                                                                      専門家向けデータとAIツールを無料で学べます
                                                                                                      • 大学との連携
                                                                                                        Databricks を教材として活用
                                                                                                      • イベント
                                                                                                        • DATA+AI サミット
                                                                                                          • Data+AI ワールドツアー
                                                                                                            • Data Intelligence Days
                                                                                                              • イベントカレンダー
                                                                                                              • ブログ・ポッドキャスト
                                                                                                                • Databricks ブログ
                                                                                                                  最新情報、製品発表、その他の情報
                                                                                                                  • Databricks Mosaic AIリサーチブログ
                                                                                                                    AI世代に関する最新リサーチ
                                                                                                                    • Data Brew ポッドキャスト
                                                                                                                      ご相談・お問い合わせ
                                                                                                                      • ポッドキャスト:Data+AI のチャンピオン
                                                                                                                        イノベーションを支えるデータリーダーのインサイト
                                                                                                                      • お役立ちリソース
                                                                                                                        • カスタマーサポート
                                                                                                                          • ドキュメント
                                                                                                                            • コミュニティ
                                                                                                                            • もっと詳しく
                                                                                                                              • リソースセンター
                                                                                                                                • デモセンター
                                                                                                                                  • アーキテクチャ センター
                                                                                                                                  • 企業概要
                                                                                                                                    • Databricks について
                                                                                                                                      • 経営陣
                                                                                                                                        • Databricks Ventures
                                                                                                                                          • ご相談・お問い合わせ
                                                                                                                                          • 採用情報
                                                                                                                                            • 採用情報概要
                                                                                                                                              • 求人情報
                                                                                                                                              • プレス・ニュース記事
                                                                                                                                                • ニュースルーム
                                                                                                                                                  • 受賞歴と業界評価
                                                                                                                                                  • セキュリティと信頼
                                                                                                                                                    • セキュリティと信頼
                                                                                                                                                • 是非ご検討ください!
                                                                                                                                                • デモを見る
                                                                                                                                                • ログイン
                                                                                                                                                • ご相談・お問い合わせ
                                                                                                                                                • Databricks 無料トライアル
                                                                                                                                                1. ブログ
                                                                                                                                                2. /
                                                                                                                                                  製品
                                                                                                                                                3. /
                                                                                                                                                  記事

                                                                                                                                                DatabricksでのQwenモデルの提供

                                                                                                                                                Serving Qwen Models on Databricks

                                                                                                                                                Published: March 28, 2025

                                                                                                                                                製品1分未満

                                                                                                                                                マシュー・ヘイズ、デブ・シンハ による投稿

                                                                                                                                                この投稿を共有する

                                                                                                                                                最新の投稿を通知します

                                                                                                                                                Summary

                                                                                                                                                • Llamaベースのインフラストラクチャに適応させて、Databricks上でQwenモデルをデプロイします。
                                                                                                                                                • 低レイテンシー、高スループットのエンドポイントを利用した高性能サービングを活用します。
                                                                                                                                                • Qwenモデルを効率的に変換、登録、提供するためのシンプルなワークフローをフォローします。

                                                                                                                                                QwenモデルはAlibabaによって開発され、コード補完やインストラクションタスクの両方において高い性能を示しています。本ブログでは、QwenモデルをLlama系アーキテクチャと類似のアプローチでDatabricks上に登録・デプロイする方法をご紹介します。この記事のステップに従えば、低レイテンシーかつ高スループットの利点を持つ、Databricksの基盤モデル(Provisioned Throughput)エンドポイントを活用することができます。

                                                                                                                                                目次

                                                                                                                                                1. 動機:なぜDatabricksでQwenモデルを提供するのか?
                                                                                                                                                2. コアとなる考え方
                                                                                                                                                3. 実装:コメント付きコードでの解説
                                                                                                                                                4. パフォーマンスと制約
                                                                                                                                                5. まとめと今後の展望

                                                                                                                                                動機:なぜDatabricksでQwenモデルを提供するのか?

                                                                                                                                                多くのエンタープライズ向けワークロードにおいて、Databricksは大規模言語モデル(LLM)のトレーニング、登録、提供までを一貫して行えるプラットフォームです。Databricks Mosaic AIモデルサービングを利用すれば、ファインチューニング済みモデルやベースモデルを簡単にデプロイし、リアルタイム推論やバッチ推論に活用できます。

                                                                                                                                                最近リリースされたQwen 2.5シリーズのモデルは、コード補完やインストラクションタスクにおいて非常に高い性能を示しています。Qwen 2.5 modelsはリリース時点で、MMLU、ARC-C、MATH、HumanEvalといった標準ベンチマークや、Multi-Exam、Multi-Understandingといった多言語ベンチマークにおいて、同等サイズの他モデルを上回る結果を出しました。 Qwen 2.5 Coder modelsも、コード関連のベンチマークにおいて同様の成果を示しています。

                                                                                                                                                こうした性能の高さから、Databricks Model ServingでQwenモデルを活用し、さまざまなユースケースに対応したいと考える顧客にとっては、大きな導入動機となるでしょう。

                                                                                                                                                QwenモデルをDatabricks上で提供するには、以下の4つのステップが必要です:

                                                                                                                                                1. ノートブックを実行して、QwenモデルのファイルをLlamaアーキテクチャおよびDatabricksのモデルサービングに対応する形式へ変換する

                                                                                                                                                2. QwenモデルをUnity Catalogに登録する

                                                                                                                                                3. 登録済みモデルをDatabricks Foundation Model Servingにデプロイする

                                                                                                                                                4. デプロイされたモデルに対して品質テストを実施する(手動でのテスト、または標準ベンチマークをエンドポイントに対して実行するなど)

                                                                                                                                                コアアイデア

                                                                                                                                                Databricks基盤モデル提供は、MetaのLlamaモデルなどのモデルに最適化されたパフォーマンスを提供します。顧客は、これらのモデルをプロビジョニングされたスループットでデプロイし、低レイテンシーと高スループットを実現することができます。Qwenモデルの基礎となるモデル構造はLlamaモデルの構造と非常に似ていますが、Databricksのモデル提供インフラを活用するためには一部の修正が必要です。以下の手順では、顧客が必要な変更をどのように行うかを説明しています。

                                                                                                                                                実装:注釈付きコードのウォークスルー

                                                                                                                                                パート1)Qwenの重みと設定をLlamaモデルと一貫性があるように書き換えてください。

                                                                                                                                                modify_qwen.pyの手順は、Qwen2.5モデルを取り、Databricksでのプロビジョニングスループットに最適化されたLlamaアーキテクチャと一致するように書き換えます。以下はコードの主要な手順です:

                                                                                                                                                1. Qwen State Dictのロード: 元のQwenディレクトリから .safetensors を収集します。
                                                                                                                                                2. 重みのコピー&調整: Llamaがそれを期待する場所で、注意の出力に対してゼロバイアスを挿入します。
                                                                                                                                                3. Configの書き換え: "architectures"、"model_type"などのフィールドを"llama"に更新し、Qwen特有のフラグを削除します。
                                                                                                                                                4. トークナイザーファイルのコピー: tokenizer.jsonを持ってくることを確認します、merges.txt、など。
                                                                                                                                                5. 最終出力フォルダの作成: 新しいディレクトリのファイルは、典型的なLlamaモデルのように見えます。

                                                                                                                                                このステップの終わりには、Llamaと互換性のあるQwenモデルができあがります。vLLMでモデルをロードすることができ、それをLlamaモデルとして扱い、コードを生成したり、使用したモデルに応じて指示に従ったりすることができます。

                                                                                                                                                ヒント: huggingface_hub.snapshot_downloadを使用して、Hugging FaceからQwen/Qwen2.5-Coder-7B-InstructなどのQwenモデルの一つをディレクトリにフェッチし、変換を行う前にダウンロードすることができます。

                                                                                                                                                パート2)DatabricksでQwenを登録し、提供する

                                                                                                                                                次に、Databricksで「Qwen as Llama」モデルをログに記録し、提供する方法に焦点を当てます。これはregister_qwen.pyによって処理されます。ここでの手順は、モデルがLlamaモデルとしてモデル提供が期待する設定を持つことを確認します。主な手順:

                                                                                                                                                1. 以前に変換されたモデルへのパスを指定します。
                                                                                                                                                2. トークナイザーの設定を変更します(特にchat_templateを削除し、tokenizer_classを設定する)。
                                                                                                                                                3. 調整 config.jsonをLlama互換のシーケンス長に反映させます。
                                                                                                                                                4. ロギング前にLlamaのようなメタデータでモデルを更新します。
                                                                                                                                                5. MLflowでモデルを登録する、これによりGPUエンドポイントで提供することができます。

                                                                                                                                                このノートブックを実行すると、モデルはUnityカタログに登録されます。モデルに移動し、「このモデルを提供する」をクリックしてエンドポイントを設定します。異なるトークン/秒レートでプロビジョニングされた入力を持つエンドポイントを設定するオプションが表示されるはずです。

                                                                                                                                                エンドポイントのテスト

                                                                                                                                                エンドポイントが準備できたら、基本的なテストを行って正常に動作していることを確認できます。仮に、私たちがQwen2.5-Coder-7Bをデプロイしたとします。上記の変換と登録を行った後のモデル。このモデルは、コードの一部を完成させるか、中間部分を埋めることができます。それを使って簡単なソート関数を完成させましょう。“Use”ドロップダウンで“Query”をクリックし、以下のリクエストを入力します:

                                                                                                                                                レスポンスのテキストには、実装の残りの部分が含まれています:

                                                                                                                                                より定量的なアプローチのために、HumanEvalタスクのための補完を生成することができます。その後、その評価を実行してpass@1メトリックを取得し、公開された結果と比較します。

                                                                                                                                                パフォーマンスと制限

                                                                                                                                                1. 手動チャットフォーマット
                                                                                                                                                  Qwenの組み込みチャットテンプレートを削除するため、クライアントコードでシステム/ユーザー/アシスタントのメッセージを手動でフォーマットする必要があります。これにより、モデルは会話のターンを適切に解釈することができます。
                                                                                                                                                2. 最大位置埋め込み
                                                                                                                                                  特定のDatabricks制約に合うように、max_position_embeddingsを16000トークンに設定します。もともとQwenがより多くをサポートしていた場合、最大コンテキスト長をいくつか失う可能性があります。しかし、プロビジョニングされたスループットのサポートは依然として得られます。

                                                                                                                                                サマリーと次のステップ

                                                                                                                                                Databricksは現在、プロビジョニングスループットモデル提供に直接Qwenモデルをサポートしていませんが、上記の方法により、これらのモデルをLlamaモデルのアーキテクチャと互換性のある形に整えて登録し、提供することができます。このワークアラウンドは、あなたのチームがQwenの機能を必要としながらも、Databricksモデルサービングエンドポイントとプロビジョニングされたスループットの利便性を求める場合に特に役立ちます。

                                                                                                                                                主要なポイント

                                                                                                                                                • QwenモデルとLlamaモデルは、アーキテクチャの類似性が十分に共有されているため、トークナイザーの設定とモデルのメタデータにわずかな修正(具体的には)を加えるだけで、Databricksのモデル提供インフラストラクチャは、プロビジョニングされたスループットを使用してQwenモデルを容易に提供できます。

                                                                                                                                                将来的な考慮事項

                                                                                                                                                • Databricksモデル提供における公式のQwenサポートに注目することをお勧めします。
                                                                                                                                                • 強制的にコンテキストサイズを制限することから生じるパフォーマンスのオーバーヘッドを評価します。
                                                                                                                                                • チャットプロンプトに依存している場合は、クライアント側でプロンプトを手動でフォーマットすることを忘れないでください。

                                                                                                                                                謝辞

                                                                                                                                                • Qwen変換の基礎となった初期の例としてのhiyougaのllamafy_qwen.py。
                                                                                                                                                • 内部提供制約を明確にしたDatabricksのエンジニアリングチーム。
                                                                                                                                                • このアプローチをテストし、洗練させたすべてのコミュニティメンバー。

                                                                                                                                                最新の投稿を通知します

                                                                                                                                                関連記事

                                                                                                                                                この投稿を共有する

                                                                                                                                                Databricksの投稿を見逃さないようにしましょう

                                                                                                                                                興味のあるカテゴリを購読して、最新の投稿を受信トレイに届けましょう

                                                                                                                                                Sign up

                                                                                                                                                次は何ですか?

                                                                                                                                                Introducing Collations to Databricks

                                                                                                                                                製品

                                                                                                                                                January 10, 2025/2分で読めます

                                                                                                                                                Databricksにコレーション機能が登場!

                                                                                                                                                DeepSeek R1 on Databricks

                                                                                                                                                お知らせ

                                                                                                                                                January 31, 2025/1分未満

                                                                                                                                                DeepSeek R1 on Databricks

                                                                                                                                                databricks logo
                                                                                                                                                Databricks を選ぶ理由
                                                                                                                                                Databricks を選ぶ理由
                                                                                                                                                • エグゼクティブ向け
                                                                                                                                                • スタートアップ向け
                                                                                                                                                • レイクハウスアーキテクチャ
                                                                                                                                                • Mosaic Research
                                                                                                                                                導入事例
                                                                                                                                                • 注目の導入事例
                                                                                                                                                パートナー
                                                                                                                                                • クラウドプロバイダ
                                                                                                                                                • 技術パートナー
                                                                                                                                                • データパートナー
                                                                                                                                                • Databricks で構築
                                                                                                                                                • コンサルティング・SI
                                                                                                                                                • C&SI パートナー
                                                                                                                                                • パートナーソリューション
                                                                                                                                                Databricks を選ぶ理由
                                                                                                                                                • エグゼクティブ向け
                                                                                                                                                • スタートアップ向け
                                                                                                                                                • レイクハウスアーキテクチャ
                                                                                                                                                • Mosaic Research
                                                                                                                                                導入事例
                                                                                                                                                • 注目の導入事例
                                                                                                                                                パートナー
                                                                                                                                                • クラウドプロバイダ
                                                                                                                                                • 技術パートナー
                                                                                                                                                • データパートナー
                                                                                                                                                • Databricks で構築
                                                                                                                                                • コンサルティング・SI
                                                                                                                                                • C&SI パートナー
                                                                                                                                                • パートナーソリューション
                                                                                                                                                製品
                                                                                                                                                レイクハウスプラットフォーム
                                                                                                                                                • プラットフォーム
                                                                                                                                                • 共有
                                                                                                                                                • データガバナンス
                                                                                                                                                • 人工知能(AI)
                                                                                                                                                • DBRX
                                                                                                                                                • データベース
                                                                                                                                                • データ管理
                                                                                                                                                • データウェアハウス
                                                                                                                                                • データエンジニアリング
                                                                                                                                                • データサイエンス
                                                                                                                                                • アプリケーション開発
                                                                                                                                                ご利用料金
                                                                                                                                                • 料金設定の概要
                                                                                                                                                • 料金計算ツール
                                                                                                                                                オープンソース
                                                                                                                                                統合とデータ
                                                                                                                                                • マーケットプレイス
                                                                                                                                                • IDE 統合
                                                                                                                                                • パートナーコネクト
                                                                                                                                                レイクハウスプラットフォーム
                                                                                                                                                • プラットフォーム
                                                                                                                                                • 共有
                                                                                                                                                • データガバナンス
                                                                                                                                                • 人工知能(AI)
                                                                                                                                                • DBRX
                                                                                                                                                • データベース
                                                                                                                                                • データ管理
                                                                                                                                                • データウェアハウス
                                                                                                                                                • データエンジニアリング
                                                                                                                                                • データサイエンス
                                                                                                                                                • アプリケーション開発
                                                                                                                                                ご利用料金
                                                                                                                                                • 料金設定の概要
                                                                                                                                                • 料金計算ツール
                                                                                                                                                統合とデータ
                                                                                                                                                • マーケットプレイス
                                                                                                                                                • IDE 統合
                                                                                                                                                • パートナーコネクト
                                                                                                                                                ソリューション
                                                                                                                                                業種別
                                                                                                                                                • 通信
                                                                                                                                                • 金融サービス
                                                                                                                                                • 医療・ライフサイエンス
                                                                                                                                                • 製造
                                                                                                                                                • メディア・エンタメ
                                                                                                                                                • 官公庁・公共機関
                                                                                                                                                • リテール・消費財
                                                                                                                                                • 全て表示
                                                                                                                                                クロスインダストリーソリューション
                                                                                                                                                • サイバーセキュリティ
                                                                                                                                                • マーケティング
                                                                                                                                                データの移行
                                                                                                                                                プロフェッショナルサービス
                                                                                                                                                ソリューションアクセラレータ
                                                                                                                                                業種別
                                                                                                                                                • 通信
                                                                                                                                                • 金融サービス
                                                                                                                                                • 医療・ライフサイエンス
                                                                                                                                                • 製造
                                                                                                                                                • メディア・エンタメ
                                                                                                                                                • 官公庁・公共機関
                                                                                                                                                • リテール・消費財
                                                                                                                                                • 全て表示
                                                                                                                                                クロスインダストリーソリューション
                                                                                                                                                • サイバーセキュリティ
                                                                                                                                                • マーケティング
                                                                                                                                                リソース
                                                                                                                                                ドキュメント
                                                                                                                                                カスタマーサポート
                                                                                                                                                コミュニティ
                                                                                                                                                トレーニング・認定試験
                                                                                                                                                • トレーニング
                                                                                                                                                • 認定
                                                                                                                                                • 無料版
                                                                                                                                                • 大学との連携
                                                                                                                                                • Databricks アカデミー
                                                                                                                                                イベント
                                                                                                                                                • DATA+AI サミット
                                                                                                                                                • Data+AI ワールドツアー
                                                                                                                                                • Data Intelligence Days
                                                                                                                                                • イベントカレンダー
                                                                                                                                                ブログ・ポッドキャスト
                                                                                                                                                • Databricks ブログ
                                                                                                                                                • Databricks Mosaic AIリサーチブログ
                                                                                                                                                • Data Brew ポッドキャスト
                                                                                                                                                • Data+AI のチャンピオンシリーズ
                                                                                                                                                トレーニング・認定試験
                                                                                                                                                • トレーニング
                                                                                                                                                • 認定
                                                                                                                                                • 無料版
                                                                                                                                                • 大学との連携
                                                                                                                                                • Databricks アカデミー
                                                                                                                                                イベント
                                                                                                                                                • DATA+AI サミット
                                                                                                                                                • Data+AI ワールドツアー
                                                                                                                                                • Data Intelligence Days
                                                                                                                                                • イベントカレンダー
                                                                                                                                                ブログ・ポッドキャスト
                                                                                                                                                • Databricks ブログ
                                                                                                                                                • Databricks Mosaic AIリサーチブログ
                                                                                                                                                • Data Brew ポッドキャスト
                                                                                                                                                • Data+AI のチャンピオンシリーズ
                                                                                                                                                企業情報
                                                                                                                                                企業概要
                                                                                                                                                • Databricks について
                                                                                                                                                • 経営陣
                                                                                                                                                • Databricks Ventures
                                                                                                                                                • ご相談・お問い合わせ
                                                                                                                                                採用情報
                                                                                                                                                • 採用情報概要
                                                                                                                                                • 求人情報
                                                                                                                                                プレス・ニュース記事
                                                                                                                                                • ニュースルーム
                                                                                                                                                • 受賞歴と業界評価
                                                                                                                                                セキュリティと信頼
                                                                                                                                                企業概要
                                                                                                                                                • Databricks について
                                                                                                                                                • 経営陣
                                                                                                                                                • Databricks Ventures
                                                                                                                                                • ご相談・お問い合わせ
                                                                                                                                                採用情報
                                                                                                                                                • 採用情報概要
                                                                                                                                                • 求人情報
                                                                                                                                                プレス・ニュース記事
                                                                                                                                                • ニュースルーム
                                                                                                                                                • 受賞歴と業界評価
                                                                                                                                                databricks logo

                                                                                                                                                Databricks Inc.
                                                                                                                                                160 Spear Street, 15th Floor
                                                                                                                                                San Francisco, CA 94105
                                                                                                                                                1-866-330-0121

                                                                                                                                                採用情報

                                                                                                                                                © Databricks 2025. All rights reserved. Apache, Apache Spark, Spark and the Spark logo are trademarks of the Apache Software Foundation.

                                                                                                                                                • プライバシー通知
                                                                                                                                                • |利用規約
                                                                                                                                                • |現代奴隷法に関する声明
                                                                                                                                                • |カリフォルニア州のプライバシー権利
                                                                                                                                                • |プライバシー設定