AIモデル共有のGA開始を発表

このブログへの貴重な洞察と貢献に対し、Daniel Benito氏（Bitext、CTO）、Antonio Valderrabanos氏（Bitext、CEO）、Chen Wang氏（AI21 Labs、Lead Solution Architect）、Robbin Jang氏（AI21 Labs、Alliance Manager）、Alex Godfrey氏（AI21 Labs、Partner Marketing Lead）に心より感謝いたします。

DatabricksのDelta SharingおよびDatabricks MarketplaceにおけるAI Model Sharingの一般提供（GA）開始をお知らせできることを嬉しく思います。このマイルストーンは、2024年1月のパブリックプレビューの発表に続くものです。パブリックプレビューの開始以来、当社はBitext、AI21 Labs、Rippleなどの新しいAIモデル共有の顧客やプロバイダーと連携し、AI Model Sharingのさらなる簡素化に取り組んできました。

Delta Sharingを使用すると、AIモデルを安全かつ簡単に共有およびサービングできます。共有は、組織内だけでなく、クラウド、プラットフォーム、リージョンを越えて外部と行うことも可能です。さらに、Databricks Marketplaceには現在、John Snow Labs、OLA Krutrim、Bitextによる業界特化型の新しいAIモデルや、Databricks DBRX、Llama 3、AI21 Labs、Mistralなどの基盤モデルを含む、75以上のAIモデルが用意されています。このブログでは、AIモデル共有のビジネスニーズを振り返り、AI21のJamba 1.5 Mini基盤モデルやBitextモデルを活用したユースケースについて詳しく解説します。

また、AIモデルはUnity Catalogからすぐに利用できるようになり、ユーザーがモデルにアクセスして効率的にデプロイするプロセスが合理化されました。この進展により、ユーザーエクスペリエンスが簡素化されるだけでなく、AIモデルへのアクセス性も向上し、さまざまなプラットフォームやリージョンにまたがるシームレスな統合とデプロイがサポートされます。

AI Model Sharingの3つのメリット

アーリーアダプターやローンチパートナーに見られた、DatabricksにおけるAI Model Sharingの3つのメリットをご紹介します。

1. コストの削減: Delta SharingによるAIモデル共有は、取得、開発、インフラの費用を最小限に抑えることで、総所有コスト（TCO）を削減します。組織は、Delta SharingまたはDatabricks Marketplaceから、構築済みのモデルやサードパーティのモデルにアクセスできるため、初期投資と開発時間を削減できます。クラウドやプラットフォームを越えてDelta Sharingでモデルを共有することで、インフラストラクチャの使用が最適化され、冗長性とコストが削減されると同時に、エンドユーザーの近くにモデルをデプロイしてレイテンシを最小限に抑えることができます。
2. 本番環境の品質: Delta Sharingを使用すると、顧客のユースケースに合ったモデルを取得し、AIライフサイクル全体に対応する単一のプラットフォームでそれらを拡張できます。Databricksプラットフォームにモデルを共有することで、顧客はAI機能やガバナンス機能にアクセスし、あらゆるモデルを本番環境に導入できます。これには、モデルサービングからファインチューニングまでのエンドツーエンドのモデル開発機能に加え、リネージやLakehouseモニタリングなどのUnity Catalogのセキュリティおよび管理機能が含まれており、モデルと関連データに対する高い信頼性を確保できます。
3. 完全な制御: サードパーティのモデルを使用する場合、AIモデル共有により、対応するモデルとデータセットを完全に制御できます。Delta Sharingでは、顧客がモデルパッケージ全体を取得できるため、モデルとデータは顧客のインフラ内に留まり、顧客の管理下に置かれます。顧客の代わりにモデルをサービングしているプロバイダーに機密データを送信する必要はありません。

では、AI Model Sharingはどのように機能するのでしょうか？

AI Model SharingはDelta Sharingを基盤としています。プロバイダーは、Delta Sharingを使用して直接、またはDelta Sharingを使用するDatabricks Marketplaceに掲載することで、AIモデルを顧客と共有できます。

Delta Sharingを使用すると、必要な場所でAIモデルを簡単に使用できます。どこでもモデルをトレーニングでき、手動で移動させることなく、どこでも使用できます。モデルの重み（AIモデルがトレーニング中に学習したパラメータ）は、サービングエンドポイント（モデルが「存在する」場所）に自動的にプルされます。これにより、モデルのトレーニングやファインチューニングのたびに面倒なモデルの移動を行う必要がなくなり、信頼できる唯一の情報源（Single Source of Truth）が確保され、サービングプロセスが合理化されます。例えば、最も安価なトレーニングインフラを提供するクラウドやリージョンでモデルをトレーニングし、エンドユーザーに近い別のリージョンでモデルをサービングして、推論レイテンシ（AIモデルがデータを処理して結果を提供するまでにかかる時間）を最小限に抑えることができます。

Delta Sharingを基盤とするDatabricks Marketplaceでは、75以上のAIモデルを簡単に見つけて使用できます。これらのモデルはローカルシステムにあるかのようにセットアップでき、Delta Sharingがデプロイやアップグレードの際に自動的に更新します。また、ナレッジベースの管理などのタスクのために、自社のデータでモデルをカスタマイズすることもできます。プロバイダーとしては、モデルのコピーを1つ用意するだけで、すべてのDatabricksクライアントと共有できます。

ビジネスへの影響は？

2024年1月にAI Model Sharingのパブリックプレビューが発表されて以来、当社は複数の顧客やパートナーと連携し、AI Model Sharingが組織に大幅なコスト削減をもたらすよう取り組んできました。

「当社の一部の製品では、強化学習（RL）モデルを使用しています。教師あり学習モデルと比較して、RLモデルはトレーニング時間が長く、トレーニングプロセスにおけるランダム性の要因が多く存在します。これらのRLモデルは、別々のAWSリージョンにある3つのワークスペースにデプロイする必要があります。モデル共有を使用すれば、モデルを再トレーニングしたり、モデルを移動するための面倒な手動手順を踏んだりすることなく、1つのRLモデルを複数のワークスペースで利用できるようになります。」 — Mihir Mavalankar氏（Ripple、Machine Learning Engineer）

AI21 LabsのJamba 1.5 Mini：大規模コンテキストAIモデルをDatabricks Marketplaceに提供

ジェネレーティブAIおよび大規模言語モデルのリーダーであるAI21 Labsは、 Jamba 1.5モデルファミリーの一部であるJamba 1.5 MiniをDatabricks Marketplaceで公開しました。AI21 Labs' Jamba 1.5 Miniは、企業向けのAI言語モデルに対する新しいアプローチを導入しています。その革新的なハイブリッドMamba-Transformer architectureは、256Kトークンの有効コンテキストウィンドウを実現し、卓越した速度と品質を提供します。計算の効率的な使用に向けたMiniの最適化により、単一のGPUで最大140Kトークンのコンテキスト長を処理できます。

「AI21 Labsは、Jamba 1.5 MiniがDatabricks Marketplaceで利用可能になったことを嬉しく思います。Delta Sharingにより、企業は256Kのコンテキストウィンドウを特徴とする当社のMamba-Transformerアーキテクチャにアクセスでき、革新的なAIソリューションのための卓越した速度と品質を確保できます」— Pankaj Dugar氏（AI21 Labs、SVP & GM）

AIモデルにおける256Kトークンの有効コンテキストウィンドウとは、モデルが一度に256,000トークンのテキストを処理および考慮できる能力を指します。これは、AI21モデルが大規模で複雑なデータセットを処理できるようにするため重要です。これにより、長文の文書や複雑なデータ量の多いワークフローなど、広範な情報の理解と分析を必要とするタスクに特に有用となり、RAGベースのワークフローの検索ステージを強化します。Jambaのハイブリッドアーキテクチャは、TransformerベースのLLMの公称コンテキストウィンドウで通常見られるものとは異なり、コンテキストが増加してもモデルの品質が低下しないことを保証します。

Databricks MarketplaceからAI21 Jamba 1.5 Miniモデルを取得し、ファインチューニングしてサービングする方法を示すこちらのビデオチュートリアルをご覧ください。

ユースケース

Jamba 1.5 Miniの256kコンテキストウィンドウにより、モデルは1つのプロンプトでテキスト800ページ分に相当する量を効率的に処理できます。さまざまな業界のDatabricksのお客様がこれらのモデルをどのように活用できるか、いくつかの例をご紹介します。

1. ドキュメント処理：ユーザーはJamba 1.5 Miniを使用して、長いレポート、契約書、研究論文を迅速に要約できます。金融機関では、このモデルを使用して収益報告書を要約したり、膨大な財務書類から市場動向を分析したり、規制提出書類から関連情報を抽出したりできます。
2. エージェント型ワークフローの強化：医療機関では、複数の患者データソースを分析して治療の推奨事項を提示することで、複雑な医療意思決定プロセスを支援できます。
3. 検索拡張生成（RAG）プロセスの改善：小売企業のRAGシステムにおいて、モデルはより広範な製品情報や顧客履歴を考慮することで、顧客からの問い合わせに対してより正確で文脈に即した回答を生成できます。

Databricks MarketplaceのBitext特化型AIモデルが顧客オンボーディングを改善する方法

Bitextは、Databricks Marketplaceで事前学習済みの特化型モデルを提供しています。これらのモデルは、小売銀行分野向けのチャットボット、バーチャルアシスタント、コパイロットの作成用にファインチューニングされたMistral-7B-Instruct-v0.2モデルのバージョンであり、銀行業務に関する顧客のニーズに迅速かつ正確に回答します。これらのモデルは、GPT、Llama、Mistral、Jamba、OpenELMなどのあらゆる基盤モデルファミリー向けに作成できます。

ユースケース：AIによるオンボーディングの改善

ある大手のソーシャルトレーディングAppでは、ユーザーのオンボーディング中に高い離脱率が発生していました。同社は、Bitextの事前学習済み特化型銀行業務モデルを活用してオンボーディングプロセスを刷新し、静的なフォームを対話型で直感的、かつパーソナライズされたユーザー体験へと変革しました。

Bitextは特化型AIモデルを顧客と共有しました。そのモデルをベースとして、データサイエンティストが一般的なFAQなどの顧客固有のデータを使用して初期のファインチューニングを行いました。このステップにより、モデルがユーザー層の独自の要件や言語を確実に理解できるようになりました。その後、Databricksを使用した高度なファインチューニングが行われました。

Bitextモデルのファインチューニングが完了すると、Databricks AI Model Servingを使用してデプロイされました。

1. ファインチューニングされたモデルがUnity Catalogに登録されました。
2. エンドポイントが作成されました。
3. モデルがエンドポイントにデプロイされました。

このコラボレーションは、ソーシャルファイナンス分野におけるユーザーインタラクションの新たな基準を確立し、顧客エンゲージメントとリテンションを大幅に向上させました。共有されたAIモデルによる迅速なスタートのおかげで、導入全体が2週間以内に完了しました。

Databricks MarketplaceからBitext特化型AIモデルをインストールしてファインチューニングする方法を示すデモは、こちらをご覧ください。

「大量のトレーニングデータを必要とする一般的なモデルとは異なり、特定の業界に特化したモデルから始めることで、カスタマイズに必要なデータを削減できます。これにより、お客様はカスタマイズされたAIモデルを迅速にデプロイできます。AI Model Sharingの提供開始を非常に嬉しく思っています。Databricks Marketplaceで提供されている当社の特化型AIモデルを使用することで、お客様はリソースコストを最大60%削減（データサイエンティストの削減と計算要件の低下）し、業務への影響を最大50%軽減（テストとデプロイの迅速化）することができました。」 — Antonio S. Valderrábanos、創設者 兼 CEO、Bitext

Bitextの2ステップモデルトレーニングアプローチによるコスト削減

次のステップ

Delta SharingとDatabricks Marketplace上の新しいAIモデルの両方でAIモデル共有機能が一般提供（GA）された今、以下のステップを実行することをお勧めします。

• 詳細については、Data and AI Summitのセッション「新たなAIユースケースの開拓（Unlocking new AI use cases）」をご覧ください。
• Delta Sharingを使用して事前学習済みAIモデルをデプロイし、特定のニーズに合わせてカスタマイズする方法を説明するデモをご覧ください。
• Databricks Marketplaceにアクセスして、利用可能なすべてのAIモデルのリストを参照してください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事