Databricks モデルサービング、一般提供を開始
Databricks Lakehouse Platformで機械学習の本番運用を簡素化
このたび、Databricks Model Servingの一般提供を開始したことをお知らせします。Model Servingは、機械学習モデルをREST APIとしてデプロイすることで、パーソナライズされたレコメンデーション、カスタマーサービスチャットボット、不正検知などのリアルタイム機械学習アプリケーションの構築を可能にします。サービングインフラストラクチャを管理する手間は一切かかりません。
Databricks Model Serving の提供開始により、既存のデータおよびトレーニングインフラストラクチャと並行してモデルをデプロイできるようになり、機械学習 ライフサイクルが簡素化され、運用コストが削減されます。
"データが存在し、モデルをトレーニングするのと同じプラットフォームでモデルサービングを行うことで、デプロイを加速し、メンテナンスを削減することができました。最終的には、顧客に価値を提供し、世界中のより楽しく持続可能な生活を推進することに貢献しています。"Electrolux データサイエンス部門責任者 Daniel Edsgärd 氏
リアルタイム機械学習システムの構築における課題
リアルタイム機械学習システムは、受信データに基づいて即座に予測やアクションを実行する能力を提供することで、ビジネスの運営方法に革命をもたらしています。チャットボット、不正検知、パーソナライゼーションシステムなどのアプリケーションは、リアルタイムシステムを利用して迅速かつ正確な応答を提供することで、カスタマーエクスペリエンスを向上させ、収益を増加させ、リスクを低減します。
しかし、このようなシステムを実装することは、企業にとって依然として課題です。リアルタイムの機械学習システムには、構築と維持に専門知識を必要とする、高速でスケーラブルなサービングインフラストラクチャが必要です。このインフラストラクチャは、サービングをサポートするだけでなく、特徴量のルックアップ、モニタリング、自動デプロイ、モデルの再トレーニングも含む必要があります。その結果、チームはばらばらのツールを統合することになり、運用の複雑性が増し、メンテナンスのオーバーヘッドが発生することがよくあります。企業は、機械学習を自社のプロセスに統合する代わりに、インフラストラクチャのメンテナンスにより多くの時間とリソースを費やしてしまうことがよくあります。
Lakehouseでの本番運用 Model Serving
Databricks Model Servingは、統合データとAIプラットフォーム上で開発された初のサーバーレスリアルタイムサービングソリューションです。この独自のサービングソリューションは、統合ツールによってデプロイを簡素化し、ミスを減らすことで、データサイエンスチームの本番運用への移行を迅速化します。
リアルタイムのモデルサービングで管理オーバーヘッドを削減
Databricks Model Servingは、APIの背後でモデルをデプロイするための、高可用性、低レイテンシー、かつサーバーレスのサービスを提供します。スケーラブルなインフラストラクチャを管理する手間や負担はもうありません。当社のマネージドサービスがお客様に代わってすべての面倒な作業を行うため、インスタンスの管理、バージョンの互換性の維持、バージョンのパッチ適用を行う必要がありません。エンドポイントは需要の変化に合わせて自動的にスケールアップまたはスケールダウンするため、インフラストラクチャコストを削減しながらレイテンシーパフォーマンスを最適化します。
「高速なオートスケールにより、コストを低く抑えながら、トラフィック需要の増加に応じて拡張できます。私たちのチームは、インフラ関連の問題のデバッグよりも、顧客の問題を解決するモデルの構築に多くの時間を費やせるようになりました。」Letsur.ai CEO Gyuhyeon Sim 氏
レイクハウスで統一されたモデルサービングでデプロイを加速
Databricks Model Servingは、さまざまなサービスとのネイティブな統合を提供することで、機械学習モデルのデプロイを加速させます。データの取り込みやトレーニングから、デプロイ、モニタリングまで、機械学習プロセス全体を単一のプラットフォーム上で管理できるようになりました。これにより、機械学習ライフサイクル全体で一貫したビューが作成され、エラーが最小限に抑えられ、デバッグが高速化されます。モデルサービングは、以下を含むさまざまなLakehouseサービスと連携します。
- Feature Storeとの統合: Databricks Feature Store とシームレスに統合し、自動化されたオンラインルックアップを提供してオンライン/オフラインのスキューを防ぎます。トレーニング中に一度特徴量を定義するだけで、関連する特徴量を自動的に取得・結合して推論ペイロードを完成させます。
- MLflow との統合: MLflow Model Registry にネイティブに接続し、モデルの迅速かつ簡単なデプロイを可能にします。モデルを提供するだけで、本番運用に対応したコンテナを自動的に準備し、serverless コンピュートにデプロイします。
- 品質と診断（近日公開予定）: リクエストとレスポンスを Delta テーブルに自動的にキャプチャし、モデルの監視やデバッグ、トレーニングデータセットの生成に利用できます。
- 統合ガバナンス: Unity Catalogを使用して、モデルサービングによって消費および生成されるものを含む、すべてのデータと機械学習資産を管理および統制します。
"統合データおよびAIプラットフォームでモデルサービングを行うことで、機械学習ライフサイクルを簡素化し、メンテナンスのオーバーヘッドを削減することができました。これにより、私たちはAIの利用をビジネスのより多くの分野に拡大することに、尽力できるようになりました。」hipages Group データ部門責任者 Vincent Koc 氏
シンプルなデプロイでチームを強化
Databricks Model Servingはモデルのデプロイワークフローを簡素化し、データサイエンティストが複雑なインフラストラクチャの知識や経験を必要とせずにモデルをデプロイできるようにします。このローンチの一環として、モデルレジストリとスコアリングURIを分離するサービングEndpointも導入し、より効率的で、安定的で、柔軟なデプロイを実現します。たとえば、単一のendpointの背後に複数のモデルをデプロイし、モデル間でトラフィックを任意に分散できるようになりました。新しいサービングUIとAPIにより、エンドポイントの作成と管理が容易になります。エンドポイントは、監視やアラートの受信に使用できる組み込みのメトリクスとlogsも提供します。
