Unity AI Gateway で実現する AI 費用管理のご紹介

本日、Unity AI GatewayにおけるAI Spend Controlsを発表します。このリリースでは、Unity AI Gatewayの既存のコスト可視性をプロアクティブな予算アラートで拡張し、開発者が日常的に使用するコーディングエージェントから、顧客にサービスを提供する本番エージェント、夜間に実行されるバッチジョブまで、組織のAI支出を完全に管理できるようにします。

AIワークロードは非常に大きな価値をもたらしますが、そのコストプロファイルは従来のクラウド支出よりも根本的に管理が困難です。

• 通話記録を翻訳する夜間バッチジョブは1か月間完璧に実行された後、途中で失敗し始め、再試行ロジックがトリガーされて一晩でコストが10倍になる可能性があります。
• エンジニアリング部門のコーディングエージェントは週に何千時間もの開発時間を節約しますが、同じエージェントによって、あるエンジニアが金曜日の夜に誤ってマルチエージェント実験を開始し、日曜までにチームの月間予算を使い果たしてしまう可能性があります。

エンジニアリング、サポート、営業、運用部門の従業員は、過去10年間でどのテクノロジーよりも速くAIを導入しており、毎週新しいユースケースを切り開いています。しかし、この導入は管理上の課題をもたらします。基盤モデルの使用は現在、数十のチーム、数百のユーザー、数千のエージェントに及び、プロバイダーとモデル層の組み合わせが変化しています。支出管理はすべてのAIワークロードに均一に適用される必要があるため、組織は予期せぬ請求に悩まされることなく、自信を持ってAIに傾倒できます。

あらゆる粒度で予算アラートを設定

支出管理は均一に適用される必要がありますが、組織の異なる部門では異なるコスト管理が必要です。プラットフォームチームはワークスペース全体の合計を重視し、FinOpsリーダーは組織レベルの月間支出を重視し、エンジニアリングマネージャーは開発者ごとの実験予算を重視します。AI Spend Controlsを使用すると、これらすべてを1か所で設定でき、Databricksの既存の予算と深く統合されています。

• ユーザーごと: 個々の実験に予算を設定します。例えば、エンジニアリング部門のユーザー1人あたり月額2000ドル。エージェントがループに陥っている開発者を、損益計算書に載る前に発見します。
• ユースケースごと: codexやclaude codeのようなコーディングエージェントへの組織の支出が、ユーザー1人あたり月額1000ドルを超過した場合にアラートを受け取ります。
• ワークスペースごと: 各ユニットに独自の予算を設定します。本番環境は月額50,000ドル、サンドボックスは5,000ドルです。
• アカウントごと: すべてのモデル、すべてのプロバイダー、すべてのワークスペースで、月額200,000ドルといった上限を設定し、それに近づくずっと前にアラートを受け取ります。

Unity AI Gatewayの予算を今すぐ始めましょう

組織のAI支出を追跡するには、以下の手順に従ってください。

Unity AI Gatewayの予算を作成する

• アカウント設定を開き、サイドバーの Usageに移動して Budgetsタブを開きます。
• 予算を作成し、リソースタイプとして「Unity AI Gateway」を選択します。
• オプションで、予算をワークスペースのサブセットにのみ適用します。
• オプションで「リソースタグ」を適用して、AI Gateway LLMのサブセットに予算を設定します。タグが予算タグと一致するAI Gateway LLMのみが予算に計上されます。これは、ユースケース固有の予算を設定するのに役立ちます。
• 「共有しきい値」を設定して、選択したワークスペース内のリソースタグと一致するすべてのリソースにわたる月間支出制限をグローバルに設定します。
• 「ユーザーごとのしきい値」を設定して、アカウント内のユーザーごとの月間支出制限を設定します。
• しきい値を超過したときにアラートを受け取るメールアドレスを設定します。

作成後、予算アラートに注意する

いずれかの予算を超過すると、通知メールが届きます。

アクティブな予算を分析する

アカウントコンソールの Cost セクションでは、予算アラートメールに対応したり、ライブ予算のステータスをプロアクティブに監視したりできます。 Budgets ページでは、予算の傾向を一目で確認できます。

任意の予算を開いて、AI支出の傾向を確認できます。

ユーザーレベルの予算しきい値を設定している場合、予算詳細ページには、組織のユーザー個々のAI支出の傾向が表示されます。ユーザーが個別のしきい値を超過すると、そのステータスと支出が明確に表示されるため、迅速に対応できます。

予算のしきい値を増やすには、予算を編集して支出制限を変更するだけです。

組織のAI支出を詳細に分析する

Unity AI Gatewayの予算は、ユーザーごとおよび予算ごとの支出の概要を提供します。どのユーザー、モデル、またはユースケースが支出を促進しているかをさらに分析するには、Unity AI Gatewayの既存のコスト追跡機能を使用できます。すべてのリクエストは、トークン数だけでなくDBUコストとともにUnity Catalogシステムテーブルにログ記録されます。プロビジョニングされたスループット、稼働時間、トークンごとの使用量、さらには外部モデルプロバイダーのトークンコストもすべて自動的に計算されます。組織が支出を追跡する方法に応じてデータをスライスできます。

• ID: ユーザーまたはサービスプリンシパルで集計し、支出をそれを推進する人物やシステムにマッピングします。
• ワークスペース、エンドポイント、タグ: チーム、環境、またはコストセンターでグループ化します。
• モデルとプロバイダー: どのモデル (Opus vs. Sonnet) とプロバイダー (Anthropic vs. OpenAI vs. オープンソース) がコストを推進しているかを確認します。
• リクエストタグ: エンド顧客にプロキシするSaaSプラットフォームの動的なアトリビューション。

DatabricksワークスペースのUnity AI Gatewayページに移動し、「View Dashboard」をクリックしてコスト分析ダッシュボードにアクセスします。

これにより、完全にカスタマイズ可能な使用状況とコスト分析ダッシュボードが開きます。

データとAIを統制する単一プラットフォーム

AI Spend Controlsは、Databricksですでに使用しているガバナンス機能の自然な拡張です。

• Unity AI Gatewayは、組織のLLMとMCPを管理およびアクセスするための中央AI Gatewayです。
• Unity Catalogは、組織のデータおよびAIアセットを登録および検出するための中央カタログです。アクセス許可、監査ログ、使用状況データはすべてUnity Catalogに存在します。

Databricksは、エージェントが何を実行できるか、誰のために実行できるか、そしてそれにいくら費やせるかを管理するための、単一で一貫したシステムを提供します。 今すぐ始めましょう！

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事