ドメインインテリジェンスが鍵：本番運用AIにおける「高品質」の本当の意味

企業が生成AIの実験から本番運用でのエージェントシステムのデプロイへと移行するにつれて、議論の焦点は移り変わりつつあります。エグゼクティブが問うているのは、もはや「このモデルは推論できるか？」ではなく、「このシステムは信頼できるか？」ということです。

その変化が実際に何を意味するのかを探るため、DatabricksのEMEA担当Chief AI OfficerであるMaria Zervou氏と対談しました。Maria氏は、規制の厳しい業界や変化の速い業界の顧客と密接に連携し、AIアーキテクチャ、ガバナンス、そして実世界での実行が交差する領域で活動しています。

対談を通して、Maria氏は繰り返し同じ点を強調していました。それは、エージェントAIの成功はモデルそのものではない、ということです。それは、データ、エンジニアリングの規律、そして明確な説明責任といった、モデルを取り巻くシステムにかかっているのです。

キャサリン・ブラウン：私が話をする多くのエグゼクティブは、いまだにAIの品質を、モデルがいかに優れているように見えるかと同一視しています。あなたはそれが間違ったフレームだと主張していますね。その理由は、

Maria Zervou氏: 私が目にする最大の誤解は、人々がモデルの賢さや知覚される推論能力を品質と混同していることです。それらは同じものではありません。

特にエージェントシステムにおける品質とは、信頼性を積み重ねることです。もはや単一の応答を評価しているのではありません。データの取得、ツールの呼び出し、意思決定、問題のエスカレーションといった、何百ものステップを踏む可能性のあるシステムを評価しているのです。たとえ小さなエラーであっても、予測不可能な形で積み重なっていく可能性があります。

そのため、問いも変わってきます。エージェントは適切なデータを使用したか？適切なリソースを見つけられたか？いつ停止またはエスカレーションすべきかを知っていたか？そこにこそ、品質の本質があります。

そして重要なのは、品質はステークホルダーによって意味が異なるということです。技術チームは、コスト、レイテンシー、スループットといったKPIに焦点を当てがちです。エンドユーザーは、ブランドコンプライアンス、トーン、法的な制約を気にします。そのため、これらの視点が一致していないと、結局、間違ったものを最適化することになります。

Catherine氏: それは興味深いですね。特に、多くのリーダーは、規制の厳しい環境では特に、AIシステムは「完璧」でなければ使えないと考えているからです。規制の厳しい業界の企業は、AIへの取り組みにどのようにアプローチすべきでしょうか？

Maria氏: 規制の厳しい分野では、確かに非常に高い精度が求められますが、最初のベンチマークは人間のパフォーマンスであるべきです。人間は今現在も、常に間違いを犯します。現実に期待を根付かせなければ、前に進むことはできません。

それよりも重要なのは、トレーサビリティと説明責任です。何か問題が起きたとき、なぜその決定が下されたのかを追跡できますか？その結果の責任者は誰ですか？どのデータが使われましたか？これらの質問に答えられなければ、出力がどれほど見事に見えても、そのシステムは本番運用に対応できる状態ではありません。

キャサリン: ドメイン固有のエージェントと汎用モデルについて、よくお話しされていますね。経営幹部はその違いをどう考えるべきでしょうか？

Maria：汎用モデルとは、本質的には、非常に大規模で多様なデータセットでトレーニングされた、極めて高性能な推論エンジンです。しかし、それはあなたのビジネスを理解していません。ドメイン特化型エージェントは同じベースモデルを使用しますが、コンテキストを通じてより強力になります。事前に定義されたユースケースに強制的に当てはめるのです。検索空間を制限します。あなたのKPIが何を意味するのか、あなたの専門用語が何を意味するのか、そしてどのようなアクションを取ることが許可されているのかを教えるのです。

実はその制約が、それをより良くしているのです。ドメインを絞り込むことで、ハルシネーションを減らし、出力の信頼性を高めることができます。価値の大部分は、モデル自体から生まれるわけではありません。それは、安全にアクセスできる独自のデータ、意味を定義するセマンティックレイヤー、そして使用が許可されているツールから生まれます。本質的に、それはあなたのデータに基づいて推論できます。そこに競争上の優位性が存在します。

Catherine氏: 組織がプロトタイプから本番運用へ移行しようとするとき、AIエージェントのワークフローはどのような点で破綻することが多いですか？

マリア：主な失敗点は 3 つあります。1 つ目はペースの不一致です。テクノロジーは、ほとんどの組織よりも速く進歩します。チームは、データアクセス、セキュリティ、構造に関する基礎的な作業を終える前に、エージェントの構築に飛びつきます。

2つ目は暗黙知です。従業員を効果的にするものの多くは、人々の頭の中や散在する文書の中に存在します。その知識がエージェントが使用できる形式で体系化されていなければ、システムがビジネスの期待通りに動作することはありません。

3つ目はインフラストラクチャです。多くのチームは、スケールや実世界での使用を計画していません。彼らはデモで一度は機能するものを作りますが、本番運用の負荷がかかると破綻してしまいます。

3つの問題はすべて同時に現れる傾向があります。

Catherine：以前、ビジネス知識を取り込むことは、適切なモデルを選択することと同じくらい重要だとおっしゃっていましたね。うまくやっている組織はどのようにしていると思われますか？

Maria：AIシステムは一度きりのプロジェクトではない、という認識から始まります。それらは生きているシステムです。1つの実践的なアプローチは、会議を録音して文字起こしし、それを素材として扱うことです。次に、その情報を構造化、要約、タグ付けして、後でシステムが取得できるようにします。時間をかけて、ビジネスが実際にどのように考えているかを反映したナレッジベースを構築していくことになります。

同様に重要なのは、評価をどのように設計するかです。エージェントの初期バージョンは、エンジニアだけでなく、ビジネスのステークホルダーによって使用されるべきです。何が正しく感じられ、何がそうでないか、なぜ何かが間違っているのかといった彼らのフィードバックが、トレーニングデータになります。

そのエージェントの特定の目的に合わせてカスタマイズされた効果的な評価システムを構築することは、高品質な出力を確保するために不可欠であり、これは最終的に、本番運用のあらゆるAIプロジェクトにとって極めて重要です。当社の利用状況データによると、AI 評価ツールを使用するお客様は、使用しないお客様に比べて、AI プロジェクトを本番運用に導入する数が 6 倍近く多いことがわかっています。

事実上、ビジネスの頭脳を評価基準にコード化しているのです。

Catherine：それは費用も時間もかかりそうですね。厳密性とスピードのバランスはどのように取りますか？

マリア：ここで私が話すのが、実用最小限のガバナンスです。初日から企業全体のガバナンスを解決するわけではありません。取り組んでいる特定のドメインとユースケースに対して解決するのです。そのエージェントに対して、データが管理され、追跡可能で、監査可能であることを確認します。そして、システムが価値を証明するにつれて、拡大していきます。

役立つのは、優れたエンジニアリングとガバナンスの実践をすでにエンコードしている、繰り返し可能なビルディングブロック、つまりパターンを持つことです。それが、Agent Bricksのようなアプローチの背景にある考え方です。チームは、ワークフロー、評価、および制御を毎回ゼロから再発明するのではなく、洗練された基盤から始めることができます。

それでも経営幹部は、明確なビジネスKPI、指名されたエグゼクティブスポンサー、ビジネスユーザーと共に構築された評価、そして強力なソフトウェアエンジニアリングの基礎といった、いくつかの譲れない点を事前に主張すべきです。最初のプロジェクトは骨が折れるでしょうが、それが後に続くすべてのパターンの基礎となり、その後のエージェントのデプロイをはるかに高速にします。

そのステップを省略すると、私が「デモウェア」と呼ぶもの、つまり、決して現実のものとはならない見事なプロトタイプが出来上がってしまいます。

キャサリン：エージェントが仕事の進め方を実質的に変えた例を教えていただけますか？

Maria：Databricks社内では、いくつかの場面でこれが見られます。プロフェッショナルサービスでは、移行時の顧客の環境をスキャンするためにエージェントが使用されています。エンジニアがすべてのスキーマとシステムを手動でレビューする代わりに、エージェントがベストプラクティスに基づいて推奨ワークフローを生成します。それによって、反復的な分析に費やす時間が劇的に削減されます。

フィールドエンジニアリングでは、顧客の業界やユースケースに合わせてカスタマイズされたデモ環境をエージェントが自動的に生成します。以前は手作業での準備に何時間もかかっていたことが、今でははるかに速く、より高い一貫性で実行されます。

いずれのケースでも、エージェントは専門知識に取って代わるのではなく、それを増幅させたのです。

Catherine：この道を歩み始めたばかりのCIOやCDOのためにこれを要約するとしたら、まず何に注力すべきでしょうか？

Maria氏: まずはデータから始めましょう。信頼できるエージェントには、統一され、管理可能で、監査可能なデータ基盤が必要です。データが断片化されていたり、アクセスできなかったりすると、モデルがどれほど優れていても、エージェントは失敗します。次に、所有権を明確にすることです。品質の責任者は誰か？成果の責任者は誰か？いつエージェントが「十分な性能」に達したと判断するのは誰ですか？そして最後に、エージェントAIはシステムがいかに賢いかを示すためのものではないことを覚えておいてください。重要なのは、システムが新たなリスクをもたらすことなく、ビジネスがより良い意思決定をより迅速に行えるよう、確実に支援できるかどうかです。

おわりに

エージェントAIは、人間を支援するツールから、人間に代わって行動するシステムへの真の移行を意味します。しかし、Maria氏が明確にしているように、成功はモデルの高度化に依存するのではなく、データ、ガバナンス、エンジニアリングにおける規律に、より大きく依存します。

エグゼクティブにとっての課題は、エージェントが登場するかどうかではありません。彼らが到着したときに信頼できるシステムを構築する準備が、自社の組織にできているかどうかです。

効果的な運用モデルの構築についてさらに詳しく知るには、Databricks AI成熟度モデルをダウンロードしてください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事