エージェントは準備万端ですが、あなたのアーキテクチャはまだかもしれません

現在、役員会議やデータ戦略会議で浮上している疑問は、「なぜこれほど多くのAIイニシアチブが活動を生み出すだけで、価値を生み出さないのか？」というものだ。答えるまでは単純に聞こえる。

アーサラン・タヴァコリ＝シラジは、何百もの企業の対話でこのパターンが展開されるのを見てきた。Databricksの共同創設者兼フィールドエンジニアリング担当シニアバイスプレジデントとして、彼は技術アーキテクチャとAIビジネス戦略の交差点に位置している。

この対談で、アーサランと私は、CDOやCTOがエージェントシステムを本番環境に導入するために理解すべきこと、AIが出力を生成する段階から、メッセージ送信、レコード更新、意思決定実行といったアクションを取る段階に移行した際にガバナンスの失敗がどのように見えるか、そして何年にもわたって組織を悩ませるAIスプロールを生み出すことなく、いかにして意味のある成功を見つけるかについて話し合った。

AI活動とAI価値の隔たり

キャサリン・ブラウン： あなたはAI導入のあらゆる段階にある企業と仕事をされていますね。正直なところ、ほとんどの企業はどの段階にいるのでしょうか？

アーサラン・タヴァコリ＝シラジ： いくつかの異なるカテゴリーがあります。一部はまだ実験段階で、モデルに触れ、パイロットを実行し、何が可能かを探っています。さらに進んで、特定のタスクを自動化している企業もあります。例えば、コピーの生成、メモの書き起こし、データに対する質問への回答などです。そして、AI機能を念頭に置いてゼロから設計する方法を理解している、はるかに小さなグループがあります。ほとんどの組織はまだ最初の2つのカテゴリーにいます。AIスプロール、つまりAI活動はたくさんありますが、AI価値ははるかに少ないのです。

大きな違いは、どこから始めるかです。意味のある価値に到達している企業は、達成したい成果（生産性の向上、新しいビジネス機能、リスク削減など）から逆算して取り組みます。彼らはテクノロジーから始めることはありません。

キャサリン： エージェントシステムが本番環境に到達するのを妨げる最も一般的なアーキテクチャ上の間違いは何ですか？

アーサラン： 私が最もよく目にする間違いは、モデルの選択が難しい部分だと考えることです。現在、高品質な基盤モデルを入手することは、問題の中で最も簡単な部分です。最も難しいのは、その下にあるすべてです。

企業では、いくつかのことを検討する必要があります。データはどこにあり、どのように接続しますか？ほとんどの組織では、データが十数か所に分散しており、互いに通信できない独自の形式でロックされています。そして、エージェントをそのデータに結び付け始めると、厳格なガバナンスが必要になります。データ自体に対するガバナンスだけでなく、エージェントを理解するガバナンスです。つまり、エージェントが何をしているのか、どのような権限を持っているのか、どこに向かっているのか、複数のシステムからの複数のエージェントがどのように接続するのかを理解するガバナンスです。そして最後に、エージェントは組織の深い意味的理解を必要とします。彼らは事実上、あなたの代理で実行する仮想ワーカーです。彼らは何が良い状態なのか、主要な定義と指標は何なのか、そしてビジネスの実際のコンテキストは何なのかを知る必要があります。

アンチパターンは単純です。データがサイロに閉じ込められ、ガバナンスが省略されるか二次的な問題として扱われ、その後、なぜエージェントが本番環境で機能しないのかを解明しようと奔走するのです。組織はほとんど毎回、この3つの点で失敗します。

なぜダッシュボードとバッチパイプラインは間違った基盤なのか

キャサリン： 構造的に見て、なぜダッシュボードとバッチパイプラインは、企業が進むべき方向と合致しないのでしょうか？

アーサラン： それらは一時しのぎのものです。ダッシュボードは、企業が意思決定を行う上で依然として重要な視覚的な参照点を提供します。しかし、ほとんどのダッシュボードは、誰かが一度だけ尋ねた一つの質問に答えるために作られています。作られても数回しか見られず、その後は私が「ダッシュボードの墓場」と呼ぶ場所に入ってしまいます。

ダッシュボードは問い詰めるのも難しいです。データの中に何かを見つけて、それがなぜ起こったのかを知りたいとします。それをイベントに結びつけ、深く掘り下げて、追加の質問をしたい。歴史的に見ると、それは誰かが行って、基となるデータを引き出し、分析を実行し、あなたに戻ってくることを意味します。物事が急速に動く世界では、その遅延は非常に厳しいものです。

バッチパイプラインも同様の問題を抱えています。バッチ処理は、意思決定が十分にゆっくり行われ、日次または週次のデータで問題なかった時代には理にかなっていました。しかし、エージェントの世界では、何かを見てからそれに行動を起こすまでの時間が急速に短縮されています。バッチサイクルで実行されている切断されたシステムでは、エージェントが必要とする速度で応答することはできません。

Lakebaseが実際に解決すること

キャサリン： 企業がAIの実験からエージェントによる実行へと移行する中で、Lakebaseはどのように位置づけられますか？

アーサラン： ほとんどの組織が分析レイヤーやデータウェアハウスの周りに構築してきたインフラは、大規模なクエリ、集計された洞察、人間のアナリストによるレポート作成といった特定の種類の作業のために設計されていました。これは、エージェントアプリケーションが必要とするワークロードとは根本的に異なります。

エージェント向けに構築を始めるとき、あなたは非常に異なる消費者向けに構築しています。すべてのフィールド技術者にインテリジェントなアプリケーションを提供したい通信会社を想像してみてください。あるいは、各アドバイザーにAIアシスタントを導入する資産運用会社。または、販売時点でリアルタイムのレコメンデーションを表示する小売業者。これらのアプリケーションは、非常に低いレイテンシーで膨大な数のユーザーに同時にサービスを提供する必要があります。そして、これらすべてが、大規模な運用で理にかなったコストで実現される必要があります。

そこでLakebaseが登場します。エージェントには分析データベースではなく、トランザクションデータベースが必要です。そして、エージェントの世界の要求に特化して構築されたものが必要です。Lakebaseはその基盤です。これにより、組織はAIの実験から、実際に本番環境で大規模に実行し、負荷によってインフラが崩壊することなく運用できるようになります。そして、組織がすでに持っている分析レイヤーと連携して機能します。これは代替品ではありません。欠けていたピースなのです。

エージェントが行動を起こす際のガバナンスの失敗

キャサリン： システムが出力を生成するだけでなく、実際に行動を起こし始めたときに、どのようなガバナンスの失敗が起こりがちですか？

アーサラン：

人が持っている権限は、そのエージェントも持つべきだと仮定するのが一般的です。その論理は理にかなっていますが、現実には、すべてのシステムで、すべての人に対して完璧な権限が正しく設定されている組織はほとんどありません。人間はその現実を不完全に乗り越えますが、直感があるため、課題を回避できます。「はい、技術的にはこれができます。しかし、まず確認せずにやるべきではないでしょう」と教えてくれる状況認識があります。エージェントにはそのような状況認識はありません。彼らには目標と一連の制約があります。そして、それらの制約の中で目標への道を見つけます。

エージェントが出力を生成するだけの場合、最悪のシナリオは低品質なコンテンツを生成することです。しかし、彼らが行動を起こし始め、メッセージを送信したり、注文をしたり、レコードを削除したり、あなたの代理でコミュニケーションを取ったりするようになると、状況は全く異なります。ガバナンスは、エージェントから実際に価値を引き出せるかどうかを決定する核となる要素の一つです。これを正しく実行できる企業は、ガバナンスを後回しにするのではなく、前提条件として扱う企業です。

成功への最短経路

キャサリン： さらなる技術的スプロールを生み出すことなく、AIエージェントを成功裏に導入するための最速の経路として、どのようなものをご覧になりましたか？

アーサラン： 2つの点が際立っています。まず、始める前に成功がどのようなものかを明確にすることです。当たり前のことのように聞こえますが、ほとんどのチームはこれを飛ばしてしまいます。もし、あなたが目指す具体的な成果（生産性の向上、新しい収益能力、コスト削減、リスク回避など）を定義できなければ、正しいアプローチへと逆算することはできません。テクノロジーは目標ではありません。

2つ目は「隔離」です。大規模で重要なチームを、彼らが日常業務をこなしながら内部から変革するのは本当に困難です。私が効果的だと考えるのは、明確に定義されたユースケースを持つ小規模で集中的なパイロットチームを立ち上げ、迅速に反復する自由を与え、レガシーな技術的負債や既存のポリシー制約から遠ざけることです。彼らは制約を受けないため、迅速に動きます。これにより、現実世界で何が良いのかを学び、その学びを活かして、より広範な組織にスケールし、展開する方法を見つけ出します。何が機能するかを迅速に見つけ出し、それが判明したら急速にスケールアップできるようにしたいのです。

エージェント時代の不都合な真実

キャサリン： この時代に合わせて再設計するにあたり、リーダーが受け入れるべき不都合な真実とは何ですか？

アーサラン： インフラの観点から見ると、エージェント時代には、連携して機能する必要がある一連のコアコンポーネントが求められます。それは、ガバナンスされた分析レイヤー、エージェントが要求する速度と規模を処理できるトランザクションデータベース、それらのエージェントを構築および監視するためのプラットフォーム、そして人々が実際に使用できるアプリケーションレイヤーです。

Databricksでは、Lakebaseがトランザクション面を支えています。AgentBricksは、エージェントを大規模に構築・管理するための開発および監視レイヤーを提供します。Databricks Appsは、それらのエクスペリエンスをエンドユーザーに提供するためのアプリケーションレイヤーを提供します。そしてGenieは、人々が実際にデータと対話する方法です。データアナリストを介さずに、ビジネスユーザーが質問し、回答を得られる会話型インターフェースです。数十ではなく、潜在的に数千のエージェントを稼働させる規模に達する場合、これらすべての要素が最初から連携するように構築されたシステムが必要です。

しかし、より厳しい真実はこうです。この瞬間を最大限に活用できる企業は、既存のプロセスの上にAIを追加するだけでなく、根本的なプロセスを再考する意欲のある企業です。第二次産業革命にはよく知られた例があります。蒸気機関を電気機関に置き換えたものの、同じフロアレイアウトを維持した工場は、効率性の向上をほとんど得られませんでした。テクノロジーは変わりましたが、システムは変わりませんでした。まさに多くの組織が今、その状況にあります。

「AI機能を念頭に置いてゼロからこれを構築したら、どうなるだろうか？」と問い始めているチームこそが、変革的な結果を見るでしょう。それには、変革管理、イネーブルメント、そして「良いもの」がどのようなものかという明確な定義が必要です。どれも簡単ではありません。しかし、成功している組織は、一度に一つずつではなく、これらすべてにまとめて取り組んでいます。

システムこそが戦略である

今、CDOやCTOが向き合うべき問いは、エージェントAIに投資すべきかどうかではありません。その決定は、市場によってすでに大部分が下されています。問いは、基盤となるシステム、データアーキテクチャ、ガバナンスレイヤー、トランザクションインフラストラクチャ、開発プラットフォームが、彼らがやろうとしていることのために実際に構築されているかどうかです。

企業全体にAIを組み込むためのロードマップの策定について詳しく知るには、「State of AI Agents」をダウンロードしてください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事