AI プロジェクトから運用能力へ

企業がパイロットや概念実証の段階を越えるにつれて、経営層の間で新たな疑問が浮上しています。それは、AIはいつ一連のプロジェクトであることをやめ、ビジネス運営の一部になるのか、というものです。

DatabricksのCIOであるNaveen Zutshi氏は、実験段階からエンタープライズ規模のAIへの移行に取り組むCIOやビジネスリーダーと緊密に連携しています。このQ&Aで、NaveenはPalo Alto Networks、Gap Inc.、Walmartなどの企業でリーダーシップを発揮した経験を語ります。彼はそこで、レガシー環境をスケーラブルなクラウドファーストのアーキテクチャに変革する、複雑なモダナイゼーションの取り組みを主導しました。

私たちの対話で明らかになったのは、変曲点はモデルに関するものではないということです。それは、モダナイゼーション、ガバナンス、そして運用の規律に関するものです。

AIはエクスペリメントからP&Lへと移行

キャサリン: AI の実験が AI の運用能力に取って代わられつつあることを示す最も明確な兆候は何ですか？

ナビーン: 業界が AI から真の価値を生み出すには、まだやるべきことがあると私は考えています。しかし、この 6～12 か月で、私は著しい変化を目の当たりにしてきました。私はさまざまな業界の CIO やビジネス リーダーと時間を共に過ごす中で、3 つのパターンが際立っていることに気づきました。

まず、AIが日常業務で利用されているという、ますます具体的な事例を耳にするようになりました。興味深いことに、これまでクラウド上で遅れていると見なされてきた規制業界（例えば、医療や金融サービス）が、今では早期導入者となっています。AIは、バックオフィス業務の自動化、不正検出、投資リターンにおけるアルファの創出、臨床医のメモ作成、創薬、さらには危機管理センターのサポートや予防などに利用されています。第二に、ビジネスリーダーが話し合いに参加するケースが増えています。これまで、AIに関する議論はデータエンジニアとデータサイエンティストが中心でした。今では、事業部門が議論に参加し、データとAIが自分たちの機能をどのように変革できるかについて話し合うようになっています。さらに重要なことに、彼らはそれをすでにどのように実現したかという事例を共有しています。ビジネスのKPIにAIが現れるようになって初めて、AIが真に普及したと言えるでしょう。

第三に、資金調達のあり方が変わりました。AIはかつて、イノベーション予算や裁量資金から捻出されていました。現在では、事業部門から直接、あるいはCIOやCTO組織を通じて一元的に資金提供され、P&L上の主要な項目となっています。この変化だけでも、運用への本格的なコミットメントがうかがえます。AIツールへの支出が、人件費とクラウド支出に次ぐ主要な項目となる日もそう遠くないでしょう。Databricksでは、AI関連の支出をSaaS全体の支出から切り離しています。

真のボトルネック：人材ではなくレガシー

Catherine: 業界の同業者との会話の中で、AIプロジェクトを本番稼働させる際の課題として、どのような共通のテーマが挙がりますか？

Naveen: 今週、20名のCIOとお会いしたのですが、調査結果では人材が最大の制約としてまたもやトップに挙げられていました。しかし、私の経験では、根本的な原因は多くの場合レガシーにあります。

組織はレガシーシステム、SaaSのスプロール化、オンプレミスのスプロール化、そしてアーキテクチャの複雑さに悩まされています。長年にわたり、無作為であったり、競合する優先事項があったりしたために、それを排除するための決定的な行動が取られてきませんでした。しかし、レガシーシステムを維持し続けることは、知らぬ間に問題を引き起こします。モダナイゼーションはスピードを向上させるだけでなく、レガシーシステムは人材の流出も招きます。主なジョブが最新のシステムを構築することではなく、現状維持である場合、優秀なエンジニアを引きつけて維持することはより困難になります。

コンピュート、ストレージ、データアーキテクチャ、アプリケーションレイヤーなど、どの分野のモダナイゼーションを選択したときも、常にもっと早くやっておけばよかったと後悔しました。モダナイゼーションは、生産性を向上させ、使命感を新たにし、環境をシンプルにします。常にやってよかったと思える一手です。

既存のスタックを全面的に交換することなく、最高の AI モデルをプラグインできる最新のオープン アーキテクチャは、次のようなメリットをもたらします。

• データ移動の複雑さを軽減する統一ガバナンスレイヤー。
• ツールの乱立を削減し、シンプルさとスピードを向上。
• 優秀な人材をメンテナンスではなく、価値の高い仕事に集中させられること。

それが多くの場合、本当の解決策なのです。

AIがスケールするかどうかを決定するプラットフォームの意思決定

Catherine: AIの拡張性を最も左右する、プラットフォームに関する重要な決定とは何でしょうか？

Naveen: まずはデータレイヤーです。構造化データと非構造化データの両方（これらはエンタープライズ データの 80% 近くを占めます）。共通のガバナンス レイヤーの下で、その両方を組み合わせる必要があります。最も重要なのは、データをモデルに持っていくのではなく、モデルをデータに持っていくことです。環境間でデータを移動させると、複雑さと管理上の課題が生じます。統一されたアーキテクチャは、管理を簡素化し、セキュリティを向上させます。

単一のモデルプロバイダーにロックインされるのを避けることも重要です。最先端のモデルは急速に進化しています。AI ゲートウェイまたは抽象化レイヤーを使用すると、複数のモデルを使用して、当面のタスクに最適なモデルを選択できます。

最後に、可観測性、品質、検証、テストに重点的に投資することで、AI をコア機能として扱うことです。開発は加速しています。テストこそ、規律が重要になるところです。時間の 80% を検証と改良に費やし、構築にはわずか 20% しか費やさないかもしれません。そしてもう 1 つ付け加えるなら、コンテキストと状態がますます重要になっているということです。AI システムには、時間の経過とともに改善できるよう、メモリと継続性が必要です。

データとAIが別々に語られなくなる時

Catherine: 経営幹部をデータとAIの取り組みから締め出すと、どのような結果を招くでしょうか？

Naveen: 多くの企業では、AI 戦略はデータチームが主導しています。しかし、それはビジネス上の必須事項でもあります。クリーンで高品質なエンタープライズ データがなければ、AI はエンタープライズ環境で役に立ちません。フロンティア ラボは、Web 上のデータでモデルをトレーニングします。企業は、独自のデータでモデルを事後トレーニングする必要があります。同時に、イノベーションはエッジで起こり得ます。適切な認証とアクセス制御を備えた一貫性のあるデータと AI スタックがあれば、チームはアーキテクチャを断片化することなく、エージェントやアプリケーションを安全に構築できます。鍵となるのは、分散型イノベーションの根底にある一貫性とガバナンスです。

エージェント AI の準備ができている分野と、そうでない分野

キャサリン： エージェント主導のオーナーシップに最も適しているワークフローはどれですか？

Naveen: AI の使用が成熟しているソフトウェア開発ワークフロー以外にも、市場投入ワークフローで大きな成功を収めています。マーケティングチームやプリセールスチームは、エージェントを使用してアウトバウンドのリーチとターゲティングを改善しており、多くの場合、手動プロセスを上回る成果を上げています。

エージェントは、意思決定をサポートするために大量の情報を処理する際にも優れています。アナリストからのアドホックなレポートを何週間も待つ代わりに、リーダーは構造化データと非構造化データの両方にわたってデータに直接問いかけ、迅速に知見を得ることができます。

エージェントがまだ対応できていないのは、100%の一貫性と正確性が求められる決定論的なワークフローです。AIは支援はできますが、人間の判断に取って代わるべきではありません。また、「AIスロップ」と呼ばれる、もっともらしく聞こえるが深みのないアウトプットのリスクもあります。リーダーは導入と監督をセットで考えなければなりません。

ハイプを超えて成功を定義する

Catherine: データとAIをスケールさせる際、成功をどのように定義しますか？

ナビーン: 私は4つの側面を軸にしています:

1. 効率性
2. 有効性と収益への影響
3. アウトカムの質
4. リスクの低減

AIシステムについては、制御可能なインプットにも注目しています。例えば、営業AIシステムにおいて、データ入力の何パーセントがエージェントによって自動化されているか、といったことです。そのインプット指標は、生産性の向上と相関しているはずです。あるいは、エージェントによる推奨事項の何パーセントが採用され、手動のアプローチと比較した場合の有効性はどうか、などです。それらはA/Bテストが可能です。サイクルタイムの短縮やコスト削減も重要ですが、それはより広範なビジネス成果という文脈においてのみです。

12か月の「起動, Stop, Continue」

Catherine: もし同業者に12か月間の「起動、中止、継続」についてアドバイスするとしたら、それはどのようなものになりますか？

Naveen: レガシー システムの延命はやめるべきです。AI のガバナンスとセキュリティを後回しにするのはやめましょう。そして、SaaS スプロールをエージェント スプロールで置き換えることは避けてください。エージェントが導入されなかったり、価値を提供しなかったりする場合は、それらを整理しましょう。

次に、スキルベース、またはジョブ理論 (Jobs-to-be-Done) のアプローチをお勧めします。アプリケーション全体を置き換えるのではなく、エージェントがより効率的に実行できる特定のタスクを特定します。的を絞った成功を通じて信頼を築きます。「クロール、ウォーク、ラン」の行程を計画しましょう。そして最後に、データとガバナンス、特に非構造化データへの投資を継続することをお勧めします。そして最も重要なのは、ビジネス中心を維持することです。ユーザー、顧客、そして成果から始めましょう。テクノロジーだけでは価値は生まれません。

経営層の転換点

経営幹部にとっての変曲点とは、運用の準備状況、最新のアーキテクチャ、統一されたガバナンス、統制のとれたテスト、測定可能な成果、そしてビジネスとの連携です。

AIが実験の段階からアカウンタビリティ（説明責任）の段階へ、つまりKPIや予算項目、アーキテクチャの意思決定に反映されるようになったとき、AIは運用能力となります。この変化に早期に気づいた組織は、単により多くのAIを導入するだけにはとどまりません。AIに対応できる構造的な準備が整った企業を構築するのです。

効果的な運用モデルの構築についてさらに詳しく知るには、Databricks AI 成熟度モデルをダウンロードしてください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事