AIシステムが自律的になるにつれて、真の準備体制とはどのようなものになるのか
によって キャサリン・ブラウン による投稿
企業が生成AIの初期の実験段階から、エージェント的で目標駆動型のシステムの構築へと移行するにつれて、経営幹部が抱く疑問も変化してきました。話題は、AIに何ができるかということよりも、むしろ、ビジネスの実際の運営方法にどのように信頼し、統制し、統合できるかということに移っています。
この次の段階に向けて主要な組織がどのように準備しているかを探るため、Executive Lens シリーズの一環として、Databricks の製品担当シニア ディレクターである Craig Wiley 氏と対談しました。このシリーズは、エンタープライズ データと AI を形成している戦略的変化を、これらの変化をリアルタイムで乗り越えている経営幹部との直接の対話を通じて明らかにすることを目的としています。
私とクレイグは、「準備が整っている」とは実際にはどういうことか、アーキテクチャとガバナンスをどのように進化させる必要があるか、そしてエージェント システムの拡張を開始するにあたって経営陣や取締役会がどのようなマイルストーンを計画すべきかについて、率直に話し合いました。
Craig Wiley 氏は、Databricks の人工知能担当製品シニア ディレクターです。以前は、AWS SageMaker の創設ゼネラル マネージャーを務め、Google Cloud では AI プロダクトのリーダーでした。彼は、企業がデータとインテリジェント システムを実用的かつ永続的な方法で統合できるよう支援する、スケーラブルな機械学習および AI プラットフォームの構築において豊富な経験を持っています。
キャサリン：最近、多くのCIO、CDO、CTOとお話しされていますね。企業がGenAIの実験から、よりエージェント的で目標駆動型のシステムへと移行する中で、どのような変化が見られますか？
クレイグ： 当初は、多くの人々がGenAIを有用な形で活用する方法について、ただ混乱していたのだと思います。今でも、ユースケースの大部分が非常に決定論的であると耳にします。人々は、「これを行うシステムを構築したい」と言います。それがサプライチェーンであれ、カスタマーサービス管理であれ、何であれです。
問題は、初期の GenAI では、決定論的なものを構築またはデプロイすることが非常に困難だったということです。エージェントにより、GenAI を使用してほぼ決定論的なシステムを構築できるようになり、精度に関してもより賢く対処できるようになりました。
CXO がエージェント ソリューションの導入を承認する際に何が必要かを考えると、それはコントロールと精度に行き着きます。それをコントロールできるのか、そして、それは実際に機能するのか？エージェントへのこの移行によって、すべてがプロンプトとレスポンス ベースだった頃には到達できなかったレベルの精度を実現できるようになりました。
キャサリン：組織が実際にエージェントAIの準備ができていると判断する材料は何ですか？
Craig: 退屈な答えが正しい答えです。つまり、データは整理されていますか？
エージェント型AIには大きな期待が寄せられていますが、企業にとっては結局のところコンテキストが重要になります。ここで言うコンテキストとは、データと情報を意味します。エージェントの推論過程において、適切なタイミングで適切な情報を渡すことができるでしょうか？
これはよくあることです。より小さく、安価で、洗練されていないモデルでも、適切なタイミングで適切なコンテキストが与えられれば、最も高度なモデルと同等の性能を発揮できます。それに近道はありません。強力なメタデータを持つ、適切にキュレーションされたデータレイクが必要です。それがなければ、古典的なmachine learningと非常によく似ています。「このモデルを構築しよう」と言ってから、データの整理に2か月半が費やされ、最後の数週間で実際にシステムを構築するのです。データに関する作業がなければ、成功はありません。
キャサリン： 多くの組織は、データに関して理想とするほど成熟していません。もし経営幹部が自社の環境を見て、「これはめちゃくちゃだ、どこから手をつけたらいいんだ？」と思った場合、どのような方法が有効でしたか？
クレイグ： 実際には2つの道があります。
1 つはボトムアップです。すべてのデータを見て、「どうすればこれを適切な状態にできるだろうか」と考えます。幸いなことに、ツールは劇的に改善されました。レガシーシステムからデータを移動させるのは以前より簡単になり、GenAI はそのためのコードの一部を記述するのにも役立ちます。
もう一つの道は、ユースケース駆動型です。CEOやCIOが「我々には大きなエージェント的な野心があり、Xをやりたい」と言っても、データがめちゃくちゃな状態であれば、「このユースケースには実際にどのようなデータが必要か？」と自問することから始められます。そ れから、それらのデータを見つけ出し、最新化し、その目標達成のために活用します。
どちらのアプローチも、一概に優れているわけではありません。ボトムアップは、後々より高い柔軟性をもたらします。ユースケースファーストは、問題が事業の存続に関わる場合に、より迅速に進められる可能性があります。唯一の本当の間違いは、データに必要な時間と注意を払わないことです。
キャサリン: アーリーアダプターは現在、何に注目していますか？どのようなユースケースが注目を集めていると思われますか？
Craig: 1年前は、多くのアーリーアダプターが、モデルの生成的な性質が足かせにならないマーケティングやその他のユースケースに力を入れていました。今では、ツール呼び出しや精度の向上などにより、顧客ははるかに多くのことに取り組むことができます。人々は依然としてチャットを中心に考えています。「従業員に何かと対話させたい」のです。「顧客に何かに話しかけてほしい」
しかし、私が本当に興奮しているのは、自動化とワークフローの最適化です。最近、ある大手銀行と話をしたのですが、彼らは融資組成プロセス全体をエージェント化しようとしています。以前は、人間が何時間もかけて書類に目を通していました。今では、人間の厳格な監視の下で、完全にエージェントが実行するようにしたいと考えています。これは、単なるチャットボットよりもはるかに魅力的な成果です。
Catherine: システムがより自律的になるにつれて、リーダーはアーキテクチャとガバナンスをどのように再考していますか?
クレイグ：何十年もの間、私たちは構造化データの管理に焦点を当て、適切な人がアクセスでき、そうでない人はアクセスできないようにしてきました。今では、非構造化データについても同じことを考えなければならず、また、エージェントを新しいエンティティとして捉える必要もあります。これらのエージェントが、適切なタイミングで適切なデータにアクセスできるようにするには、どうすればよいのでしょうか？
エージェントの向こう側にいるユーザーについても考慮する必要があります。典型的な例は、Jira 上にチャットボットを構築することです。多くの場合、Jira やその他の類似システムには機密情報が含まれていることがあります。ガバナンスがなければ、誰でもその情報を引き出せてしまいます。つまり、エージェントが何にアクセスできるかだけの問題ではないのです。誰が尋ねているかに基づいて、エージェントが何を返すことができるかということも重要です。構成要素は存在しますが、ガバナンスは後付けではなく、最優先の課題として扱われなければなりません。
キャサリン：これは、IDおよびアクセス管理によく似ていますね。リーダーは準備を進めるにあたり、その点についてどのように考えるべきでしょうか？
クレイグ： 基本的にはIDとアクセス管理ですが、エージェントという新し いクラスのIDが加わります。
強力なID・アクセス管理ポリシーがなければ、対応がはるかに困難になります。もしあれば、よりスムーズに導入できます。
簡単に言うと、こうです。
IDシステムとドキュメントが整備されていれば、エージェントにそれを指示して迅速に動かすことがはるかに容易になります。
キャサリン： 今後1、2年で、エージェントシステムが大規模化するにつれて、リーダーシップチームは何を計画すべきでしょうか？
Craig: 多くの企業が、「構築か購入か」という問題で悩んでいます。もし私が CEO なら、その点について明確にしたいと思うでしょう。私の見解では、自社で構築できるべきです。大企業を経営していながら、自社のソフトウェア開発をすべてアウトソーシングするなんて、私には考えられません。
開発者がいる場合は、この能力を構築することを計画すべきです。短期的には、ROI はあまり気にせず、それよりも従業員がこれらのシステムを構築して提供できるかどうかを重視します。本番の前に練習が必要です。最初の 6 か月で適切な人材を確保します。6 か月から 12 か月で、誇りに思えるものを構築します。その後、実際のビジネス成果を推進し始めます。
購入すべき時もあります。その機能が自社の差別化の中心でない場合は、購入を検討してください。しかし、すでにソフトウェアを構築して会社を差別化しているのであれば、チームはエージェントを構築して会社を差別化すべきです。
Catherine: 企業が初めてエージェント AI を試す際によく見られる、最大の誤解は何ですか？
クレイグ：失敗後の却下。
彼らが何かを構築し、それが一度間違った回答をすると、「ほら見ろ？」と言うのです。「間違えると言っただろう。」「もうやめた。」成長とはそういうものではありません。もし間違っていたら、なぜなのかを問うのです。根本原因を修正して、前進するのです。
GenAI は最初は簡単に感じられたため、人々はそれが常に簡単であると期待します。しかし、優れた AI システムを構築するのは困難です。失敗することもあるでしょう。成功とは、最初に正しく行うことではなく、継続的に改善することです。
数年前の講演で、あるグローバルな金融サービス企業が、コールセンター従業員のオンボーディングを迅速化するために構築したエージェントについて話していました。私は、どのように成功を測定したのかと尋ねました。返事はこうでした。「それが要点ではありません。要点は、私のチームに構築の経験を積ませることでした。」
その考え方は、私の心に強く残りました。そのような姿勢で臨む企業こそが、成功するのです。
キャサリン：成長マインドセットですね。
クレイグ： その通りです。
この会話で最も印象に残ったのは、エージェント型 AI には近道が通用しないということです。最も速く前進している組織は、困難な部分を省略しているわけではありません。そうした企業は、データ、ID、ガバナンス、ドキュメンテーションといった地味な作業を行い、社内能力の構築に早期に投資しています。
エージェントシステムは、テクノロジーができることを変えるだけではありません。それをうまく活用するために組織がどれだけ準備を整える必要があるかという基準を引き上げます。
効果的な運用モデルの構築についてさらに詳しく知るには、Databricks AI成熟度モデルをダウンロードしてください。
(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事
ブログを購読して、最新の投稿を受信トレイにお届けします。