一般主義者から専門家へ：AIシステムの進化は複合AIへ！

複合AIシステムは現在、大きな注目を集めており、それには十分な理由があります。複合AIシステムは、複数のAIモデル、ツール、システムの最良の部分を組み合わせて、単一のAIでは効率的に対処するのが難しい複雑な問題を解決します。

振り返り：モノリシックからマイクロサービスへ

複合AIシステムの魔法に飛び込む前に、少し戻ってアプリケーション開発がどのように進化してきたかを探ってみましょう。モノリシックなアプリケーションの日々を覚えていますか？これらは巨大な、一体型のソフトウェアシステムで、フロントエンドのインタラクション、バックエンドの処理、データベース管理を一つのコードベース内で処理していました。彼らは強力でしたが、欠点もありました。

モノリシックアーキテクチャの課題:
 

• 遅い更新: アプリケーションの一部を少し修正するだけで、システム全体を再デプロイする必要がありました。
• スケーリングの問題: システムの一部が重負荷になると、システム全体をスケールアップしなければなりませんでした。
• 単一の障害点: 一つのコンポーネントがクラッシュすると、システム全体がダウンする可能性があります。
   

これにより、マイクロサービスアーキテクチャが登場し、ビジネスが大規模なモノリシックなアプリケーションを小さな自己完結型のサービスに分割することを可能にしました。各マイクロサービスは、ユーザー認証や在庫管理などの特定のビジネス機能に焦点を当て、モノリシックなシステムでは実現できなかった柔軟性とスケーラビリティを提供しました。

マイクロサービスの利点：

• より速い更新: 他の部分に触れることなく、一つのマイクロサービスを更新またはデプロイすることができます。
• スケーラビリティ: 需要に基づいて個々のサービスをスケールします。
• 障害分離: 一つのサービスがクラッシュしても、他のサービスは稼働し続けます。
   

しかし、マイクロサービスには課題もありました：

• 高いオーバーヘッド: 多くのサービスを管理するためには、より多くの調整とインフラが必要です。
• 遅延: サービス間の通信が処理を遅くすることがありました。
• 一貫性の問題: サービス間でデータを同期させるのは難しかった。
   

AIの世界も同じ方向へ進んでいます

AIの世界でも同じ進化が見られます。GPT-4やMeta Llamaのような大規模な言語モデル（LLM）は、幅広いタスクを処理するのに優れていますが、モノリシックなアプリケーションと同様に、すべての仕事に完璧なわけではありません。
 

複合AIシステムはGenAI版のマイクロサービスです。これらのシステムはAIタスクを特化したセグメントに分解します。すべてを単一の巨大なモデルに依存するのではなく、各モデルやツール、コンポーネントが特定のタスクに最適化されて展開されます。
 

なぜ複合AIシステムがうまく機能するのか：

• 一般的な専門家と特殊な専門家：大きな基礎モデルは広範な洞察を提供し、特化したモデルは医療診断やリアルタイムのサイバーセキュリティ脅威検出のようなニッチなタスクを処理します。
• モジュラリティ:新しいモデルが必要ですか？システム全体を再訓練することなく、それを交換するだけです。
• 最適化：モデルとツールは、タスクの特定の部分に対して微調整することができ、システム全体をより効率的で正確にします。
   

複合AIシステムの動作方法

それでは、実際に複合AIシステムはどのように見えるのでしょうか？特定の領域で優れたAIモデルのチームが、複雑なタスクを解決するために協力して働く様子を想像してみてください：

1. 複数のLLM: 特定のタスクやドメインに最適化された異なる言語モデルを使用することができます。
2. 外部ツール：検索エンジン、API、またはデータ取得システムは、AIパイプラインに豊富な情報を供給することができます。
3. オーケストレータ：タスクオーケストレータは、各モデルやツールをタスクにどのように使用するか、いつ使用するかを指示します。
    

このモジュラーなアプローチにより、複合AIシステムは複雑な課題をより小さく、管理しやすいステップに分解することができます。これは、マイクロサービスが従来のアプリケーション開発を革新したのと同様のアプローチです。

Databricks：複合AIシステムの力

先頭を走るプラットフォームの一つはDatabricksです。これは、複数のAIモデル、データ取得システム、外部APIを統合することで、企業が生産品質の複合AIシステムを構築するためのツールを提供します。
 

なぜDatabricksが際立つのか:

• シームレスな統合: 内部データソースと外部ツールの両方に安全かつ簡単に接続し、モデルに豊富で文脈情報を含んだデータを提供できます。
• スケーラビリティ: Databricksモデルの提供を使用して、需要に基づいて個々のコンポーネントをスケーリングできます。
• カスタマイズ: 各コンポーネントは、より正確な結果を保証するために、カスタムデータに微調整することができます。
   

メンテナンスボットのための複合AIシステムの構築

これを具体的に理解するために、メンテナンスボットを見てみましょう。これはDatabricksによって動かされています。このボットは、機械のトラブルシューティング、修理マニュアルのアクセス、文脈に基づいた洞察の提供を支援するために構築されています。

ステップバイステップのフローの詳細:

1. マニュアルのチャンキングと保存:
   • マニュアルは小さなピースに分割され、Databricksの埋め込みモデルを使用してベクトル埋め込みに変換されます。これらの埋め込みは、素早い取得のためにベクトル検索インデックスに保存されます。
      
2. 歴史的データの収集と保存:
   • このシステムは、工場設備からの保守ログ、サービスリクエスト、在庫データ、IoTセンサーの読み取りデータを収集します。このデータはクリーニングされ、集約され、メダリオンアーキテクチャに保存され、豊富なデータはグラフデータベースに保存されます。これは、機械、部品、欠陥、エラーコードなどの関係を保存します。
      
3. 複合AIシステムの構築:
   • DsPyフレームワークを使用して、 AIは複数のコンポーネントを調整します：
     • ユーザーの質問（例えば、「エラーDF-3466をどのように修正するか？」）はベクトル埋め込みに変換され、ベクトルデータベース内のマニュアルデータで検索されます。
     • 同時に、質問は微調整されたテキストからサイファーへのLlamaモデルを使用してサイファークエリに変換されます。このサイファークエリは、エラーが以前に報告されていたか、どのように修正されたかを確認するために、グラフデータベースに問い合わせるために使用され、文脈に基づく洞察を提供します。
        
4. レスポンスの要約:
   • DsPyフレームワークは、マニュアルとグラフデータベースの両方からの応答を組み合わせ、Llama foundationモデルを使用してユーザーに結果をまとめます。
      
5. Databricksへのデプロイ:
   • 複合AIシステムを統合するDsPyフレームワークはDatabricks モデル提供にデプロイされ、AIシステムがスケーラブルで安全であることを保証します。 Agent Bricks AI Gatewayはエンドポイントのアクセスとセキュリティを管理します。
      
6. NLPを用いたFAQ生成:
   • ユーザーのリクエストとレスポンスのログはDeltaテーブルに保存されます。NLPを使用して、よくある質問を特定し、ランク付けし、将来同様の問題が発生したときにユーザーに提供します。
      

このメンテナンスボットは、ベクトル埋め込み、グラフデータベース、LLMなどの複数のAIコンポーネントを組み合わせて、複雑なユーザークエリを効率的かつ知的に解決する複合AIシステムの完璧な例です。
 

未来は複合的です

マイクロサービスがアプリケーションの構築方法を変えたように、複合AIシステムはAIを使って複雑な問題を解決する方法を変えています。特化したモデルとツールが協力して働くことで、より柔軟で効率的で強力なAIシステムを構築することができます。

Databricksのようなプラットフォームを使用すると、企業はこれらのシステムをスケールでデプロイでき、AIソリューションが最先端であるだけでなく、製品化準備も整っていることを確認できます。 これにより、単一の巨大モデルに頼るのではなく、一緒に働くAIのチームを持つことができます。AIの未来は複合的で、それは今起こっています。

複合AIシステムについての詳細情報は、このブログ投稿で詳しく読むことができます：モデルから複合AIシステムへのシフト.