AIインフラストラクチャ: 主要なコンポーネントとベストプラクティス

AIの導入が加速するにつれて、組織はAIの取り組みをサポートできるシステムを導入する必要に迫られています。これらの専門的なシステムを導入するには、AIのパフォーマンスを確保するための高度な専門知識と戦略的な準備が必要です。

AI インフラストラクチャとは？

AIインフラストラクチャとは、AIおよび機械学習 (ML) のワークロードをサポートするように設計された、ハードウェア、ソフトウェア、ネットワーク、ストレージシステムの組み合わせを指します。汎用コンピューティング向けに構築された従来のITインフラストラクチャには、AIワークロードに必要な膨大な処理能力に対応する容量がありません。AIインフラストラクチャは、大量のデータスループット、並列処理、およびグラフィックス プロセッシング ユニット (GPU) などのアクセラレータに対するAIのニーズをサポートします。

例えば、チャットボットChatGPTのような規模のシステムには、数千もの相互接続されたGPU、高帯域幅ネットワーク、緊密に調整されたオーケストレーションソフトウェアが必要ですが、一般的なWebアプリケーションは、少数のCPU（コンピュータ処理装置）と標準的なクラウドサービスで実行できます。AIの力を活用しようとしている企業にとって、AIインフラストラクチャは不可欠です。

AIインフラストラクチャの主要コンポーネント

AIインフラストラクチャの主要コンポーネントは、連携してAIワークロードを可能にします。

コンピュート: GPU、TPU、CPU

コンピューティングは、命令を実行するさまざまな種類のチップによって成り立っています：

CPU は汎用プロセッサです。

GPU は、コンピュータ グラフィックス、画像、動画の作成とレンダリングを高速化するために開発された専用のプロセッサです。GPU は、大規模な並列処理能力を使用して ニューラル ネットワーク が一度に膨大な数の演算を実行できるようにし、複雑な計算を高速化します。GPU は、従来の CPU よりもはるかに高速に AI モデルのトレーニングと実行を行えるため、AI と機械学習のワークロードにとって不可欠です。

GPU は、単一の特定の目的のために設計された特定用途向け集積回路（ASIC）です。NVIDIA は GPU の圧倒的なプロバイダであり、Advanced Micro Devices が第 2 の主要な GPU メーカーです。

TPU (テンソル プロセッシング ユニット) は、Googleが開発したASICです。TPUはGPUよりも専門性が高く、AIの計算需要に対応するように特別に設計されています。TPUは、ニューラルネットワークがパターンを学習して予測を行うために使用するテンソル演算専用に設計されています。これらの演算はディープラーニングアルゴリズムの基本です。

実際には、CPU は汎用タスクに最適です。GPU は、ディープラーニング モデルのトレーニングなど、並列処理を必要とするさまざまな AI アプリケーションに使用できます。TPU は、特に大量のデータを使用する場合に、大規模で複雑なニューラル ネットワークをトレーニングするなど、特化したタスクに最適化されています。

ストレージとデータマネジメント

AI インフラストラクチャのストレージとデータマネジメントは、データのボトルネックを防いで効率を確保するために、大規模なデータセットへの超高 throughput のアクセスをサポートする必要があります。

オブジェクトストレージはAIで最も一般的に使用されるストレージ媒体で、AIシステムに必要な大量の構造化データや非構造化データを保持することができます。また、スケーラビリティに優れ、費用対効果も高いです。

ブロックストレージは、高速で効率的、かつ信頼性の高いアクセスを提供しますが、より高価です。データベース、仮想マシン、高パフォーマンスアプリケーションなどのワークロード向けに、頻繁に取得する必要があるトランザクションデータや小さなファイルに最適です。

多くの組織はデータレイクを利用しています。これは、オブジェクトストレージとオープンフォーマットを使用して大量のデータを保存する一元化されたリポジトリです。データレイクは、画像、動画、音声、ドキュメントなどの非構造化データや半構造化データを含む、すべてのデータ型を処理できます。これはAIのユースケースにとって重要です。

ネットワーキング

堅牢なネットワーキングはAIインフラストラクチャの中核をなす部分です。ネットワークは、ストレージとコンピュートの間でAIに必要な巨大なデータセットを迅速かつ効率的に移動させ、データボトルネックによるAIワークフローの中断を防ぎます。複数のGPUが単一のモデルで連携して動作する分散トレーニングや、トレーニング済みのAIモデルが新しいデータから結論を導き出すプロセスであるリアルタイム推論には、低レイテンシの接続が必要です。高性能インターコネクト規格であるInfiniBandや高帯域幅イーサネットなどのテクノロジーは、効率的でスケーラブルかつ信頼性の高いAIのための高速接続を促進します。

ソフトウェアスタック

ソフトウェアもAIインフラストラクチャの鍵となります。TensorFlowやPyTorchなどの機械学習フレームワークは、事前に構築されたコンポーネントと構造を提供し、機械学習モデルの構築、トレーニング、デプロイのプロセスを簡素化および高速化します。Kubernetes などのオーケストレーションプラットフォームは、AI モデル、データパイプライン、計算リソースを調整・管理し、統一されたシステムとして連携させます。

組織はまた、機械学習、DevOps、 データ エンジニアリング を組み合わせた一連のプラクティスである MLOps を使用して、機械学習ライフサイクル全体のワークフローとデプロイを自動化および簡素化します。MLOpsプラットフォームは、AI開発とデプロイの背後にあるワークフローを効率化し、組織が新しいAI対応の製品やサービスを市場に投入するのを支援します。

クラウド vs オンプレミス vs ハイブリッド展開

AIインフラストラクチャは、クラウド上で、オンプレミス、またはハイブリッドモデルでデプロイでき、それぞれのオプションに異なるメリットがあります。意思決定者は、組織のAI目標、ワークロードのパターン、予算、コンプライアンス要件、既存のインフラストラクチャなど、さまざまな要因を考慮する必要があります。

• AWS、Azure、Google Cloud などのクラウドプラットフォームは、アクセスしやすく、オンデマンドで利用できる高性能コンピューティングリソースを提供します。また、事実上無制限のスケーラビリティ、ハードウェアの初期費用の不要化、マネージド AI サービスのエコシステムも提供し、社内チームがイノベーションに専念できるようにします。
• オンプレミス環境は、より優れた制御と強力なセキュリティを提供します。所有するハードウェアを完全に活用する、予測可能で定常状態のワークロードに対しては、費用対効果が高くなる可能性があります。
• 多くの組織は、柔軟性を高めるために、ローカル インフラストラクチャとクラウド リソースを組み合わせたハイブリッド アプローチを採用しています。たとえば、機密データや規制対象データをオンサイトに保持しつつ、必要に応じたスケーリングや特殊なサービスのためにクラウドを利用する場合があります。

一般的な AI ワークロードとインフラストラクチャ要件

AIワークロードは多種多様で、コンピュート、ストレージ、ネットワーキングにそれぞれ異なる要求を課します。そのため、その特性とニーズを理解することが、適切なインフラストラクチャを選択する上で重要です。

• トレーニング ワークロードは、大規模モデルで膨大なデータセットを処理する必要があるため、非常に高いコンピュート能力を必要とし、1 回のトレーニング サイクルを完了するのに数日から数週間かかることもよくあります。これらのワークロードは、データのフローを維持するために、高性能、低レイテンシのストレージに加え、GPU のクラスターや専用のアクセラレータを利用します。
• 推論ワークロードは、リクエストあたりの計算量ははるかに少ないですが、大規模に運用され、リアルタイム アプリケーションでは多くの場合、1 秒未満の応答が求められます。これらのワークロードには、高可用性、低レイテンシのネットワーキング、効率的なモデル実行が求められます。
• 生成AIや大規模言語モデル (LLM) には、数十億、あるいは数兆ものパラメータ (モデルが精度を向上させるためにトレーニング プロセス中に調整する内部変数) が存在する場合があります。そのサイズと複雑さから、高度なオーケストレーション、分散コンピュートクラスター、広帯域ネットワーキングなどの専用インフラストラクチャが必要となります。
• コンピュータビジョンのワークロードは、モデルが画像および動画処理のために数百万ものピクセルに対して多くの複雑な計算を実行する必要があるため、GPUへの負荷が非常に高くなります。これらのワークロードでは、大量のビジュアルデータを処理するために広帯域のストレージシステムが必要です。

AIインフラストラクチャの構築: 主なステップ

AIインフラストラクチャの構築には、綿密な評価、注意深い計画、効果的な実行という慎重なプロセスが必要です。以下に、実行すべき重要なステップを示します。

1. 要件の評価: 最初のステップは、AI をどのように使用するかを特定し、AI アーキテクチャのニーズを理解することです。AI のユースケースを定義し、コンピュートとストレージのニーズを見積もり、明確な予算要件を設定します。現実的なタイムラインの見込みを考慮に入れることが重要です。AI インフラストラクチャの実装は、プロジェクトの複雑さにもよりますが、およそ数週間から 1 年以上かかることがあります。
2. アーキテクチャの設計: 次に、AI システムの運用方法に関する設計図を作成します。クラウド上で、オンプレミス、ハイブリッドのいずれにデプロイするかを決定し、セキュリティとコンプライアンスのアプローチを選択して、ベンダーを選定します。
3. 実装と統合: このフェーズでは、インフラストラクチャを構築し、すべてが意図したとおりに連携して動作することを検証します。選択したコンポーネントをセットアップし、既存のシステムに接続して、パフォーマンス テストと互換性テストをランします。
4. モニタリングと最適化: 継続的なモニタリングは、システムの信頼性と効率性を長期にわたって維持するのに役立ちます。パフォーマンスメトリクスを継続的に追跡し、ワークロードの増加に合わせてキャパシティを調整し、リソース使用量を最適化してコストを抑制します。

継続的なコストに関する考慮事項と最適化

AIインフラストラクチャを運用する上で継続的なコストは主要な要因であり、その範囲は小規模プロジェクトで月額約5,000ドルから、エンタープライズシステムでは月額100,000ドル以上に及びます。しかし、AIプロジェクトはそれぞれ固有のものであり、現実的な予算を見積もるには、多くの要因を考慮する必要があります。

コンピュート、ストレージ、ネットワーキング、マネージドサービスの費用は、予算を計画する上で重要な要素です。これらの中で、コンピュート (特にGPU時間) が通常、最大の支出を占めます。ストレージとデータ転送のコストは、データセットのサイズとモデルのワークロードに応じて変動する可能性があります。

検討すべきもう1つの分野は、クラウドサービスのコストです。クラウドの価格モデルはさまざまで、ニーズに応じて異なるメリットを提供します。オプションは次のとおりです。

• 従量課金制は、変動するワークロードに対して柔軟性を提供します。
• リザーブド インスタンスでは、長期的なコミットメントと引き換えに割引料金が提供されます。
• スポットインスタンスは、中断を許容できるワークロードに対して大幅なコスト削減を実現します。

隠れたコストは、積極的に管理しないと予算を膨らませる可能性があります。たとえば、クラウド プラットフォームからデータを移動するとデータ エグレス料金が発生することがあり、アイドル状態のリソースは使用されていなくても料金を支払う必要があります。チームは多くの場合、複数の試行を同時に実行しながらモデルのイテレーションを行うため、実験のオーバーヘッドが増加する可能性があります。これらの要因をモニタリングすることは、コスト効率の高い AI インフラストラクチャにとって不可欠です。

最適化戦略は、コストを抑制しながら効率を高めるのに役立ちます。これには次のものが含まれます。

• ライトサイジングにより、リソースがワークロードのニーズに確実に合致するようになります。
• 自動スケーリングは、需要の変化に応じて容量を自動的に調整します。
• 効率的なデータマネジメントにより、不要なストレージ コストと転送コストが削減されます。
• スポットインスタンスは、プロバイダーの余剰キャパシティを大幅な割引価格で使用することでコンピュート費用を削減しますが、プロバイダーがそのキャパシティを再度必要とした場合、短い通知で利用が中断される可能性があります。

AIインフラストラクチャのベストプラクティス

AIインフラストラクチャの計画と実装は大きな事業であり、細部が違いを生むことがあります。以下に留意すべきベストプラクティスをいくつか示します。

• 小さく始めて規模を拡大: 本格的な構築に投資する前にパイロットプロジェクトから始めることで、リスクを低減し、長期的な成功を確実にします。
• セキュリティとコンプライアンスの優先：データの保護は、信頼と法的コンプライアンスの両方にとって不可欠です。強力な暗号化を使用し、アクセス制御を徹底し、GDPRやHIPAAなどの規制とのコンプライアンスを統合します。
• パフォーマンスの監視: GPU使用率、トレーニング時間、推論レイテンシ、総コストなどの主要なメトリクスを追跡し、何が機能していて、どこに改善が必要かを把握します。
• スケーリングの計画：自動スケーリングポリシーとキャパシティプランニングを使用して、インフラストラクチャがワークロードの拡大に対応して成長できるようにします。
• ベンダーは賢く選びましょう: 価格がすべてではありません。特定のユースケースをどの程度サポートしているかに基づいて、インフラストラクチャ ベンダーを評価することが重要です。
• ドキュメントとガバナンスの維持: プロセスと結果を簡単に再現し、ワークフローを合理化できるように、エクスペリメント、構成、ワークフローの明確な記録を保持します。

一般的な課題とソリューション

影響の大きい他のプロジェクトと同様に、AI インフラストラクチャの構築には課題や障害が伴うことがあります。念頭に置くべきシナリオとしては、以下のようなものが挙げられます。

• ストレージの必要性を過小評価する。ストレージは AI 運用の鍵です。頻繁な再設計を行わなくても、拡大するデータセット、新しいワークロード、バージョン管理に対応できるように、5～10倍のデータ増加率を計画してください。
• GPU の非効率な利用: データのボトルネックは、料金を支払っているにもかかわらず、GPU がアイドル状態になったり、十分に活用されなかったりする原因となる可能性があります。これを防ぐには、データパイプラインを最適化し、効率的なバッチ処理を使用して、GPUが常に稼働している状態を確保します。
• コスト超過: 注意しないと、AI インフラストラクチャのコストは簡単に増大する可能性があります。モニタリングツールを導入し、可能な場合はスポットインスタンスを使用し、自動スケーリングを有効にして、リソースの使用量を需要に合わせて調整します。
• スキルギャップ：最も高度なAIインフラストラクチャであっても、AIの目標達成を支援する熟練した人材が必要です。社内トレーニングに投資し、マネージドサービスを活用し、必要に応じてコンサルタントを導入して専門知識のギャップを埋めます。
• 統合の複雑さ：新しいAIインフラストラクチャが、既存のシステムとうまく連携しない場合があります。十分に文書化されたAPIsから起動し、段階的なアプローチを使用して成功を積み重ねていきます。

まとめ

AIイニシアチブの成功は、AIの進歩とともに進化できるインフラストラクチャにかかっています。組織は、綿密なAIアーキテクチャ戦略とベストプラクティスを通じて、効率的なAI運用と継続的な改善をサポートできます。適切に設計された基盤によって、組織はイノベーションに集中し、AIの実験段階から実世界へのインパクト創出へと自信を持って移行できるようになります。

よくある質問

AIインフラストラクチャとは？
AIインフラストラクチャとは、AIワークロードをサポートするように設計された、ハードウェア、ソフトウェア、ネットワーク、ストレージシステムの組み合わせを指します。

AIにGPUは必要ですか？
GPUはAIのトレーニングや高性能な推論に不可欠ですが、基本的なAIや一部の小規模なモデルはCPUでも実行できます。

AIインフラストラクチャはクラウドかオンプレミスか？
柔軟性と迅速なスケーリングのためにはクラウドを、制御性と予測可能なワークロードのためにはオンプレミスを、そして両方が必要な場合はハイブリッドを選択します。

AIインフラストラクチャのコストはどのくらいですか？
コストは、コンピュートのニーズ、データサイズ、展開モデルによって異なります。コストは、小規模なクラウドワークロードの場合は数千ドルから、大規模なAIシステムの場合は数百万ドルに及ぶことがあります。

トレーニング インフラストラクチャと推論インフラストラクチャの違い
トレーニングでは大量のコンピュートとデータ スループットが要求されるのに対し、推論では安定したコンピュート、低レイテンシ、エンドユーザーのアクセシビリティが重視されます。

AI インフラストラクチャの構築にはどのくらいの時間がかかりますか？
AIインフラストラクチャは、プロジェクトの複雑さに応じて、実装に数週間から1年以上かかる場合があります。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事