によって Databricks Staff による投稿
AIの導入が加速するにつれて、組織はAIの取り組みをサポートできるシステムを導入する必要に迫られています。これらの専門的なシステムを導入するには、AIのパフォーマンスを確保するための高度な専門知識と戦略的な準備が 必要です。
AIインフラストラクチャとは、AIおよび機械学習 (ML) のワークロードをサポートするように設計された、ハードウェア、ソフトウェア、ネットワーク、ストレージシステムの組み合わせを指します。汎用コンピューティング向けに構築された従来のITインフラストラクチャには、AIワークロードに必要な膨大な処理能力に対応する容量がありません。AIインフラストラクチャは、大量のデータスループット、並列処理、およびグラフィックス プロセッシング ユニット (GPU) などのアクセラレータに対するAIのニーズをサポートします。
例えば、チャットボットChatGPTのような規模のシステムには、数千もの相互接続されたGPU、高帯域幅ネットワーク、緊密に調整されたオーケストレーションソフトウェアが必要ですが、一般的なWebアプリケーションは、少数のCPU（コンピュータ処理装置）と標準的なクラウドサービスで実行できます。AIの力を活用しようとしている企業にとって、AIインフラストラクチャは不可欠です。
AIインフラストラクチャの主要コンポーネントは、連携してAIワークロードを可能にします。
コンピューティングは、命令を実行するさまざまな種類のチップによって成り立っています：
CPU は汎用プロセッサです。
GPU は、コンピュータ グラフィックス、画像、動画の作成とレンダリングを高速化するために開発された専用のプロセッサです。GPU は、大規模な並列処理能力を使用して ニューラル ネットワーク が一度に膨大な数の演算を実行できるようにし、複雑な計算を高速化します。GPU は、従来の CPU よりもはるかに高速に AI モデルのトレーニングと実行を行えるため、AI と機械学習のワークロードにとって不可欠です。
GPU は、単一の特定の目的のために設計された特定用途向け集積回路（ASIC）です。NVIDIA は GPU の圧倒的なプロバイダであり、Advanced Micro Devices が第 2 の主要な GPU メーカーです。
TPU (テンソル プロセッシング ユニット) は、Googleが開発したASICです。TPUはGPUよりも専門性が高く、AIの計算需要に対応するように特別に設計されています。TPUは、ニューラルネットワークがパターンを学習して予測を行うために使用するテンソル演算専用に設計されています。これらの演算はディープラーニングアルゴリズムの基本です。
実際には、CPU は汎用タスクに最適です。GPU は、ディープラーニング モデルのトレーニングなど、並列処理を必要とするさまざまな AI アプリケーションに使用できます。TPU は、特に大量のデータを使用する場合に、大規模で複雑なニューラル ネットワークをトレーニングするなど、特化したタスクに最適化されています。
AI インフラストラクチャのストレージとデータマネジメントは、データのボトルネックを防いで効率を確保するために、大規模なデータセットへの超高 throughput のアクセスをサポートする必要があります。
オブジェクトストレージはAIで最も一般的に使用されるストレージ媒体で、AIシステムに必要な大量の構造化データや非構造化データを保持することができます。また、スケーラビリティに優れ、費用対効果も高いです。
ブロックストレージは、高速で効率的、かつ信頼性の高いアクセスを提供しますが、より高価です。データベース、仮想マシン、高パフォーマンスアプリケーションなどのワークロード向けに、頻繁に取得する必要があるトランザクションデータや小さなファイルに最適です。
多くの組織はデータレイクを利用しています。これは、オブジェクトストレージとオープンフォーマットを使用して大量のデータを保存する一元化されたリポジトリです。データレイクは、画像、動画、音声、ドキュメントなどの非構造化データや半構造化データを含む、すべてのデータ型を処理できます。これはAIのユースケースにとって重要です。
堅牢なネットワーキングはAIインフラストラクチャの中核をなす部分です。ネットワークは、ストレージとコンピュートの間でAIに必要な巨大なデータセットを迅速かつ効率的に移動させ、データボトルネックによるAIワークフローの中断を防ぎます。複数のGPUが単一のモデルで連携して動作する分散トレーニングや、トレーニング済みのAIモデルが新しいデータから結論を導き出すプロセスであるリアルタイム推論には、低レイテンシの接続が必要です。高性能インターコネクト規格であるInfiniBandや高帯域幅イーサネットなどのテクノロジーは、効率的でスケーラブルかつ信頼性の高いAIのための高速接続を促進します 。
ソフトウェアもAIインフラストラクチャの鍵となります。TensorFlowやPyTorchなどの機械学習フレームワークは、事前に構築されたコンポーネントと構造を提供し、機械学習モデルの構築、トレーニング、デプロイのプロセスを簡素化および高速化します。Kubernetes などのオーケストレーションプラットフォームは、AI モデル、データパイプライン、計算リソースを調整・管理し、統一されたシステムとして連携させます。
組織はまた、機械学習、DevOps、 データ エンジニアリング を組み合わせた一連のプラクティスである MLOps を使用して、機械学習ライフサイクル全体のワークフローとデプロイを自動化および簡素化します。MLOpsプラットフォームは、AI開発とデプロイの背後にあるワークフローを効率化し、組織が新しいAI対応の製品やサービスを市場に投入するのを支援します。
AIインフラストラクチャは、クラウド上で、オンプレミス、またはハイブリッドモデルでデプロイでき、それぞれのオプションに異なるメリットがあります。意思決定者は、組織のAI目標、ワークロードのパターン、予算、コンプライアンス要件、既存のインフラストラクチャなど、さまざまな要因を考慮する必要があります。
AIワークロードは多種多様で、コンピュート、ストレージ、ネットワーキングにそれぞれ異なる要求を課します。そのため、その特性とニーズを理解することが、適切なインフラストラクチャを選択する上で重要です。
AIインフラストラクチャの構築には、綿密な評価、注意深い計画、効果的な実行という慎重なプロセスが必要です。以下に、実 行すべき重要なステップを示します。
AIインフラストラクチャを運用する上で継続的なコストは主要な要因であり、その範囲は小規模プロジェクトで月額約5,000ドルから、エンタープライズシステムでは月額100,000ドル以上に及びます。しかし、AIプロジェクトはそれぞれ固有のものであり、現実的な予算を見積もるには、多くの要因を考慮する必要があります。
コンピュート、ストレージ、ネットワーキング、マネージドサービスの費用は、予算を計画する上で重要な要素です。これらの中で、コンピュート (特にGPU時間) が通常、最大の支出を占めます。ストレージとデータ転送のコストは、データセットのサイズとモデルのワークロードに応じて変動する可能性があります。
検討すべきもう1つの分野は、クラウドサービスのコストです。クラウドの価格モデルはさまざまで、ニーズに応じて異なるメリットを提供します。オプションは次のとおりです。
隠れたコストは、積極的に管理しないと予算を膨らませる可能性があります。たとえば、クラウド プラットフォームからデータを移動するとデータ エグレス料金が発生することがあり、アイドル状態のリソースは使用されていなくても料金を支払う必要があります。チームは多くの場合、複数の試行を同時に実行しながらモデルのイテレーションを行うため、実験のオーバーヘッドが増加する可能性があります。これらの要因をモニタリングすることは、コスト効率の高い AI インフラストラクチャにとって不可欠です。
最適化戦略は、コストを抑制しながら効率を高めるのに役立ちます。これには次のものが含まれます。
AIインフラストラクチャの計画と実装は大きな事業であり、細部が違いを生むことがあります。以下に留意すべきベストプラクティスをいくつか示します。
影響の大きい他のプロジェクトと同様に、AI インフラストラクチャの構築には課題や障害が伴うことがあります。念頭に置くべきシナリオとしては、以下のようなものが挙げられます。
AIイニシアチブの成功は、AIの進歩とともに進化できるインフラストラクチャにかかっています。組織は、綿密なAIアーキテクチャ戦略とベストプラクティスを通じて、効率的なAI運用と継続的な改善をサポートできます。適切に設計された基盤によって、組織はイノベーションに集中し、AIの実験段階から実世界へのインパクト創出へと自信を持って移行できるようになります。
AIインフラストラクチャとは？
AIインフラストラクチャとは、AIワークロードをサポートするように設計された、ハードウェア、ソフトウェア、ネットワーク、ストレージシステムの組み合わせを指します。
AIにGPUは必要ですか？
GPUはAIのトレーニングや高 性能な推論に不可欠ですが、基本的なAIや一部の小規模なモデルはCPUでも実行できます。
AIインフラストラクチャはクラウドかオンプレミスか？
柔軟性と迅速なスケーリングのためにはクラウドを、制御性と予測可能なワークロードのためにはオンプレミスを、そして両方が必要な場合はハイブリッドを選択します。
AIインフラストラクチャのコストはどのくらいですか？
コストは、コンピュートのニーズ、データサイズ、展開モデルによって異なります。コストは、小規模なクラウドワークロードの場合は数千ドルから、大規模なAIシステムの場合は数百万ドルに及ぶことがあります。
トレーニング インフラストラクチャと推論インフラストラクチャの違い
トレーニングでは大量のコンピュートとデータ スループットが要求されるのに対し、推論では安定したコンピュート、低レイテンシ、エンドユーザーのアクセシビリティが重視されます。
AI インフラストラクチャの構築にはどのくらいの時間がかかりますか？
AIインフラストラクチャは、プロジェクトの複雑さに応じて、実装に数週間から1年以上かかる場合があります。
(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事
ブログを購読して、最新の投稿を受信トレイにお届けします。