密テンソルとは何ですか?

すべての要素をメモリに格納する標準的な多次元配列。高速なシーケンシャルアクセスを提供しますが、大規模になると大量のストレージを消費します。

Summary

すべての要素を連続したメモリブロックに明示的に格納するため、標準的な行列演算、畳み込み、シーケンシャルアクセスパターンに最適化されたアルゴリズムに効率的に使用できます。
画像、音声信号、全結合ニューラルネットワーク層など、ほとんどの値が非ゼロで、すべての要素が計算対象となる高密度データに適しています。
TensorFlow、PyTorch、NumPyなどのフレームワークのデフォルトのテンソル表現。CPU、GPU、TPUにおける高密度線形代数演算のハードウェア最適化を活用します。

高密度テンソルとは、すべての要素を省略せず、連続したメモリ領域に格納する多次元データ構造です。テンソルまたは多次元配列は、多様な多次元データ分析アプリケーションで使用されます。さまざまなオープンソースのサードパーティツールボックスによって拡張された MATLAB suite など、テンソル計算を実行できるソフトウェア製品は数多くあります。MATLAB 単体でも、さまざまな要素ごとおよびバイナリの密なテンソル演算をサポートしています。各ニューロンが前の層の全てニューロンからの入力を受け取り、高密度で接続されているため、全結合層は完全に接続された層です。これは、全結合層内の全てのニューロンが前の層の全てのニューロンに完全に接続されることを意味します。高密�度テンソル層全結合は通常、ネットワークの終端に向かって使用され、時おり複数回使用されます。高性能の高密度テンソルアプリケーション用の階層型インフラストラクチャを構築しようとする際、高密度テンソルを扱うライブラリの一例として dten があります。ライブラリは、高密度テンソルを標準ストレージ形式で保存することと、ストレージ形式を並列に変換することに焦点を当てています。さらに、ライブラリはさまざまな方法でテンソルの行列化をサポートしています。ライブラリは汎用的で、高度な柔軟性を提供します。テンソルは、行列の多次元一般化とみなすこともできます。数学的には、行列化はテンソルの概念的な（または論理的な）再構成に過ぎません。