Was ist ein dichter Tensor?
Ein standardmäßiges mehrdimensionales Array, das alle Elemente im Speicher ablegt und so einen schnellen sequenziellen Zugriff ermöglicht, aber bei großen Datenmengen erheblichen Speicherplatz benötigt.
Summary
- Speichert jedes Element explizit in zusammenhängenden Speicherblöcken und ist daher effizient für Standard-Matrixoperationen, Faltungen und Algorithmen, die für sequentielle Zugriffsmuster optimiert sind.
- Ideal für dichte Daten wie Bilder, Audiosignale und vollständig vernetzte neuronale Netzwerkschichten, bei denen die meisten Werte ungleich null sind und die Berechnung alle Elemente umfasst.
- Standard-Tensordarstellung in Frameworks wie TensorFlow, PyTorch und NumPy, die Hardwareoptimierungen für dichte lineare Algebraoperationen auf CPUs, GPUs und TPUs nutzt.
Dense Tensors speichern Werte in einem zusammenhängenden sequentiellen Speicherblock, in dem alle Werte dargestellt werden. Tensors oder mehrdimensionale Arrays werden in einer Vielzahl mehrdimensionaler Datenanalyseanwendungen verwendet. Es gibt eine Reihe von Softwareprodukten, die Tensorberechnungen durchführen können, beispielsweise die MATLAB-Suite, die sogar um verschiedene Open-Source-Toolboxen von Drittanbietern erweitert wurde. MATLAB allein ist in der Lage, eine Vielzahl elementweiser und binärer Dense-Tensor-Operationen zu unterstützen. Eine Dense Layer ist eine vollständig verbundene Schicht, da jedes einzelne Neuron Eingaben von allen Neuronen in der vorherigen Schicht erhält und somit dicht verbunden ist. Das bedeutet, dass jedes Neuron in einer Dense Layer vollständig mit jedem Neuron in der vorherigen Schicht verbunden ist. 
Dense wird normalerweise am Ende eines Netzwerks und manchmal mehrmals verwendet. Beim Versuch, eine mehrschichtige Infrastruktur für hochleistungsfähige Dense-Tensor-Anwendungen zu entwickeln, ist dten eine der am häufigsten für die Speicherung und Bearbeitung von Dense Tensors verwendeten Bibliotheken. Die Bibliothek konzentriert sich auf die Speicherung von Dense Tensors in kanonischen Speicherformaten und die parallele Konvertierung zwischen Speicherformaten. Darüber hinaus unterstützt sie die Tensor-Matrizierung auf unterschiedliche Weise. Die Bibliothek ist universell einsetzbar und bietet ein hohes Maß an Flexibilität. Wir können einen Tensor als die mehrdimensionale Verallgemeinerung einer Matrix betrachten. Mathematisch gesehen ist die Matrizierung lediglich eine konzeptionelle (oder logische) Umstrukturierung des Tensors.
