O que é um Tensor Denso?
Um array multidimensional padrão que armazena todos os elementos na memória, proporcionando acesso sequencial rápido, mas consumindo uma quantidade significativa de armazenamento em grande escala.
Summary
- Armazena cada elemento explicitamente em blocos de memória contíguos, tornando-os eficientes para operações matriciais padrão, convoluções e algoritmos otimizados para padrões de acesso sequencial.
- Ideal para dados densos, como imagens, sinais de áudio e camadas de redes neurais totalmente conectadas, onde a maioria dos valores é diferente de zero e a computação envolve todos os elementos.
- Representação de tensores padrão em frameworks como TensorFlow, PyTorch e NumPy, aproveitando otimizações de hardware para operações de álgebra linear densa em CPUs, GPUs e TPUs.
Tensores densos armazenam valores em um bloco sequencial contíguo de memória onde todos os valores são representados. Tensores ou matrizes multidimensionais são usados em um conjunto diversificado de aplicações de análise de dados multidimensionais. Vários produtos de software podem executar cálculos de tensores, como a suíte MATLAB, que foi até aprimorada por diversas ferramentas de terceiros de código aberto. O MATLAB sozinho permite uma variedade de operações de tensor denso binário e de elemento. Uma camada densa é uma camada totalmente conectada, pois cada neurônio obtém uma entrada de todos os neurônios na camada anterior, sendo, portanto, densamente conectado. Isso significa que cada neurônio em uma camada densa estará totalmente conectado a cada neurônio na camada anterior. 
Geralmente, o tensor denso é usado no final de uma rede e, em alguns casos, várias vezes. Ao tentar construir uma infraestrutura em camadas para aplicações de tensor denso de alto desempenho, uma das bibliotecas mais usadas é o dten, conhecido por armazenar e manipular tensores densos. A biblioteca armazena tensores densos em formatos de armazenamento canônicos e converte entre formatos de armazenamento em paralelo. Além disso, é compatível com a matricização de tensores de diferentes maneiras. A biblioteca tem um propósito geral e oferece um alto grau de flexibilidade. Podemos considerar um tensor como a generalização multidimensional de uma matriz. Em termos matemáticos, é apenas uma reestruturação conceitual (ou lógica) do tensor.
