Qu'est-ce qu'un tenseur dense ?
Un tableau multidimensionnel standard stockant tous les éléments en mémoire, offrant un accès séquentiel rapide mais consommant un espace de stockage important à grande échelle.
Summary
- Stocke chaque élément explicitement dans des blocs de mémoire contigus, ce qui les rend efficaces pour les opérations matricielles standard, les convolutions et les algorithmes optimisés pour les accès séquentiels.
- Particulièrement adapté aux données denses telles que les images, les signaux audio et les couches de réseaux neuronaux entièrement connectées, où la plupart des valeurs sont non nulles et où les calculs impliquent tous les éléments.
- Représentation tensorielle par défaut dans des frameworks comme TensorFlow, PyTorch et NumPy, tirant parti des optimisations matérielles pour les opérations d'algèbre linéaire dense sur CPU, GPU et TPU.
Les dense tensors stockent des valeurs dans des blocs de mémoire séquentiels et contigus où toutes les valeurs sont représentées. Les tensors, ou tableaux multidimensionnels, sont employés dans un large éventail d'applications d'analyse de données multidimensionnelles. Différents produits logiciels sont capables d'effectuer des calculs de tensors, comme la suite MATLAB, qui s'est même enrichie de diverses boîtes à outils open source tierces. À elle seule, la suite MATLAB prend en charge différentes opérations de dense tensors binaires et élémentaires. Une couche dense est une couche entièrement connectée : chaque neurone reçoit une entrée de tous les neurones de la couche précédente – il est donc densément connecté. Par conséquent, chaque neurone d'une couche dense sera entièrement connecté à chaque neurone de la couche précédente. 
Cette densité est généralement utilisée vers la fin d'un réseau, et elle peut l'être plusieurs fois. Lorsqu'une infrastructure multicouches est créée pour des applications de dense tensors haute performance, la bibliothèque dten est fréquemment utilisée. Elle est réputée pour le stockage et la manipulation des dense tensors. Cette bibliothèque vise à stocker les dense tensors dans des formats de stockage canoniques et à convertir en parallèle plusieurs formats de stockage. Elle prend également en charge la matricisation des tensors de plusieurs manières. Cette bibliothèque est d'usage général et fournit un haut degré de flexibilité. Un tensor peut être envisagé comme la généralisation multidimensionnelle d'une matrice. Sur le plan mathématique, la matricisation correspond à la restructuration conceptuelle (ou logique) du tensor.
