Che cos'è il tensore denso?
Un array multidimensionale standard che memorizza tutti gli elementi nella memoria, fornendo un rapido accesso sequenziale ma consumando una quantità significativa di spazio di archiviazione su larga scala
Summary
- Memorizza ogni elemento in modo esplicito in blocchi di memoria contigui, rendendoli efficienti per operazioni di matrice standard, convoluzioni e algoritmi ottimizzati per modelli di accesso sequenziale.
- Adatto per dati densi come immagini, segnali audio e livelli di reti neurali completamente connessi, dove la maggior parte dei valori è diversa da zero e il calcolo coinvolge tutti gli elementi.
- Rappresentazione tensoriale predefinita in framework come TensorFlow, PyTorch e NumPy, sfruttando le ottimizzazioni hardware per operazioni di algebra lineare densa su CPU, GPU e TPU.
I tensori densi memorizzano i valori in un blocco di memoria sequenziale contiguo in cui sono rappresentati tutti i valori. I tensori o array multidimensionali sono utilizzati in un'ampia gamma di applicazioni di analisi dei dati multidimensionali. Esistono numerosi software in grado di eseguire calcoli tensoriali, come la suite MATLAB, che è stata ulteriormente migliorata da vari toolbox open-source di terze parti. MATLAB da sola è in grado di supportare una varietà di operazioni sui tensori densi. Uno strato denso è uno strato completamente connesso, in quanto ogni singolo neurone riceve un input da tutti i neuroni dello strato precedente, risultando quindi densamente connesso. Ciò significa che ogni neurone di uno strato denso sarà completamente connesso a ogni neurone dello strato precedente. 
Uno strato denso è solitamente utilizzato verso la fine di una rete, in alcuni casi più volte. Quando si vuole costruire un'infrastruttura stratificata per applicazioni di tensori densi ad alte prestazioni, una delle librerie più utilizzate è dten, nota per la sua capacità di memorizzare e manipolare tensori densi. La libreria si concentra sulla memorizzazione di tensori densi nei formati di memorizzazione canonici e sulla conversione tra formati di memorizzazione in parallelo. Inoltre, supporta diverse modalità di matricizzazione dei tensori, è di uso generico e offre un elevato grado di flessibilità. Possiamo considerare un tensore come la generalizzazione multidimensionale di una matrice. Dal punto di vista matematico, la matricizzazione è solo una ristrutturazione concettuale (o logica) del tensore.
