Serving di modelli di base
Offri modelli di base aperti all'avanguardia per carichi di lavoro di inferenza in tempo reale e in batch. Potrai così creare rapidamente e facilmente applicazioni che sfruttano un modello di AI generativa di alta qualità senza dover gestire personalmente la distribuzione del modello.
* I prezzi visualizzati non garantiscono la disponibilità del prodotto in quella regione. Per informazioni sulla disponibilità del prodotto, vedere qui: AWS, Azure, GCP, SAP
1. Azure Databricks, in qualità di servizio di prima parte su Microsoft Azure, offre fatturazione e supporto unificati da parte di Microsoft
Il livello Premium su Azure Databricks corrisponde al livello Enterprise su AWS e GCP
2. La tariffazione oraria viene addebitata con incrementi di un minuto
3. Il throughput in una singola unità di capacità PT varia in base al modello e alla forma della query (token di input e di output). Utilizza il GenAI Calculator per stimare il throughput specifico per il carico di lavoro e il costo totale
Tariffe DBU per Foundation Model Serving
| Modello | Pay-per-token | Throughput fornito | ||
|---|---|---|---|---|
| DBU / M token di input | DBU / M token di output | DBU / ora (capacità di ingresso) | DBU / ora (capacità di scalabilità) | |
| Llama 4 Maverick | 7.143 | 21.429 | 85.714 | 85.714 |
| Llama 3.3 70B | 7.143 | 21.429 | 85.714 | 342.857 |
| Qwen 3 Next 80B | 2.143 | 17.143 | 78.571 | 78.571 |
| Qwen 3.5 122B | 3.143 | 31.429 | 85.714 | 85.714 |
| GPT OSS 120B | 2.143 | 8.571 | 71.429 | 71.429 |
| Gemma 3 12B | 2.143 | 7.143 | 71.429 | 71.429 |
| Llama 3.1 8B | 2.143 | 6.429 | 53.571 | 106.000 |
| GPT OSS 20B | 1.000 | 4.286 | 53.571 | 53.571 |
| Llama 3.2 3B | n/a | n/a | 46.429 | 92.857 |
| Llama 3.2 1B | n/a | n/a | 42.857 | 85.714 |
| Embedding Qwen 3 0.6B | 0.286 | n/a | 25.000 | 25.000 |
| GTE | 1.857 | n/a | 20.000 | 20.000 |
| BGE Large | 1.429 | n/a | 24.000 | 24.000 |
1: La capacità di ingresso è la piccola unità di capacità PT a basso costo, progettata per fornire ai clienti un punto di partenza più accessibile. Questi forniscono un throughput proporzionalmente ridotto rispetto alla capacità di scalabilità. Questi sono disponibili solo in Azure e AWS per le aree geografiche di Stati Uniti, Canada e Brasile e solo per i modelli di base (non sottoposti a fine-tuning).
2: La capacità di scaling è l'incremento di capacità PT standard che può essere fornito per un modello. Oltre alla capacità di base (disponibile in cloud e regioni selezionate), la capacità del throughput di cui è stato effettuato il provisioning aumenta e diminuisce in incrementi di queste unità di capacità di scalabilità. Nei cloud/regioni in cui la capacità di base non è disponibile, l'incremento minimo di acquisto PT è l'intera unità di capacità di scalabilità.
Pagamento a consumo con prova gratuita di 14 giorni oppure contattaci per sconti sui livelli di utilizzo garantiti o requisiti personalizzati.