Passa al contenuto principale

Serving del modello di base Mosaic AI

Due modalità di acquisto

Pricing

Access and query state-of-the-art open foundation models and use them to quickly and easily build applications that leverage a high-quality generative AI model without maintaining your own model deployment.

Seleziona un piano

aiutami a scegliere

Seleziona un cloud

Select model

Select
Loading...

Prezzi modelli di base on-demand

ModelloPrezzo / 1 milione di token di INPUT
(Prezzo effettivo per gli Stati Uniti orientali)
Prezzo / 1 milione di token di OUTPUT
(Prezzo effettivo per gli Stati Uniti orientali)
DBU / 1 milione di token per tutte le regioni
DBRX$2,25$6,7532,143 (input) / 96,429 (output)
LLaMa-2-70B$2,00$2,0028,571
Mixtral-8-7B$1,50$1,5021,429
MPT-30B$1,00$1,0014,286
LLaMa-2-13B$0,95$0,9513,571
MPT-7B$0,50$0,507,143
BGE-L$0,10$0,101,429

Prezzi modelli di base con throughput fornito

ModelloPrezzo/unità/ora1
(Prezzo effettivo per gli Stati Uniti orientali)
DBU/ora per tutte le regioni
DBRX$14,85212,143
Modelli 70B$11,00157,143
Modelli 30B$7,84112,000
Modelli 13B$5,5078,571
Mixtral 8 7B$20.36290,857
Modelli 7B$1,4020,000

1 - Unità minime e configurazioni variano in base al cloud

Esempi di prezzi on-demand (per token)

ModelloToken di inputToken di outputRegionePrezzo
serving/DBU
Prezzo totale
DBRX4.000.0001.000.000USA Est$0,070$15,75
LLaMa-2-70B4.000.0001.000.000USA Est$0,070$10,00
Mixtral-8-7B4.000.0001.000.000AP (Sydney)$0,088$9,43

Esempi di prezzi per throughput fornito

Modelloore/meseRegionePrezzo
serving/DBU
Prezzo mensile*
DBRX720USA Est$0,070$10,692
LLaMa-2-70B720USA Est$0,070$7,920
Mixtral-8-7B720AP (Sydney)$0,088$18.429

* Per banda di throughput

Capacità di token stimata per throughput fornito

ModelloNumero massimo di token/sec per carichi di lavoro tipici per banda di throughput
DBRX600
LLaMa-2-70B635
Mixtral-8-7B1.700
MPT-30B450
LLaMa-2-13B980
MPT-7B2.450

Pay as you go with a 14-day free trial or contact us for committed-use discounts or custom requirements.

Domande frequenti su Mosaic AI Model Serving

I nostri prezzi variano perché si basano sui costi locali del'infrastruttura che supporta i nostri prodotti serverless.