Revenir au contenu principal

Service de modèle de fondation Mosaic AI

Deux modalités d'achat

Pricing

Access and query state-of-the-art open foundation models and use them to quickly and easily build applications that leverage a high-quality generative AI model without maintaining your own model deployment.

Sélectionnez un plan

Aidez-moi à choisir

Sélectionnez un cloud

Select model

Select
Loading...

Prix des modèles de fondation à la demande

ModèlePrix pour 1 million de jetons d'ENTRÉE
(Tarif en vigueur dans la région États-Unis – Est)
Prix pour 1 million de jetons de SORTIE
(Tarif en vigueur dans la région États-Unis – Est)
DBU pour 1 millions de jetons, toutes régions confondues
DBRX2,25 $6,75 $32,143 (entrée)/96,429 (sortie)
LLaMa-2-70B2,00 $2,00 $28,571
Mixtral-8-7B1,50 $1,50 $21,429
MPT-30B1,00 $1,00 $14,286
LLaMa-2-13B0,95 $0,95 $13,571
MPT-7B0,50 $0,50 $7,143
BGE-L0,10 $0,10 $1,429

Modèles de fondation – Prix du throughput provisionné

ModèlePrix par unité et par heure1
(Tarif en vigueur dans la région États-Unis – Est)
DBU par heure, toutes régions confondues
DBRX14,85 $212,143
Modèles 70B11,00 $157,143
Modèles 30B7,84 $112,000
Modèles 13B5,50 $78,571
Mixtral 8 7B$20.36290,857
Modèles 7B1,40 $20,000

1 - Le nombre minimum d'unités et les configurations varient selon le cloud

Exemples de tarifs à la demande (par jeton)

ModèleJetons d'entréeJetons de sortieRégionService
Prix par DBU
Prix total
DBRX4 000 0001 000 000États-Unis – Est0,070 $15,75 $
LLaMa-2-70B4 000 0001 000 000États-Unis – Est0,070 $10,00 $
Mixtral-8-7B4 000 0001 000 000AP (Sydney)0,088 $9,43 $

Exemples de tarifs de throughput provisionné

Modèleheures par moisRégionService
Prix par DBU
Prix mensuel*
DBRX720États-Unis – Est0,070 $$10,692
LLaMa-2-70B720États-Unis – Est0,070 $$7,920
Mixtral-8-7B720AP (Sydney)0,088 $18 429 $

* Par bande de throughput

Throughput provisionné – Estimation de la capacité en jetons

ModèleNombre maximum de jetons par seconde pour des charges typiques, par bande de throughput
DBRX600
LLaMa-2-70B635
Mixtral-8-7B1 700
MPT-30B450
LLaMa-2-13B980
MPT-7B2 450

Pay as you go with a 14-day free trial or contact us for committed-use discounts or custom requirements.

FAQ de Mosaic AI Model Serving

Nos prix régionaux s'appuient sur le coût régional de l'infrastructure qui prend en charge nos produits serverless