メインコンテンツへジャンプ
リンデン・リー

リンデン・リー

リンデン・リー's posts

Abstract representation of LLM Inference token generation pipeline

Mosaic Research

2024年3月20日/1分未満

高速、安全、高信頼性：エンタープライズグレードのLLM推論

mixtral_social

プラットフォーム

2023年12月21日/1分未満

Mixtral 8x7B と Databricks モデルサーヴィングのご紹介

Integrating NVIDIA TensorRT-LLM with the Databricks Inference Stack

Mosaic Research

2023年12月21日/1分未満

NVIDIA TensorRT-LLMとDatabricks推論スタックを統合する

LLM Inference Performance Engineering: Best Practices

Mosaic Research

2023年10月12日/2分で読めます

LLM推論パフォーマンスエンジニアリング：ベストプラクティス