Como Superhuman e Databricks criaram juntas uma plataforma de inferência com 200 mil QPS

Engenheiros da Superhuman e Databricks compartilham como migraram conjuntamente cargas de trabalho de correção ortográfica e gramatical para a Plataforma de Serving de Modelos da Databricks, servindo mais de 200k QPS, com ganhos de throughput de 60% e...