Wie Superhuman und Databricks gemeinsam eine Inferenzplattform mit 200.000 QPS aufgebaut haben

Ingenieure von Superhuman und Databricks berichten, wie sie gemeinsam Rechtschreib- und Grammatikkorrektur-Workloads auf die Databricks Model Serving Platform migriert haben, die über 200.000 QPS mit 60% Durchsatzsteigerung und Latenzen unter einer...