Tags

第 3 頁

Model Serving

BentoML：AI 模型真的要上線時，缺的常常不是推理框架，而是服務化那一層

KServe：模型服務上線真正麻煩的不是包成 API，而是讓推理變成 Kubernetes 上的穩定平台

BentoML 正在補上 AI 團隊最容易低估的交付層