Tags
第 12 頁
MLOps
RAGFlow：RAG 真正難的不是接向量庫，而是把文件變成可信上下文
kagent：把 AI Agent 放進 Kubernetes，不是比較潮，而是把責任邊界拉回平台層
BentoML：AI 模型真的要上線時，缺的常常不是推理框架，而是服務化那一層
NVIDIA Dynamo 值得現在看嗎？推理成本真正麻煩的不是模型跑不起來，而是多 GPU 叢集不會自己協調
Agno 值得現在看嗎？真正缺的不是又一個 agent，而是能被管理的 agent 平台
KServe：模型服務上線真正麻煩的不是包成 API，而是讓推理變成 Kubernetes 上的穩定平台
Ray：AI 規模化真正麻煩的不是多開幾台機器，而是把分散式工作變成可操作系統
MLflow：AI 團隊真正缺的常常不是模型，而是能追蹤、評估、交付的生命週期
vLLM：開源模型上線真正難的，不是跑出第一個 token，而是把吞吐、延遲和成本一起撐住
SkyPilot 把 AI 團隊最容易失控的算力調度，拉回同一個控制面
1
2