Tags
第 15 頁
MLOps
dstack：AI 團隊不一定想管 Kubernetes，但一定會被 GPU 編排追上
AReaL：agentic RL 開始從研究腳本，長成可以接外部 agent 的訓練基礎設施
llm-d 想把 Kubernetes 變成 LLM 推理控制層，但別把它當輕量部署工具
RAGFlow：RAG 真正難的不是接向量庫，而是把文件變成可信上下文
kagent：把 AI Agent 放進 Kubernetes，不是比較潮，而是把責任邊界拉回平台層
BentoML：AI 模型真的要上線時，缺的常常不是推理框架，而是服務化那一層
NVIDIA Dynamo 值得現在看嗎？推理成本真正麻煩的不是模型跑不起來，而是多 GPU 叢集不會自己協調
Agno 值得現在看嗎？真正缺的不是又一個 agent，而是能被管理的 agent 平台
KServe：模型服務上線真正麻煩的不是包成 API，而是讓推理變成 Kubernetes 上的穩定平台
Ray：AI 規模化真正麻煩的不是多開幾台機器，而是把分散式工作變成可操作系統
1
2