Tags
第 17 頁
AI Infrastructure
Agentic AI 的真正門檻，不是模型，而是你有沒有把它當成正式工作負載
AI Agent 的下一個分水嶺，不是模型多聰明，而是停機時誰負責
BentoML：AI 模型真的要上線時，缺的常常不是推理框架，而是服務化那一層
Chroma：RAG 不是把向量存起來就好，真正要補的是 AI search infrastructure
KServe：模型服務上線真正麻煩的不是包成 API，而是讓推理變成 Kubernetes 上的穩定平台
Ray：AI 規模化真正麻煩的不是多開幾台機器，而是把分散式工作變成可操作系統
Weaviate：RAG 上線後你才會發現，向量搜尋其實是資料平台問題
1
2