发布时间: 2026-07-06
面向要做私有化 / 离线部署的同学,9 讲 HTML 交互课件 + 74 页 PDF 完整版。把本地跑大模型的关键环节讲透:从 Ollama、vLLM 高并发到量化加速、显存优化、气隙安全部署与端侧推理。 【适合谁】 做企业私有化、数据不能出内网、需要本地化 LLM 服务的开发者;关注吞吐、显存、成本的工程师。 【你能拿到什么】 9 讲部署体系:Ollama 深度实践与企业级部署、vL