相信大家本地部署大模型都使用过 Ollama 工具,推荐一门开源免费的《动手学 Ollama》教程。
这是一门从零开始学习 Ollama 的实用教程,并通过实际应用案例深入理解,掌握大模型部署以及应用技术。
GitHub: https:// 网页链接
主要教程内容有:
- 全面的安装指南,包括 macOS、Windows、Linux 和 Docker 环境下的配置;
- 自定义导入模型教程,包括从 GGUF、Pytorch 或 Safetensors 导入;
- 多语言 API 接入指南,支持 Python、Java、JavaScript、C++ 等;
- LangChain 集成教程,实现更复杂的模型应用开发;
- 丰富的应用案例,如本地 RAG 应用、AI 编程助手、Agent 应用等。
无论是刚刚接触大模型部署的小白,还是有一定经验的开发者,都适合学习。