用 Ollama 在本地运行大模型:从安装到接入应用的入门教程
Ollama 让在个人电脑上运行开源大模型变得像安装普通软件一样简单。本文介绍 Ollama 的安装与基本使用、如何根据内存选择合适的模型和量化版本、通过 API 接入自己的应用,以及本地部署在隐私、成本和性能上的真实取舍。
阅读全文 →共 5 篇关于「开源模型」的文章。
Ollama 让在个人电脑上运行开源大模型变得像安装普通软件一样简单。本文介绍 Ollama 的安装与基本使用、如何根据内存选择合适的模型和量化版本、通过 API 接入自己的应用,以及本地部署在隐私、成本和性能上的真实取舍。
阅读全文 →国内外开源大模型层出不穷,哪一个最适合你的中文业务?本文不罗列排行榜,而是给出一套可复用的选型方法:从中文能力、任务匹配、模型规模、许可证、生态与长期维护等维度筛选候选,再用自己的业务数据进行对比测试。
阅读全文 →很多被称为“开源”的大模型只开放了权重文件,训练数据、训练代码和完整的训练过程并未公开,许可证也常有附加限制。本文梳理大模型开放程度的几个层次,解释为什么这种区别对可复现性、安全研究和商业使用都很重要。
阅读全文 →LoRA 是目前最常用的参数高效微调方法,让普通团队用单张消费级或中端 GPU 就能定制开源大模型。本文解释 LoRA 的核心思想、关键超参数如何设置、与 QLoRA 的区别,以及数据准备、训练和效果评估中的常见坑。
阅读全文 →开源大模型的许可证五花八门,有的完全宽松,有的限制用户规模、禁止特定用途或要求衍生模型沿用名称。本文梳理常见许可证类型和关键条款,说明商用前需要核查的事项,帮助企业避免在模型选型时埋下法律隐患。
阅读全文 →