标签:本地与开源

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

ai-tools-hub

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

· AI工具 · 约 3 分钟

Phi 个人版、团队版还是 API?一张决策表

Phi 小模型方案选择:微软的小参数语言模型系列。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Gemma、Qwen 小模型等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

SGLang 用前用后:3 组示意对比

SGLang 前后对比示例:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。功能与价格以官方为准。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

让 SWIFT 自动跑起来:接入流程与风控

ms-swift 自动化接入:魔搭社区的开源大模型训练与部署框架。本文给出具体步骤、示例提示词与检查要点。功能与价格以官方为准。同类可对比 LLaMA-Factory、Unsloth 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

LLaMA-Factory 术语速查:看懂设置和文档的关键词

LLaMA-Factory 术语速查:支持多种模型的一站式开源微调框架。本文给出具体步骤、示例提示词与检查要点。不夸大效果,只讲可验证的方法。同类可对比 Unsloth、Axolotl 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Mistral 开源模型相关术语解释(新手向)

Mistral 开源模型术语速查:Mistral AI 以开放许可发布的模型。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 Llama、Qwen 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

SGLang 高效用法 8 条

SGLang 进阶技巧:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

想自己掌控数据?DeepSeek 开源权重的自托管思路

DeepSeek 开源权重自托管与开源路线:深度求索公开权重的 V 系列与 R 系列模型。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Qwen、Llama 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

给 LLaMA-Factory 的结果打分:可复用的评估表

LLaMA-Factory 产出评分表:支持多种模型的一站式开源微调框架。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 Unsloth、Axolotl 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

MLC LLM 用前用后:3 组示意对比

MLC LLM 前后对比示例:把大模型编译部署到手机、浏览器等设备的开源项目。本文给出具体步骤、示例提示词与检查要点。功能与价格以官方为准。同类可对比 llama.cpp、MLX 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

给软件工程师的 KTransformers 上手指南:步骤、提示词与注意事项

面向软件工程师介绍 KTransformers 的用法:围绕代码阅读与重构、测试与排错等任务给出步骤和示例提示词,并说明使用边界。不夸大效果,只讲可验证的方法。同类可对比 llama.cpp、vLLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →