MLC LLM 在医疗机构行政人员工作中的实用玩法与边界
面向医疗机构行政人员介绍 MLC LLM 的用法：围绕文书整理、患者沟通材料等任务给出步骤和示例提示词，并说明使用边界。附带可直接复制修改的提示词。同类可对比 llama.cpp、MLX 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →标签：本地与开源
本地与开源合集：共 1095 篇，涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。
ai-tools-hub
本地与开源合集：共 1095 篇，涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。
从零到一：用 ms-swift 做出第一份成果
ms-swift 第一个小项目：魔搭社区的开源大模型训练与部署框架。本文给出具体步骤、示例提示词与检查要点。不夸大效果，只讲可验证的方法。同类可对比 LLaMA-Factory、Unsloth 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →让 LMDeploy 自动跑起来：接入流程与风控
LMDeploy 自动化接入：上海人工智能实验室开源的模型压缩与部署工具。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 vLLM、SGLang 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →Mistral 开源新手第一练：一个可交付的小任务
Mistral 开源模型第一个小项目：Mistral AI 以开放许可发布的模型。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 Llama、Qwen 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →KTransformers 自动化接入思路：触发、处理与人工审核
KTransformers 自动化接入：面向 CPU/GPU 异构推理大模型的开源框架。本文给出具体步骤、示例提示词与检查要点。强调人工核对与数据安全。同类可对比 llama.cpp、vLLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →一周练会 ms-swift 的日程表
ms-swift7 天上手计划：魔搭社区的开源大模型训练与部署框架。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 LLaMA-Factory、Unsloth 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →7 天上手 KoboldCpp：每天一个小目标
KoboldCpp7 天上手计划：基于 llama.cpp 的一体化本地运行工具，常用于写作与角色扮演。本文给出具体步骤、示例提示词与检查要点。不夸大效果，只讲可验证的方法。同类可对比 Ollama、text-generation-webui 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →llamafile 的 10 种用法与适用边界
llamafile 使用场景合集：把模型和运行时打包成单个可执行文件的开源项目。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 Ollama、llama.cpp 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →把 KoboldCpp 放进工作流：搭配工具与交接要点
KoboldCpp 组合工作流：基于 llama.cpp 的一体化本地运行工具，常用于写作与角色扮演。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 Ollama、text-generation-webui 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →DeepSeek 开源权重进阶技巧：用熟之后还能怎么提效
DeepSeek 开源权重进阶技巧：深度求索公开权重的 V 系列与 R 系列模型。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Qwen、Llama 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →LMDeploy 与自托管：数据不出域时怎么选
LMDeploy 自托管与开源路线：上海人工智能实验室开源的模型压缩与部署工具。本文给出具体步骤、示例提示词与检查要点。不夸大效果，只讲可验证的方法。同类可对比 vLLM、SGLang 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →选 KoboldCpp 方案前先回答这 5 个问题
KoboldCpp 方案选择：基于 llama.cpp 的一体化本地运行工具，常用于写作与角色扮演。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 Ollama、text-generation-webui 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。
阅读全文 →