标签:本地与开源

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

ai-tools-hub

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

· AI工具 · 约 3 分钟

SGLang 可复制模板:拿来就能改的提示词与结构

SGLang 可复制模板:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

KTransformers 的开源与私有化路线

KTransformers 自托管与开源路线:面向 CPU/GPU 异构推理大模型的开源框架。本文给出具体步骤、示例提示词与检查要点。功能与价格以官方为准。同类可对比 llama.cpp、vLLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

从同类工具换到 PaddleOCR:迁移步骤清单

PaddleOCR 迁移指南:百度飞桨开源的 OCR 工具库,中文识别常用。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 Tesseract、EasyOCR 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Gemma 在医疗机构行政人员工作中的实用玩法与边界

面向医疗机构行政人员介绍 Gemma 的用法:围绕文书整理、患者沟通材料等任务给出步骤和示例提示词,并说明使用边界。强调人工核对与数据安全。同类可对比 Phi、Qwen 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

想自己掌控数据?SGLang 的自托管思路

SGLang 自托管与开源路线:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

llamafile 的开源与私有化路线

llamafile 自托管与开源路线:把模型和运行时打包成单个可执行文件的开源项目。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 Ollama、llama.cpp 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

从同类工具换到 LLaMA-Factory:迁移步骤清单

LLaMA-Factory 迁移指南:支持多种模型的一站式开源微调框架。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Unsloth、Axolotl 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Axolotl 与自托管:数据不出域时怎么选

Axolotl 自托管与开源路线:用配置文件驱动的开源微调工具。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 LLaMA-Factory、Unsloth 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

迁移到 Argilla 前要准备什么

Argilla 迁移指南:面向大模型数据整理与人工反馈的开源平台。本文给出具体步骤、示例提示词与检查要点。功能与价格以官方为准。同类可对比 Label Studio、Prodigy 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Qwen 开源模型迁移指南:资产盘点、并行试用与切换

Qwen 开源模型迁移指南:阿里通义开源的大模型系列,覆盖多种尺寸与多模态。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 Llama、DeepSeek 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

软件工程师怎么用 GLM 开源模型:3 个高频任务的做法

面向软件工程师介绍 GLM 开源模型的用法:围绕代码阅读与重构、测试与排错等任务给出步骤和示例提示词,并说明使用边界。附带可直接复制修改的提示词。同类可对比 Qwen、DeepSeek 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →