标签:本地与开源

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

ai-tools-hub

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

· AI工具 · 约 3 分钟

SGLang 相关术语解释(新手向)

SGLang 术语速查:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。功能与价格以官方为准。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。文中示例均为示意,不代表效果承诺。

阅读全文 →
· AI工具 · 约 3 分钟

KTransformers 术语速查:看懂设置和文档的关键词

KTransformers 术语速查:面向 CPU/GPU 异构推理大模型的开源框架。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 llama.cpp、vLLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

国内用户使用 Mistral 开源模型的要点与替代选择

Mistral 开源模型国内用户指南:Mistral AI 以开放许可发布的模型。本文给出具体步骤、示例提示词与检查要点。附带可直接复制修改的提示词。同类可对比 Llama、Qwen 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Phi 小模型的 10 种用法与适用边界

Phi 小模型使用场景合集:微软的小参数语言模型系列。本文给出具体步骤、示例提示词与检查要点。强调人工核对与数据安全。同类可对比 Gemma、Qwen 小模型等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Mistral 开源用着不顺?逐项排查表

Mistral 开源模型问题排查:Mistral AI 以开放许可发布的模型。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Llama、Qwen 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。文中示例均为示意,不代表效果承诺。

阅读全文 →
· AI工具 · 约 3 分钟

llamafile 一周学习计划:从注册到独立完成任务

llamafile7 天上手计划:把模型和运行时打包成单个可执行文件的开源项目。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Ollama、llama.cpp 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

LLaMA-Factory 前后对比:同一任务改提示词后的变化

LLaMA-Factory 前后对比示例:支持多种模型的一站式开源微调框架。本文给出具体步骤、示例提示词与检查要点。强调人工核对与数据安全。同类可对比 Unsloth、Axolotl 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Open Interpreter 实用模板合集(附填写说明)

Open Interpreter 可复制模板:让大模型在本地执行代码完成任务的开源项目。本文给出具体步骤、示例提示词与检查要点。适合个人试用与团队落地参考。同类可对比 Claude Code、Gemini CLI 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

迁移到 SGLang 前要准备什么

SGLang 迁移指南:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。不夸大效果,只讲可验证的方法。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →