标签:本地与开源

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

ai-tools-hub

本地与开源合集:共 1095 篇,涵盖Qwen 开源模型、GLM 开源模型、DeepSeek 开源权重、Llama 开源模型、Ollama 本地模型、LM Studio等工具的介绍、上手、组合工作流、模板、自托管、职业场景与隐私注意。

· AI工具 · 约 3 分钟

数据分析师怎么用 LMDeploy:3 个高频任务的做法

面向数据分析师介绍 LMDeploy 的用法:围绕取数与 SQL、清洗与可视化等任务给出步骤和示例提示词,并说明使用边界。功能与价格以官方为准。同类可对比 vLLM、SGLang 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

想自己掌控数据?魔搭 ModelScope 的自托管思路

魔搭 ModelScope 自托管与开源路线:阿里推出的开源模型社区与平台。本文给出具体步骤、示例提示词与检查要点。不夸大效果,只讲可验证的方法。同类可对比 Hugging Face、始智 AI 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

KTransformers 产出验收:5 个维度打分法

KTransformers 产出评分表:面向 CPU/GPU 异构推理大模型的开源框架。本文给出具体步骤、示例提示词与检查要点。不夸大效果,只讲可验证的方法。同类可对比 llama.cpp、vLLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

游戏开发者怎么用 SGLang:3 个高频任务的做法

面向游戏开发者介绍 SGLang 的用法:围绕原型与素材、NPC 对话与文案等任务给出步骤和示例提示词,并说明使用边界。附带可直接复制修改的提示词。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Phi 小模型故障与效果问题处理指南

Phi 小模型问题排查:微软的小参数语言模型系列。本文给出具体步骤、示例提示词与检查要点。强调人工核对与数据安全。同类可对比 Gemma、Qwen 小模型等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

把 Argilla 放进工作流:搭配工具与交接要点

Argilla 组合工作流:面向大模型数据整理与人工反馈的开源平台。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Label Studio、Prodigy 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

选 Mistral 开源模型方案前先回答这 5 个问题

Mistral 开源模型方案选择:Mistral AI 以开放许可发布的模型。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Llama、Qwen 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。文中示例均为示意,不代表效果承诺。

阅读全文 →
· AI工具 · 约 3 分钟

选 Qwen 开源模型方案前先回答这 5 个问题

Qwen 开源模型方案选择:阿里通义开源的大模型系列,覆盖多种尺寸与多模态。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Llama、DeepSeek 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

Argilla 在科研人员工作中的实用玩法与边界

面向科研人员介绍 Argilla 的用法:围绕文献检索与阅读、实验记录与数据整理等任务给出步骤和示例提示词,并说明使用边界。功能与价格以官方为准。同类可对比 Label Studio、Prodigy 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

llamafile 相关术语解释(新手向)

llamafile 术语速查:把模型和运行时打包成单个可执行文件的开源项目。本文给出具体步骤、示例提示词与检查要点。属于「本地与开源」类工具。同类可对比 Ollama、llama.cpp 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

llamafile 故障与效果问题处理指南

llamafile 问题排查:把模型和运行时打包成单个可执行文件的开源项目。本文给出具体步骤、示例提示词与检查要点。不夸大效果,只讲可验证的方法。同类可对比 Ollama、llama.cpp 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →
· AI工具 · 约 3 分钟

SGLang 团队部署与权限设置要点

SGLang 管理员配置清单:高性能的大模型推理与服务框架。本文给出具体步骤、示例提示词与检查要点。强调人工核对与数据安全。同类可对比 vLLM、TensorRT-LLM 等产品。读完即可按文中步骤动手试一遍。关键结论请以官方文档和自己的测试为准。

阅读全文 →