
当日第 3 名

Unsloth Desktop 是一款开源应用,用于在本地运行和训练 AI 模型。支持运行大语言模型、图像/视频扩散模型以及音频模型。通过一条命令即可将 Claude Code 或 Codex 等智能体连接到本地 GPU,并借助无代码工作流对模型进行微调。
加载评论中...
对比
Unsloth Desktop 是一款开源应用,将 AI 推理和模型训练带到您的本地机器上。它在 Mac 和 Windows 上完全离线运行,让您加载并对话大语言模型(LLM)、通过扩散模型生成图像和视频,以及处理音频——所有数据均不会发送至云端。除了运行模型外,它还包含无代码微调工作流、数据集创建工具和模型对比竞技场,使其成为一个完整的本地 AI 工作台,而不仅仅是又一个聊天客户端。
Unsloth Desktop 支持 GGUF 和 Safetensors 格式,内置工具调用、网络搜索和 OpenAI 兼容 API。您可以直接将图像、文档、音频和代码文件上传到聊天上下文中,一切均在您的设备上 100% 离线运行。
从 PDF、CSV 或 JSON 文件自动创建数据集,然后开始微调并实时监控。底层自定义内核支持对 500+ 模型(包括文本、视觉、音频和嵌入模型)进行 LoRA、FP8、FFT 和 PT 的优化训练。
并排与两个不同模型聊天——例如,基础模型及其微调版本——以直接比较输出。加载第一个模型,再加载第二个,实时查看它们的响应有何不同。
通过图节点工作流将非结构化或结构化文档转换为可用的数据集。上传 PDF、CSV 或 JSON 文件,Unsloth Desktop 会自动将它们转换为训练所需的格式。
Unsloth Desktop 将单个本地 GPU 变成一个完整的 AI 工作室——无需编写一行代码即可运行、比较和微调模型。
在一个离线应用中结合推理、训练和数据集工具是罕见的。大多数本地 AI 工具只专注于等式的一侧——要么运行模型,要么训练模型——而 Unsloth Desktop 则两者兼顾。性能表现同样引人注目:比 FlashAttention-2 快 30 倍的训练速度,内存使用减少 90%,并支持音频、嵌入和视觉模型。而且由于它是开源的,您可以从免费版本开始,仅在需要多 GPU 或多节点支持时升级到 Pro 或 Enterprise。
您想要一个能同时处理本地 AI 模型运行和训练的桌面应用,尤其是当您重视隐私、偏好可视化工作流而非脚本编写,或需要将编码代理连接到本地 GPU 而不依赖云端时。如果您正在尝试微调,并希望并排比较基础模型与自定义版本,它也非常适合。
其他您可能感兴趣的工具
全球的计算能力建设速度已无法满足AI需求的增长。因此,我们另辟蹊径。ZeroGPU是一种AI基础设施,由运行在混合边缘网络上的小型语言模型驱动,复用现有计算资源。并非所有任务都需要前沿模型。我们专为边缘场景优化的定制模型,运行速度快10倍、成本低50%,可将70%-80%的生产任务分流至小型模型,同时保持前沿级别的准确性。
在 Claude Code 中运行最先进的开源模型(GLM 5.1、Kimi K2.7 Code、MiniMax M2.7 等),速度提升高达 4 倍(最高 200 tok/s),每月仅需 29 美元。几分钟即可完成设置,无需修改代码。
nullsink 提供对 Claude、GPT 及机密开源模型的匿名访问,无需注册账号、提供邮箱、绑定银行卡或订阅付费。只需使用 Monero 或 Bitcoin 充值 2 美元起,即可获得一个 Bearer API 密钥,并可与原生 Anthropic 或 OpenAI 兼容客户端配合使用。余额永不过期。nullsink 不记录任何请求内容或客户端 IP 日志,并公开其 AGPL 源代码、架构及信任模型限制。
GitHits 让编码代理能够访问你的应用所依赖的开源代码。获取真实的实现示例、依赖源码导航、包检查及文档。代理可以搜索并读取你的代码库,但它们无法搜索并读取你的应用所依赖的开源代码。这正是它们开始猜测、重试和循环的地方。GitHits 按需构建版本感知索引。代理可以搜索、导航并检查其依赖背后的代码。CLI:npx githits@latest init
加载评论中...