Unsloth Desktop

Unsloth Desktop 是什么？

Unsloth Desktop 是一款开源应用，将 AI 推理和模型训练带到您的本地机器上。它在 Mac 和 Windows 上完全离线运行，让您加载并对话大语言模型（LLM）、通过扩散模型生成图像和视频，以及处理音频——所有数据均不会发送至云端。除了运行模型外，它还包含无代码微调工作流、数据集创建工具和模型对比竞技场，使其成为一个完整的本地 AI 工作台，而不仅仅是又一个聊天客户端。

适用人群

• 注重隐私的用户，希望在不上传敏感文档或对话至第三方服务器的情况下获得 AI 功能。
• 开发者和爱好者，需要一个本地 OpenAI 兼容 API 端点，将 Claude Code 或 Codex 等编码代理直接连接到他们的 GPU。
• 非技术爱好者，希望通过可视化、无代码界面微调模型或构建自定义数据集，而无需编写 Python 脚本。

主要功能

本地模型运行器

Unsloth Desktop 支持 GGUF 和 Safetensors 格式，内置工具调用、网络搜索和 OpenAI 兼容 API。您可以直接将图像、文档、音频和代码文件上传到聊天上下文中，一切均在您的设备上 100% 离线运行。

无代码训练工作室

从 PDF、CSV 或 JSON 文件自动创建数据集，然后开始微调并实时监控。底层自定义内核支持对 500+ 模型（包括文本、视觉、音频和嵌入模型）进行 LoRA、FP8、FFT 和 PT 的优化训练。

模型竞技场

并排与两个不同模型聊天——例如，基础模型及其微调版本——以直接比较输出。加载第一个模型，再加载第二个，实时查看它们的响应有何不同。

数据配方

通过图节点工作流将非结构化或结构化文档转换为可用的数据集。上传 PDF、CSV 或 JSON 文件，Unsloth Desktop 会自动将它们转换为训练所需的格式。

突出亮点

Unsloth Desktop 将单个本地 GPU 变成一个完整的 AI 工作室——无需编写一行代码即可运行、比较和微调模型。

在一个离线应用中结合推理、训练和数据集工具是罕见的。大多数本地 AI 工具只专注于等式的一侧——要么运行模型，要么训练模型——而 Unsloth Desktop 则两者兼顾。性能表现同样引人注目：比 FlashAttention-2 快 30 倍的训练速度，内存使用减少 90%，并支持音频、嵌入和视觉模型。而且由于它是开源的，您可以从免费版本开始，仅在需要多 GPU 或多节点支持时升级到 Pro 或 Enterprise。

值得一试，如果……

您想要一个能同时处理本地 AI 模型运行和训练的桌面应用，尤其是当您重视隐私、偏好可视化工作流而非脚本编写，或需要将编码代理连接到本地 GPU 而不依赖云端时。如果您正在尝试微调，并希望并排比较基础模型与自定义版本，它也非常适合。