Unsloth Desktop

O que é o Unsloth Desktop?

O Unsloth Desktop é um aplicativo de código aberto que traz tanto a inferência de IA quanto o treinamento de modelos para a sua máquina local. Ele funciona totalmente offline em Mac e Windows, permitindo que você carregue e converse com LLMs, gere imagens e vídeos por meio de modelos de difusão, e trabalhe com áudio — tudo sem enviar dados para a nuvem. Além de executar modelos, ele inclui fluxos de trabalho de fine-tuning sem código, ferramentas de criação de datasets e uma arena de comparação de modelos, tornando-o uma bancada de trabalho completa de IA local, em vez de apenas mais um cliente de chat.

Para quem é

• Usuários preocupados com privacidade que querem recursos de IA sem enviar documentos sensíveis ou conversas para servidores de terceiros.
• Desenvolvedores e entusiastas que precisam de um endpoint de API compatível com OpenAI local para conectar agentes de codificação como Claude Code ou Codex diretamente à sua GPU.
• Entusiastas não técnicos que querem fazer fine-tuning de modelos ou criar datasets personalizados por meio de interfaces visuais sem código, em vez de escrever scripts em Python.

Principais recursos

Executor de modelos local

O Unsloth Desktop suporta os formatos GGUF e Safetensors, com chamada de ferramentas, busca na web e uma API compatível com OpenAI integrada. Você pode enviar imagens, documentos, áudio e arquivos de código diretamente no contexto do chat, e tudo roda 100% offline no seu dispositivo.

Estúdio de treinamento sem código

Crie datasets automaticamente a partir de arquivos PDF, CSV ou JSON e comece o fine-tuning com observabilidade em tempo real. Os kernels personalizados subjacentes suportam treinamento otimizado para LoRA, FP8, FFT e PT em mais de 500 modelos — incluindo texto, visão, áudio e embeddings.

Arena de Modelos

Converse com dois modelos diferentes lado a lado — por exemplo, um modelo base e sua versão com fine-tuning — para comparar as saídas diretamente. Carregue seu primeiro modelo, carregue o segundo e veja exatamente como as respostas diferem em tempo real.

Receitas de Dados

Transforme documentos estruturados ou não estruturados em datasets utilizáveis por meio de um fluxo de trabalho baseado em nós de grafo. Envie PDFs, CSVs ou arquivos JSON, e o Unsloth Desktop os converte automaticamente nos formatos necessários para o treinamento.

O que se destaca

O Unsloth Desktop transforma uma única GPU local em um estúdio completo de IA — execute, compare e faça fine-tuning de modelos sem escrever uma linha de código.

A combinação de inferência, treinamento e ferramentas de dataset em um único aplicativo offline é rara. A maioria das ferramentas locais de IA foca em um lado da equação — ou executar modelos ou treiná-los — mas o Unsloth Desktop une ambos. As alegações de desempenho também são notáveis: até 30x mais rápido no treinamento que o FlashAttention-2 com 90% menos uso de memória, além de suporte para modelos de áudio, embedding e visão. E por ser de código aberto, você pode começar com a versão gratuita e fazer upgrade para Pro ou Enterprise apenas se precisar de suporte multi-GPU ou multi-nó.

Vale a pena conferir se…

Você quer um único aplicativo de desktop que lide tanto com a execução quanto com o treinamento de modelos de IA localmente, especialmente se você valoriza privacidade, prefere fluxos de trabalho visuais em vez de scripts, ou precisa conectar agentes de codificação a uma GPU local sem dependências de nuvem. Também é uma ótima opção se você está experimentando fine-tuning e quer comparar modelos base com suas versões personalizadas lado a lado.