Unsloth Desktop

Unsloth Desktopとは？

Unsloth Desktopは、AI推論とモデルトレーニングの両方をローカルマシンで実現するオープンソースアプリケーションです。MacおよびWindows上で完全にオフラインで動作し、LLMの読み込みとチャット、拡散モデルによる画像・動画生成、音声処理をすべてクラウドにデータを送信せずに行えます。モデルの実行に加えて、ノーコードのファインチューニングワークフロー、データセット作成ツール、モデル比較アリーナも備えており、単なるチャットクライアントではなく、完全なローカルAIワークベンチとなっています。

対象ユーザー

• プライバシー重視のユーザー：機密文書や会話を第三者サーバーにアップロードせずにAI機能を利用したい方。
• 開発者や愛好家：Claude CodeやCodexなどのコーディングエージェントをGPUに直接接続するためのローカルOpenAI互換APIエンドポイントを必要とする方。
• 非技術系の愛好家：Pythonスクリプトを書かずに、ビジュアルなノーコードインターフェースを通じてモデルのファインチューニングやカスタムデータセットの構築をしたい方。

主な機能

ローカルモデルランナー

Unsloth DesktopはGGUFおよびSafetensors形式の両方をサポートし、ツール呼び出し、ウェブ検索、OpenAI互換APIが組み込まれています。画像、ドキュメント、音声、コードファイルをチャットコンテキストに直接アップロードでき、すべての処理がデバイス上で100%オフラインで実行されます。

ノーコードトレーニングスタジオ

PDF、CSV、JSONファイルからデータセットを自動生成し、リアルタイムの可視化を備えたファインチューニングを開始できます。基盤となるカスタムカーネルは、テキスト、ビジョン、音声、埋め込みを含む500以上のモデルに対して、LoRA、FP8、FFT、PTの最適化トレーニングをサポートしています。

モデルアリーナ

ベースモデルとそのファインチューニング版など、2つの異なるモデルを並べてチャットし、出力を直接比較できます。最初のモデルを読み込み、2番目のモデルを読み込むと、応答の違いがリアルタイムで正確に表示されます。

データレシピ

グラフノードワークフローを通じて、非構造化または構造化ドキュメントを利用可能なデータセットに変換します。PDF、CSV、JSONファイルをアップロードすると、Unsloth Desktopがトレーニングに必要な形式に自動変換します。

特筆すべき点

Unsloth Desktopは、単一のローカルGPUを完全なAIスタジオに変えます。コードを1行も書かずに、モデルの実行、比較、ファインチューニングが可能です。

推論、トレーニング、データセットツールを1つのオフラインアプリに組み合わせたものは珍しいです。ほとんどのローカルAIツールは、モデルの実行かトレーニングのどちらか一方に焦点を当てていますが、Unsloth Desktopはその両方を橋渡しします。パフォーマンス面でも注目すべき点があり、FlashAttention-2と比較して最大30倍高速なトレーニング、メモリ使用量を90%削減、さらに音声、埋め込み、ビジョンモデルのサポートも備えています。また、オープンソースであるため、無料版から始めて、マルチGPUやマルチノードのサポートが必要な場合にのみProまたはEnterpriseにアップグレードできます。

こんな方におすすめ

ローカルでのAIモデルの実行とトレーニングの両方を1つのデスクトップアプリで処理したい方、特にプライバシーを重視する方、スクリプトよりもビジュアルワークフローを好む方、またはクラウド依存なしでコーディングエージェントをローカルGPUに接続する必要がある方に最適です。また、ファインチューニングを試していて、ベースモデルとカスタムバージョンを並べて比較したい方にも強くおすすめします。