プログラミング
記事内に商品プロモーションを含む場合があります

【ローカルLLM】Unsloth Desktopのインストールからopencode連携まで

Aru

LLM実行環境としてUnslothがなにかと話題で、最近人気みたいなので実際にインストールして使ってみました。これまで主な実行環境としてはLMStudioと、Opencode向けにmlx-lmを使ってきましたが、Unslothを試してみたいと思います。

概要

UnslothがLLM実行環境として最近人気らしいので使ってみました。これまでローカルLLMはLM Studioを使ってきましたが、AIコーディングエージェント連携はイマイチでだったのでOpenCodeではmlx-lmをサーバーとして利用しています。

Unslothがコーディングエージェント向けにも使いやすいと聞いたので、今回はこれをチェックするためも、Unsloth Desktop のインストールして使ってみました。

この記事では、モデルのダウンロード、opencode連携、デスクトップ(GUI)としての使い勝手まで、私が実際に使った範囲でまとめます。

先に結論

Unsloth Desktopは、LLMの実行・学習に加えて画像・動画生成までできる統合環境です。デスクトップアプリとしては特に不満がなく、Web検索や音声入力が使える点はLM Studioとの大きな違い です。

一方で、エージェントツール(opencode)と組み合わせて使う場合は、利用した範囲では、モデルによっては応答が途中で止まる問題などが発生しました

Unsloth/Qwen3.6-35B-A3B-MTP-GGUFを使ってみたら途中で応答が止まることはほぼなくなりました(OpenCode)。相性問題が大きそうです。

Unsloth Desktopとは

Unslothは元々、LLMのファインチューニングを高速化するライブラリとして有名です。

その流れを汲むデスクトップアプリ「Unsloth Desktop」は、ローカルでAIモデルを実行・学習・生成できる統合環境で、macOS / Windows / Linuxに対応した無料・オープンソースのアプリです(2026年8月リリース、公式ドキュメントの記述ベース)。

  • LLMの実行
    モデルを選んでダウンロードすれば、設定なしでチャットを始められます。GGUFやMLX(Apple Silicon向け)など幅広い形式に対応しています
  • 画像・動画生成
    同じツールでMiniMax H3、FLUX、Wan、LTXなどの拡散モデルを扱えます
  • モデルの学習
    コード不要のファインチューニングUIも備えています
  • Web検索・Deep Research
    チャット内でWeb検索や深掘り調査ができます
  • エージェント連携
    unsloth start コマンドでClaude CodeやCodex、opencodeなどのエージェントにローカルモデルを接続できます

インストール

公式サイトからインストーラをダウンロードしてインストールします(Mac向けの手順は公式ドキュメントに記載)。

  1. 公式サイト(https://unsloth.ai)からMac用のインストーラ(.dmg)をダウンロード
  2. アプリを起動して、インストールが完了するまで待つ

初回起動はインストールが始まるため、少し時間がかかりました。そして2回目の起動も時間がかかりました。初回だけのことではないので、起動のたびに待たされる感覚はあります。

モデルのダウンロード

  • Model hubからダウンロード
    GUIのモデルハブからモデルを選択してダウンロードします。デバイスに合ったモデルと量子化を選べます
  • On Deviceで既存モデルを利用
    「On Device」を選択すると、すでにダウンロード済みのモデル一覧が表示され、ここからも選択できます。私の環境では、LM Studioでダウンロードしたモデルも表示されました

opencodeで利用する方法

unsloth start opencode で実行すれば、自動的にモデルが切り替わります。Unsloth側で読み込んだモデルについて、ローカルエンドポイント・APIキー・モデル名などを自動設定した上でエージェントに渡してくれます。

unsloth start opencode

公式ドキュメントには unsloth start claude などの例が紹介されています。opencodeも同じ仕組みで接続できます。エージェントごとの詳細なオプションは公式ドキュメントを参照してください。

使ってみた感想

  • 速度
    速度的には問題ありません
  • 応答が途中で止まる
    同じモデルをmlx-lmで動かした場合はちゃんと動くのに、Unsloth経由だと応答の途中で止まることが多いです。設定の問題かもしれませんが、デフォルトのままでは使いにくい印象です
  • コンテキストサイズ
    デフォルトが4096トークンになっています。長いやり取りや大きなファイルを扱う場合は、設定し直す必要があります

応答が途中で止まる原因はまだ確認できていません。設定の問題なのか、バックエンド側の挙動なのかは、もう少し調べる必要があります。なお、Unslothが提供するモデルを利用すると比較的安定するようなので、Unslothの提供するモデルを利用する方がよいかもしれません。

デスクトップ(GUI)の感想

  • 画像・動画生成も同じツールで使える
    画像生成や動画生成のモデルも同じツールで扱えるのは、かなり大きなメリットです。このためにインストールしてもよいかもしれないと思えるほどです
  • デスクトップ利用では不満なし
    GUIアプリとして使う分には特に不満がありません。デスクトップで利用する場合は、良い選択肢に見えます
  • LM Studioとの違い
    Web検索や音声入力ができる点が大きいです。ChatGPTやGeminiに近い感覚で使うことができます

音声入力を使ってみましたが、日本の認識も結構いい感じです。ただ、喋り始めの部分がうまく拾えないことが多発しました。

まとめ

最後に、結局何を覚えておけばよいかを整理します。

  • デスクトップアプリとしての完成度は高い
    モデルのダウンロードからチャットまで簡単で、Web検索・音声入力が使える点はLM Studioと一線を画します
  • 画像・動画生成の統合は大きな魅力
    画像生成のために導入してもよいと思えるほどです
  • エージェント連携はまだ調整が必要
    今回のテストの範囲では、安定しなかったので、ここはもう少し調査が必要です。ただ、Unsloth提供モデルだと比較的安定しているので、それをメインに選ぶと良さそうです。

一番の問題は、まだ「β版」でこれからもどんどん変化していく可能性があることでしょうか。まだまだ、大きく変わる可能性があるツールなので様子見もありかなと思います。また、LMStudio側も進化しているので、当面はこちらを使うのも良い気がします。

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

ABOUT ME
ある/Aru
ある/Aru
IT&機械学習エンジニア/ファイナンシャルプランナー(CFP®)
専門分野は並列処理・画像処理・機械学習・ディープラーニング。プログラミング言語はC, C++, Go, Pythonを中心として色々利用。現在は、Kaggle, 競プロなどをしながら悠々自適に活動中 保有資格:CFP, マンション管理士、管理業務主任、宅建士など
記事URLをコピーしました