2026年11月20日、Hugging Face のブログで「Inkling 2 Mini」を紹介する記事が公開されました。手元の環境で動かすローカルLLM(自分の端末の中で動かす大規模言語モデル)向けに設計された軽量モデルで、使い方としては transformers や Llama App などいくつかの入口が用意されています。ここでは出典に書かれている内容だけを整理し、個人がどこから試せるかを見ていきます。
要点
- Inkling 2 Mini は新しい looped transformer のモデルで、マルチモーダルな Mixture-of-Experts(専門家を混ぜる仕組み)
- 物理的な合計パラメータは約26B、1トークンあたりの有効パラメータは3B
- 1M トークンのコンテキストに対応し、画像とテキストの入力を受け付ける
- Inkling 2 Small よりずっと小さく、ローカルのAI環境向けに設計されている
- transformers、Llama App(llama.cpp)、MLX に対応し、SGLang も day-zero で推論をサポート
何が発表されたか
ループする構造
Inkling 2 Mini はデコーダ層が24層ですが、真ん中の12層が3回ループして動きます。そのため物理的には24層でありながら、論理的には48層(6+3×12+6)あるかのように振る舞います。一部の層を3回繰り返して通るこの工夫によって、パラメータがもっと多いモデルのように働くと説明されています。1トークンあたりの層の訪問回数は48回で、隠れ層のサイズは4,608ではなく2,304です。
各層の訪問では、どちらのモデルもトークンを8つのエキスパートに振り分けますが、Mini は1層あたり128のエキスパートから選び、Small は384から選びます。6層ごとのブロックは5つのスライディングウィンドウ層と1つのフルアテンション層で構成され、ローカルウィンドウは最大1,024トークンを保持します。アテンションは24のクエリヘッドと8つのKVヘッドを使います。
モデルは Thinking Machines Lab が混合精度の形式で提供し、エキスパートの重みは NVFP4 と MXFP8 です。速度を上げるための DSpark drafter も、わずかなメモリの増加で使えるものとして同梱されています。
ベンチマークと評価
Inkling 2 Mini は Artificial Analysis Intelligence Index v5(AAv5)でそのクラスの state-of-the-art だと書かれています。比較対象は Gemma 4 31B、Muse Glimmer、Qwen3.8-27B、Nemotron 3.5 Super VL で、48のベンチマークのうち32でリードしています。コーディング関連では FrontierCode v2.0 でリードし、Terminal-Bench 4.0 では Qwen3.8-27B と同点、AutomationBench-AA v1.0.6 では Qwen に及びません。執筆者による vibe test では「少なくとも Qwen 3.8 27B と同等」とされ、さらなる検証が必要だとも添えられています。
使い方として用意されているもの
transformers では AutoModelForMultimodalLM クラスを使い、モデルIDは thinkingmachines/Inkling-2-Mini です。画像を使う場合は、messages の中身を画像とテキストを並べたリストに置き換えます。思考にかける労力はリクエストごとに reasoning_effort で指定でき、選べるのは none(0.0)、minimal(0.1)、low(0.2)、medium(0.7)、high(0.9・既定)、xhigh(0.99)、max(0.99)です。0.0から0.99の数値を直接渡すこともできます。ツール呼び出しにも対応しており、モデルがツールの呼び出しを求め、こちらが代わりに実行して結果を次の指示に足す流れが示されています。
Llama App は macOS ではメニューバーから、Windows ではシステムトレイからローカルの言語モデルを動かして管理できるアプリです。llama.cpp の上に作られており、作っているのは同じチームです。ローカルの OpenAI 互換 API も提供します。今回のリリースでは、両モデル向けに GGUF の4-bit(IQ4_NL)と8-bit(Q8_0)の量子化が提供されます。Linux や CLI から動かす場合は llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL を実行します。
MLX のサポートは mlx-lm プロジェクトに取り込まれ、画像とテキストのマルチモーダル入力も含まれます。量子化版は mlx-community から共有されています。元のチェックポイントのままでも動き、その場合は nvfp4 と mxfp8 の量子化が変換なしでそのまま使われます。
もう一つ、同じ構造でループの回数を変えられる研究用の TML-d24-varloop-research も公開されました。3回ではなく1回や2回に設定すると推論はかなり速くなりますが、生成の品質は少し下がる場合があります。
個人の仕事や学びにどう使えるか
手元のコーディング相棒として試すのが一つ目です。出典では4-bitのモデルに、植物を資格を持つセラピストとマッチングする plant therapy というSaaSのWebサイトを作らせた例が紹介され、モデルは見た目用のSVGを自分で作り、マッチングのロジックまで組み立てたと書かれています。Web制作や社内ツールの試作をするエンジニアなら、自分の課題で同じことを頼んでみると判断がつきます。
二つ目は、画像を含む資料の読み取りです。画像とテキストを入力できるので、図やスクリーンショットを添えて中身を尋ねる使い方ができます。資料づくりの多い企画職やマーケティング担当が、外に出したくない画像を扱うときの選択肢になります。
三つ目は、ツール呼び出しを前提にした自動化の練習です。出典では気温を返す関数を渡し、モデルが引数を自分で埋めて呼び出し、その結果を使って答える流れが示されています。事務職やバックオフィスの人が、AIエージェント(道具を自分で呼びながら作業を進めるAI)の仕組みを手元で理解するのに向いています。
会社やチームで使うときのポイント
本番運用を考える場合、SGLang がデータセンター向けハードウェアでの推論を day-zero でサポートしています。実行には SM103 で動かすことが前提条件として挙げられており、生成速度の計測は NVIDIA B300 GPU 1枚で、1,024トークンのプロンプトと1,024トークンの生成、同時実行数1・4・16・64という条件で行われています。どの端末で何をどこまで動かすかは、使い始める前にチームで揃えておくと混乱が少なくなります。法人での導入や研修を考えているなら、株式会社デジライズに相談できます。同社は法人向けAIリスキリングサービスで導入社数No.1(東京商工リサーチ・2026年3月末時点)で、累計600社超・5万人以上のAI活用を支援しています。
使う前の注意点
ループ回数を変えられる TML-d24-varloop-research は研究用の成果物として公開されたもので、動作は確かめられているものの詳しくは評価していないと書かれています。性能についても vibe test の結果にさらなる検証が必要だと添えられているため、自分の用途で動かして確かめるのが安全です。SGLang で投機的デコーディングを使う場合は、サーバーの起動コマンドに --speculative-algorithm DSPARK --context-length 131072 を追加します。日本語での使い勝手や料金、必要な動作環境については、使う前に公式のヘルプで最新の提供範囲を確かめてください。
まとめ
Inkling 2 Mini は、層をループさせる構造と1Mトークンのコンテキスト、画像入力に対応したローカル向けのモデルです。transformers、Llama App、MLX、SGLang と入口が複数あるので、自分の環境に合うものから一つ選んで小さく試すのが現実的です。ローカルLLMを含めてAIの使い方を順番に学びたい人は、デジライズAIスクールのコース一覧から「デジライズAIスクールの使い方」などを確かめてみてください。デジライズAIスクールは個人向けのオンラインAIスクールで、動画は990本以上あります。
出典
この記事は、各社の公式の発表をもとに AI で下書きし、出典の本文との照合とGoogle 検索による事実確認(ファクトチェック)を通ったものだけを公開しています。
