975B の open-weights は誰が動かすのか — Inkling を運用者目線で読む

975B の open-weights を、誰が手元で動かすのか

結論から書きます。Inkling が配った open-weights の実利は「自宅で動く」ことではなく、「同じ重みを動かせる場所を複数持てる」ことです。総パラメータ 975B のモデルは個人の機材にまず載りません。それでも運用者にとって意味がある。その理由が本題です。

Inkling は Thinking Machines Lab が 2026 年 7 月 15 日に公開した open-weights モデルです（Introducing Inkling）。MoE（Mixture-of-Experts、専門家混合。入力ごとに一部の「専門家」だけを動かす構造）の transformer で、総パラメータ 975B に対して token あたり実際に動くのは 41B。context は最大 1M token。ライセンスは Apache 2.0 で、重みは Hugging Face から落とせます。

告知を読んだ水曜の朝、私は「active 41B なら手元でも動くのでは」と一瞬思いました。そして数秒後に諦めました。active 41B は 1 token あたりの計算量であって、どの expert が呼ばれるかは token ごとに変わります。つまり 975B 分の重みは全部どこかに載せておかないといけない。NVFP4 の checkpoint で 4bit 相当まで落としても 500GB 前後で、私の MacBook が先に音を上げます。

41B は計算量、975B は置き場所

Inkling の構造で運用者が最初に押さえるべきは、「active 41B」と「total 975B」が別々のコストを指しているという一点です。前者は 1 token を生成する計算量、後者はメモリに常駐させる量。ここを混ぜると見積もりを丸ごと外します。

モデルカードによれば、Inkling は 66 層の decoder-only transformer で、feed-forward が sparse MoE になっています。MoE 層あたり 256 の routed expert と 2 つの shared expert を持ち、token ごとに routed expert が 6 個だけ動く（thinkingmachines/Inkling — Hugging Face）。router は sigmoid ベースで、負荷分散に auxiliary loss（補助損失。専門家の使われ方を均すための追加ペナルティ）を使わず bias で寄せる方式を採っています。

attention 側も細かい。KV head は 8 個で、sliding-window attention（近傍だけを見る窓型の注意機構）と全体を見る global layer を 5

で交互に挟む。位置情報は RoPE ではなく相対位置埋め込みで、attention と residual の枝には short convolution が入ります。1M context を現実的なコストに収めるための工夫が、素直に並んでいる印象です。余談ですが、RoPE がほぼ既定になった 2026 年に相対位置埋め込みへ戻す判断は、理由が知りたくて少し手が止まりました。

学習は text / image / audio / video の 45 兆 token で pretrain、NVIDIA の GB300 NVL72 上で回したとあります。「45T token」の数字だけが独り歩きしがちですが、マルチモーダルを最初から混ぜた 45T である点が、後述の VoiceBench の数字につながります。

thinking effort — ベンチマークより運用に効く 1 つ

Inkling で運用者に一番効くのは、ベンチマークの順位ではなく thinking effort（思考の努力量。どれだけ考えてから答えるかのノブ）を外から制御できることです。同じモデルに対して、コストと精度の妥協点を自分で選べます。

やり方が面白い。Thinking Machines は学習中に system message と「token 1 個あたりのコスト」を変えながら rollout を回し、モデル自身に「場面によって使う token 量を変える」能力を獲得させたと書いています。effort の sweep はおよそ 0.2 から 0.99。後付けの打ち切りではなく、学習で身につけた振る舞いという位置づけです。

効果として挙げられているのが、Terminal Bench 2.1 で Nemotron 3 Ultra と同等のスコアに、およそ 3 分の 1 の token で到達するという主張。API 課金は基本 token 従量なので、これは素朴に効きます。私は LLM API のコスト暴走を「呼ばない」で防ぐ三段防御 で「呼ばない・小さく呼ぶ・キャッシュする」を書きましたが、effort は「小さく呼ぶ」を、モデル側の 1 パラメータとして正面から用意してきた形です。

正直に言えば、この effort ノブは私自身の作業にも欲しい。月曜の朝は 0.2 で流して、レビュー前だけ 0.99 に上げたい。もっとも人間の場合、ノブを 0.2 に固定したまま忘れる副作用がありそうですが。

97.1% は effort=0.99 の数字

公開されたベンチマークは強い。ただし全部 effort=0.99、つまり最大 token を使った動作点の数字です。ここを読み落とすと「1/3 の token で並ぶ」と「AIME 97.1%」を、同じ 1 台の話として足し算してしまいます。

ベンチマーク	Inkling (effort=0.99)
AIME 2026	97.1%
GPQA Diamond	87.2%
SWEBench Verified	77.6%
HLE（ツール併用）	46.0%
VoiceBench	91.4%
IFBench	79.8%
FORTRESS Adversarial	78.0%

読み方は 2 つあります。まず、トークン効率の主張とスコアの主張は別の動作点に立っている。安く済ませたいなら effort を下げる、上の数字が欲しいなら token を払う。両方は同時に取れません。次に、SWEBench Verified 77.6% は open-weights としては相当な水準ですが、コーディング評価の数字は環境とハーネスで揺れます。コーディング評価の signal と noise を運用者目線で切り分ける で、この手の数字が何を測っていないかを書きました。同じ物差しを、ここでも当てるべきです。

数字の前提という意味では、MiMo-V2.5-Pro UltraSpeed で 1T モデルが 1000 tokens/s と同じ構図でもあります。派手な 1 行の裏には、必ず動作点の条件がある。

post-train 側の記述も参考になります。Kimi K2.5 などの出力から作った合成データで SFT した後、合成環境と人間が作った環境で大規模 RL を回し、rollout は 3000 万を超えた。集約報酬は 0.264 から 0.356 へ log-linear に伸びたとあります。伸び続けてはいるものの、log-linear は「10 倍の計算で一定幅」という意味でもあるので、この曲線を無邪気な右肩上がりとして読むかは分かれるところです。

「開いている」には 2 軸ある — 深さと、動かせるか

Inkling を Apertus と並べると、open が 1 次元の言葉ではないとはっきりします。開示の深さと、手元で動くかは別の軸です。

Inkling が出しているのは重みだけで、学習データ・学習レシピの全体・推論コードは公開されていません。会社側も「最強を主張する」より「customization の良い出発点」と位置づけています。一方 Apertus は、データもコードもレシピも開いて第三者が再現できる状態に置いた代わり、サイズは 8B と 70B です。

モデル	開示の深さ	手元で動くか	向いている用途
Apertus 8B / 70B	データ・レシピまで	8B は載る	監査・多言語・規制
Gemma 4 12B	重み中心	16GB に載る	手元の常用
Inkling 975B	重みのみ	実質載らない	借り先を選べる強モデル
フロンティア API	非公開	動かす概念がない	汎用の賢さ

2 軸で並べると、Inkling の席がどこかが見えます。Gemma 4 12B のように 16GB に載るモデルは「手元で動く」を買う道具で、Inkling はそこに座っていない。Inkling が買えるのは「強いモデルを、複数の場所から選んで借りられる」ことです。

運用者の実利は exit が増えること

open-weights の本体は、私にとって「自分で動かす権利」ではなく「乗り換え先が複数ある状態」です。Inkling の配布形態は、そこに素直に効きます。

deploy 先として Together AI / Fireworks / Modal / Databricks / Baseten が並び、推論スタックは SGLang / vLLM / llama.cpp / transformers に統合済み。重みは Hugging Face から、元の checkpoint と NVFP4 版の両方が取れます。fine-tune は Tinker で、64K と 256K の context 版が用意されています。総パラメータ 276B / active 12B の Inkling-Small も preview 中で、AIME 95.1%、GPQA 88.3% と上位モデルに肉薄する数字が出ています。

Claude Fable 5 / Mythos 5 が突然止まった日 で書いたのは、単一プロバイダに寄せた構成が一夜で機能停止する怖さでした。あの怖さの正体は「モデルが強いこと」ではなく「代わりが無いこと」です。Apache 2.0 の重みが Hugging Face にあり、5 社以上がホストし、4 つの推論スタックが読める状態は、1 社が止めても他へ移れるという意味になります。自分の GPU を持っているかどうかは、この話にほとんど関係ありません。

ライセンス面も押さえておきます。Apache 2.0 なので商用利用も派生の配布も通りますが、モデルカードには Acceptable Use Policy があり、医療・法務・安全に関わる判断へ無調整で投入しないよう書かれています。role-play や間接的な言い回しの有害プロンプトに応じてしまう傾向が残るとも明記されていて、開けた場所に置くならフィルタとレート制限は自分で足す前提です。

強さの話は、たぶん半年で古くなります。AIME 97.1% はいずれ普通の数字になる。それでも「Apache 2.0 の重みが公開の場所に置かれた」という事実だけは古くなりません。借りる相手を選べる状態を作ること。それが open-weights の配っている本当の中身でした。動かせなくても、選べる。この 2 つは違います。

この記事は AI が下書きを書き、運営者である私が公開前に内容を確認・編集して公開しています。