「大きすぎる」との声に26Bで返答――Thinking Machines Lab、新型「Inkling 2 Mini」はノートPCでも動く

Shiritomo編集部 @shiritomoAI_jp 2026年11月21日 更新
「大きすぎる」との声に26Bで返答――Thinking Machines Lab、新型「Inkling 2 Mini」はノートPCでも動く

Thinking Machines Labが2026年11月20日に公開した新しいオープンウェイトモデルは、総パラメータ26.4B。
2週間ほど前の11月5日に同社が出した「Inkling 2 Small」は594Bもあり、その巨大さを指摘する声が開発チームに届いていたようです。
公式アカウントは投稿で、その声を受け止めたことをはっきり書いていました。
手元のノートPCで動くAIモデルを探している人にとって、選択肢がまた一つ増えた形です。

先に結論をまとめると:
– Thinking Machines Labが11月20日、オープンウェイトの新型AIモデル「Inkling 2 Mini」を公開しました
– 総パラメータ26.4B(実際に動くのは3.4B)で、RAM32GB以上のMacやノートPCでも動かせます
– 100B未満のモデルの中では、コーディング系ベンチマークで最高水準の成績を記録しています

何が起きたのか

Thinking Machines Labは、OpenAIの元CTOミラ・ムラティ氏が率いるAI研究企業です。
同社の公式アカウントは、新モデルの公開を次のように投稿しました。

「Inkling 2 Smallは594Bパラメータで大きすぎると感じた人もいたと思います。
その声を受けて、Inkling 2 Miniはわずか26Bパラメータのループ型トランスフォーマー(同じ層を複数回通すことで計算を増やす設計)にしました。
ノートPCで動くほど小さく、エージェント的な作業(AIが複数の手順を自分で判断しながら進める作業)をこなせるほど強力です」という趣旨の投稿でした。

594Bという巨大なモデルへの反応を、20分の1近いサイズで返してきたことになります。
ただ、サイズを小さくしただけなら驚きはありません。
ここで気になるのは、小さくしてなお実用的な性能を保てているのかという点です。

調べて分かったこと

なぜ「ループ」させる設計にしたのか?

公式の発表ページによると、Inkling 2 Miniは24層を6層ずつ4つのブロックに分け、真ん中の2ブロックだけを1トークンごとに3回通す構造になっています。
保存されているのは24層分の重みですが、実際に計算で使われる層の適用回数は48回分に相当するそうです。
層を増やさずに計算量だけを増やす、という考え方です。

総パラメータは26.4B、1トークンあたり実際に使われるのは3.4B(計算上の重みの動きは5.4B相当)。
Mixture-of-Experts(複数の専門家ネットワークから必要なものだけを呼び出す設計)を採用し、各層に128個の「専門家」を持たせています。
この仕組みによって、全体のサイズを大きくしながらも、処理ごとに使う部分は絞り込める点がポイントのようです。

公開直後、AIの最新動向を追うアカウントもこの設計に注目していました。

This is such a cool release: Thinking Machines released Inkling 2 Mini, an open-weights model small enough to run on your laptop. It’s a looped transformer. The middle layers run three times per token, so it reasons more internally and needs fewer tokens to get there.(「ノートPCで動くオープンウェイトモデル。
ループ型トランスフォーマーで、真ん中の層が1トークンごとに3回動く設計」という趣旨の投稿)

実際の性能はどれくらいなのか?

モデルカードによれば、コーディング関連のベンチマークDeepSWE v1.1で48.2%を記録し、100B未満のモデルの中では最高水準としています。
ほかにもVals Index v2.2で46.5%、AA Indexで20.1、SWE-bench Pro v2 Hardでは77.9%という数字が公開されていました。
いずれも一次情報であるモデルカードに基づく数字です。

画像や文書の読み取り(ビジョン機能)も備えていて、文書理解のベンチマークOmniDocBench v1.6では92.8%とのことです。
文脈をどれだけ記憶できるかを示すコンテキストウィンドウは最大100万トークンまで対応するとされています。

一方でモデルカードは、ハルシネーション(AIがもっともらしい誤情報を生成すること)や指示への従わなさ、デバッグ時に長い推論ループへ入り込みやすい点、ファイルを確認なしに削除・上書きしてしまうことがある点なども課題として挙げています。
小型化による性能の高さと、まだ残る不安定さの両面があるというのが実情のようです。

どうやって自分のPCで動かせるのか?

Mac環境であれば、32GB以上のRAMを積んだ機種で「Ollama」というソフトを通じて動かせます。
NVIDIAの「DGX Spark」というハードウェアにもネイティブに対応しているとのことです。
さらに量子化(モデルを軽くするための精度の落とし方)されたバージョンであれば、UnslothやLLM実行ソフトの「llama.cpp」経由でも動作するとされています。

実際に、AIモデルを手元で試せるツール「LM Studio」の公式アカウントも、対応を知らせる投稿をしていました。

Inkling 2 Mini by @thinkymachines is now in LM Studio! It’s a 26B looped transformer. Requires ~18GB to run locally, Apache 2.0 licensed. Leads among <100B models on DeepSWE v1.1 (48.2%) and Vals Index v2.2 (46.5%)(「LM Studioで動くようになった。
26Bのループ型トランスフォーマーで、ローカル動作には約18GB必要」という趣旨の投稿)

ライセンスはApache 2.0で、商用利用も含めて制限が緩やかな部類に入ります。
重みはHugging Faceで公開されており、同社の開発者向け基盤「Tinker」上でも推論・ファインチューニング(追加学習による調整)が行えるとのことです。

Shiritomo編集部の考察:モデル選びは「大きさ」から「動かせる場所」へ

ここ数ヶ月のAIモデル業界を見ていると、パラメータ数を競う流れとは別に、「どこで動かせるか」を競う流れが並行して強まっているように見えます。
Inkling 2 Miniが594Bから26.4Bへと大胆にサイズを落としながら、むしろ注目を集めているのはその一例です。

SNS運用やコンテンツ制作の現場でAIツールを選ぶ際、性能の高さだけでなく「社内のPCで完結できるか」「API利用料がかさまないか」は無視できない判断軸になりつつあります。
クラウド型の大規模モデルに頼り切らず、手元で動く軽量モデルを併用する選択肢が広がってきた年だったと振り返られそうです。
来年以降、同じ方向の発表がさらに増えるかどうかは注目しておく価値がありそうです。

まとめ

Thinking Machines Labは、594Bパラメータだった前モデルへの「大きすぎる」という指摘を受け、26.4Bパラメータの新型「Inkling 2 Mini」を公開しました。
サイズを大きく落としながら、100B未満のモデルの中では高い性能を保っている点が特徴です。

さらに深掘りしたい方へ

llama.cppが正式版v1.0.0に到達、3年8か月越しの開発でAPI安定を保証llama.cppが正式版v1.0.0に到達、3年8か月越しの開発でAPI安定を保証ローカルでAIモデルを動かす定番ソフトが、3年8か月越しにメジャーバージョンへ到達しました。
「誰もが十分なRAMを持つべき」――アルトマン氏、18日前の「非効率」発言から一転と話題に「誰もが十分なRAMを持つべき」――アルトマン氏、18日前の「非効率」発言から一転と話題に手元のマシンでAIを動かす前提が、業界のトップからも語られ始めています。

より詳しい仕様は、Thinking Machines Labの公式発表ページとInkling 2 Miniのモデルカードで確認できます。