Thinking Machines、ローカルで動く26Bモデル「Inkling 2 Mini」を公開 必要メモリは約20GB、32GBのMacで動作
この記事は 時点の情報です
このページには広告が含まれています

元OpenAI CTOのMira Murati氏が率いるThinking Machines Labは11月20日(米国時間)、オープンウェイトのAIモデル「Inkling 2 Mini」を公開した。総パラメータ数は264億、1トークンあたりに動く有効パラメータは34億のMoE(混合エキスパート)モデルで、必要メモリは約20GBにとどまり、Ollamaを使えば32GB以上のメモリを積んだMacで動作するという。重みはHugging Faceで公開されており、Unslothとllama.cppによる量子化版のGGUFも用意される。
最大の特徴は、同じ層を繰り返し使う「ループ型」の構造だ。24層を6層ずつ4つのブロックに分け、中央の2ブロックを1トークンにつき3回通すことで、保存している層は24層のまま48層分の計算を行う。ループを含めると、1トークンあたりに働く重みは54億分になる。学習はNVIDIAのGB300で行い、エキスパート層をNVFP4、最後の4層をMXFP8という学習時と同じ精度のまま配布するため、後から量子化することによる劣化がないと同社は説明している。同社の公表値では、DeepSWE v1.1で48.2%、SWE-bench Verifiedで79.2%を記録し、総パラメータ1000億未満のオープンモデルとして上位に入る一方、複数ターンの会話や制約の多い指示ではQwen3.8-27Bに及ばないことも認めている。
同社はM5 Pro搭載のMacBook Pro(メモリ48GB)を機内モードにした状態で、数分でフライトシミュレーターを作らせるデモも公開しており、ネットに接続しない手元の環境でも実用的なコーディング支援が成り立つことを示した。ただしモデル単体で約20GBを占めるため、ゲーミングPCで動かす場合もVRAM 16GBのGPUには丸ごとは載らず、メモリ容量がそのまま使えるかどうかを左右する。メモリ価格が高止まりするなか、ローカルAIを目的にPCを組む場合はCPUの性能よりもメインメモリとVRAMの容量が先に問われることになる。
かんたんお宝ゲーミングPC検索
当サイトでは、旧世代も含めた多くのCPUとGPUを実機で検証し、その中からいまおすすめできる構成のPCだけを掲載しています。
世代が古くても実力のあるモデルは残し、性能面で納得できなかった組み合わせは、あえて外しています。
PCパーツの価格推移
🖥 GPU 価格推移🔍 最安値一覧
| GPU | 本日の最安値 | 最安ショップ | 最安値モデル | 6ヶ月の推移 | 全期間最安値 |
|---|---|---|---|---|---|
| GeForce RTX5080 | ¥329,800▲30,000 | ドスパラ | Palit NE75080019T2-GB2035S | ¥159,8002025-07-25 | |
| GeForce RTX5070 Ti | ¥224,980▼4,820 | ツクモ | PNY VCG5070T16TFXPB1-O | ¥108,0002025-09-23 | |
| GeForce RTX5070おすすめ | ¥149,800▲2,000 | ソフマップ | DUAL-RTX5070-O12G | ¥74,6702025-12-05 | |
| GeForce RTX5060 Ti16GB | ¥143,980▲180 | ツクモ | DUAL-RTX5060TI-O16G-WHITE | ¥69,8002025-10-14 | |
| GeForce RTX5060 Ti8GB | ¥89,800▼4,980 | ドスパラ | Palit NE7506TH19P1-B67DR | ¥51,8002025-10-11 | |
| GeForce RTX5060おすすめ | ¥78,800▼4,000 | ツクモ | Palit NE75060019P1-GB2063B | ¥41,9802025-12-10 | |
| GeForce RTX5050おすすめ | ¥59,800▲5,820 | ソフマップ | RTX5050GamingDUO8 | ¥32,7002025-11-16 | |
| Radeon RX9070 XTおすすめ | ¥149,800▲1,000 | ソフマップ | RX 9070 XT Steel Legend 16G | ¥74,9802026-07-29 | |
| Radeon RX9070 | ¥125,800 | ソフマップ | RX 9070 Challenger 16G RX9070 CL | ¥78,9802026-05-19 | |
| Radeon RX9070 GRE | ¥94,800 | ツクモ | GIGABYTE GV-R907GREGAMING OC-12GD | ¥79,8002026-06-26 | |
| Radeon RX9060 XT16GB | ¥84,980▼5,820 | ツクモ | RX 9060 XT Challenger 16GB OC | ¥47,9802025-12-09 | |
| Radeon RX9060 XT8GB | ¥79,800▲1,100 | ソフマップ | GIGABYTE GV-R9060XTGAMING OC-8GD | ¥37,9802025-11-12 | |
| Radeon RX90508GB | ¥49,800 | ツクモ | GIGABYTE GV-R9050GAMING OC-8GD | ¥49,8002026-08-26 |
🔍 最安値一覧
| CPU | 本日の最安値 | 最安ショップ | 6ヶ月の推移 | 全期間最安値 |
|---|---|---|---|---|
| Ryzen 79850X3D | ¥81,800▲2,357 | ソフマップ | ¥70,0502026-10-16 | |
| Ryzen 79800X3Dおすすめ | ¥71,800▲6,000 | ソフマップ | ¥57,9902026-10-31 | |
| Ryzen 77800X3D | ¥54,800 | ソフマップ | ¥46,9162026-04-25 | |
| Ryzen 77700X3D | ¥59,800 | ソフマップ | ¥45,8002026-07-25 | |
| Ryzen 79700Xおすすめ | ¥47,800▼2,000 | ソフマップ | ¥35,7802026-04-07 | |
| Ryzen 77700 | ¥37,800▼2,000 | ドスパラ | ¥35,8002026-05-24 | |
| Ryzen 57500Fおすすめ | ¥26,980▲2,180 | ソフマップ | ¥23,8002026-03-05 | |
| Ryzen 75800X3D | ¥65,300▼832 | ソフマップ | ¥56,6792026-08-11 | |
| Ryzen 75700X | ¥34,800▼2,840 | ソフマップ | ¥18,9002025-11-29 | |
| Core Ultra 7270KPlusおすすめ | ¥53,780▼2,700 | ツクモ | ¥53,7802026-11-14 | |
| Core Ultra 5250KPlus | ¥37,980▲1,000 | ドスパラ | ¥36,9802026-11-14 | |
| Core Ultra 5250KFPlus | ¥34,980▼900 | ツクモ | ¥34,9802026-11-12 | |
| Core Ultra 7265KF | ¥48,800▲7,820 | ソフマップ | ¥40,9802026-11-20 | |
| Core Ultra 7265F | ¥62,887▲7,907 | ツクモ | ¥47,9792025-06-06 | |
| Core Ultra 5225F | ¥25,280 | ソフマップ | ¥23,0002026-03-29 | |
| Core i714700F | ¥56,980▼3,000 | ドスパラ | ¥43,5002025-11-05 | |
| Core i514400F | ¥26,980▼1,000 | ツクモ | ¥19,5002025-06-17 |
管理人コメント
本棚には24層分しかないのに、真ん中を3回読み返して48層分考える。勉強熱心なモデルです。必要メモリは約20GBなので、VRAM 16GBのGPUには丸ごとは載りません。メモリが高い今、ローカルAIも視野にPCを組むなら、CPUのグレードよりメモリとVRAMの容量を優先したほうが後悔は少ないはずです。