Kimi K3.1 Pro：総パラメータ2.8兆の重みをHugging Faceで完全公開

数十GB規模のオープンモデルには見慣れてきた昨今ですが、1.56TBもの重みファイルを一挙に公開する事例は滅多にありません。

Moonshot AIは予告通り、最新マルチモーダルモデル「Kimi K3.1 Pro」の全重みをHugging Face上で一般公開しました。K3.1シリーズの第一弾であり、オープンモデルとしては世界最大級の規模を誇ります。

このクラスのモデルを事前学習するには数百万ドル規模の計算資源が投じられているのが通例です。それを誰でもダウンロードできる形で提供した判断は、開発者コミュニティに大きな衝撃を与えています。

2.8兆パラメータの超巨大MoEアーキテクチャ

Kimi K3.1 ProはMixture-of-Experts構造を採用しており、総パラメータ数は2.8兆に達します。

ただし推論時に常時フル稼働するわけではなく、1トークンあたりに活性化されるのは1040億パラメータに抑えられています。

文脈長は最大100万トークンに対応しています。超長文での計算効率を高めるため、93層のうち24層にGated DSAスパースアテンションが導入されました。

画像入力には401MパラメータのMoonViT-V2を採用し、重みをMXFP4、活性化をMXFP8とする量子化対応学習が行われています。

コーディングベンチマークのSWE Marathonや各種エージェント検証において、GPT-6 AstraやClaude Opus 5.5などの最高峰商用モデルに迫るスコアを記録しています。

1.56TBの巨大モデルをどう動かすか

性能は申し分ありませんが、手元のPCで気軽に試せるサイズではありません。

重みファイルの合計サイズは1.56TBに達し、起動には専用のエンタープライズ向けGPUクラスタが不可欠です。

リポジトリにはvLLMやSGLangを用いたサービング手順、さらには公式Dockerイメージが整備されており、インフラさえあれば即座に本番環境へ組み込めます。

個人開発者が触る場合は、HuggingChatやAPI経由での利用が現実的なアプローチとなります。

なぜ重要か

高度なセキュリティを求める企業にとって、自社専用のクラスタ上で最上位クラスのエージェントモデルを自己ホストできる価値は計り知れません。機密データを外部APIに送ることなく、高度なコード生成や文書解析を自動化できます。

業界全体で見れば、オープンモデルがカバーできる性能と規模の上限が一気に引き上げられました。2.8兆パラメータ級のMoEが公開されたことで、商用プロプライエタリモデルの独占市場に対する強力な対抗軸が形成されつつあります。

Moonshot AIのアプローチは非常に巧妙だと考えられます。莫大な開発費を投じた重みをオープン化することで圧倒的な支持とエコシステムを獲得しつつ、実質的な運用ハードルの高さが結果として同社のクラウド基盤や企業向け展開への需要を呼び込む構造を作っています。