Mellum2とは｜JetBrainsの12B MoEを「エージェントの中間層」に据える理由【2026年6月】

最前線の巨大モデルばかりに視線が集まりますが、本番のAIシステムを実際に回しているのは、もっと地味で速い小さなモデルです。2026年6月にJetBrainsが公開したMellum2は、その空いていた層を埋めるために設計されました。

Mellum2とは、JetBrainsが公開した12BのMoE型コーディングモデルである。

JetBrainsはIntelliJ IDEAやPyCharmで知られる開発ツールの会社。そのJetBrainsが、チャットボットでも対話型のコーディング補助でもなく、ソフトウェア開発システムの内部で動く「足回り」として作ったのがMellum2です。ライセンスはApache 2.0で、重みは公開済み。手元のマシンや自前インフラで動かせます。本記事の数値・仕様は2026年6月時点の公式発表に基づきます。料金やライセンス条件、モデルIDの細部は更新される場合があるため、最新情報はJetBrains公式の発表で確認してください。

Mellum2の概要｜JetBrainsが公開した12B MoEモデル

Mellum2とは、JetBrainsが2026年6月（公式ブログでの発表は6月4日）にApache 2.0ライセンスで公開した、総パラメータ12BのMoE型コーディングモデルです。前身にあたる初代Mellumは2024年に登場した4Bのコード補完モデルで、こちらはプロプライエタリ（非公開）でした。Mellum2は最初からオープンに切り替わった点が、まず大きな違いになります。

設計の狙いは明確です。JetBrainsはこのモデルを、汎用のチャット相手としてではなく、ソフトウェア開発システムの内側で雑務をこなす実務向けモデルとして位置づけています。公開時のアナウンスでも、その性格づけがはっきり示されました。

Mellum2は、別のチャットボットやコーディング補助ではない。ソフトウェア開発システムの内部で、ルーティング、Q&A、サブエージェント、プライベートなAI運用のために作られた「実務の足回り（workhorse）」モデルである。

JetBrains AI Blog「Mellum2 goes open source: a fast model for AI workflows」（blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/）より要約

12Bという規模は、最前線の大型モデル群と比べればずっと小さい部類。それでもMoEという構造を採ることで、サイズの割に推論・指示追従の力を持たせている、というのがJetBrainsの説明です。consumer hardware、つまり一般的なPCでも動かせる軽さを保ちながら、本番の処理を任せられる水準を狙った設計になっています。

公開された系統はinstruct版とthinking版の2つ。前者は質問に直接答える型、後者は推論の過程を明示的に出す型で、用途に応じて選び分けます。この2系統については後ほど詳しく整理します。

MoE構成とパラメータの読み方

MoE（Mixture of Experts、混合エキスパート）とは、モデル内部に複数の専門家ネットワークを持ち、入力ごとに一部だけを動かす仕組みのこと。Mellum2の場合、64個のエキスパートのうち8個が各トークンで活性化し、実際に計算に使われるパラメータ（アクティブパラメータ）は約2.5Bに絞られます。

ここで初心者がつまずきやすいのが、「12B」と「2.5B」という2つの数字の意味です。12Bはモデル全体が抱えるパラメータの総数。一方の2.5Bは、1回の推論で実際に火が入る分量を指します。総数が大きいほど知識の引き出しは増えますが、毎回12B全部を動かすわけではないため、計算コストとメモリ転送は2.5B相当に近い軽さで済む、という理屈になります。

この「総数は多いが、毎回動くのは一部」という構造が、速さと賢さを両立させる土台。中間層の足回りとして使うなら、ここの軽さが効いてきます。理由は次のセクションで掘り下げます。

なぜ「中間層」のモデルが必要なのか

中間層モデルとは、最前線の巨大モデルと、個別の小さな処理の間に挟まり、どのモデルに何を任せるかを差配する役割を担うモデルのことです（「中間層モデル」はJetBrainsの公式用語ではなく、Mellum2の立ち位置を説明するための本記事での呼び方です）。Mellum2はこの層に狙いを定めています。

ここ最近の話題は、どうしても最前線の大型モデル群に集中しがちでした。性能の更新が速く、ニュースになりやすいからです。ただ、本番で動くAIシステムを組んだことがある開発者なら気づくはず。実運用では、巨大モデルに全部投げる構成のほうがむしろ少ない、という現実があります。

本番システムが必ず必要とする処理は、大きく3つに分かれます。まず、受け取った要求を見て「どの専門モデルを呼ぶか」を決めるルーティング。次に、限定された範囲のタスクだけをこなすサブエージェント。そして、データを外部に出せない事情があるときのプライベートな推論です。これらはどれも、最高性能の巨大モデルを使うほどの重さは要らない一方、速さと安さ、そして自前で動かせることが強く求められます。

なぜ巨大モデルではなく専用の小型モデルなのか。その答えは、AIシステムの制御フロー（処理がどう流れていくかの組み立て）を見ると整理できます。AI関連の技術解説では、RAG（検索拡張生成）とエージェントが同じものとして語られがちですが、両者は別物です。ある技術メディアの整理によれば、RAGは「質問に答える」ために、エージェントは「目標を達成する」ために設計されており、本質的な違いは検索やツールの有無ではなく制御フローにあります。RAGは事前に決められた手順をなぞる予測可能なパイプライン。エージェントは、情報をどう集めるかを状況に応じて動的に決めます。

この「動的に決める」部分こそ、速い小型モデルの出番。要求が来るたびに、それをどう処理すべきか判断し、適切な先へ振り分ける。その判定を毎回巨大モデルに任せると、コストもレイテンシ（応答までの遅延）も跳ね上がります。判定そのものは難問ではないのに、です。だからこそ、判断の足回りに軽くて速いモデルを置く構成に意味が出てきます。Mellum2はその枠を埋めるために設計された、というわけです。

似た領域のモデルをクラウドで使う場合の料金やデータ取り扱いを比較したい場合は、姉妹記事「Kimi K2.7-Codeはクラウドで使うべきか｜料金・コーディング精度・データ取扱いをClaude・GLM・DeepSeekと比較」も判断材料になります。クラウド前提のコーディングモデルと、オンプレで動かす中間層モデルとでは、選ぶ基準そのものが変わってきます。

instruct版とthinking版の使い分け

instruct版とthinking版の違いとは、回答を直接返すか、それとも推論の過程を明示的に出力してから返すかの違いです。Mellum2はこの2系統で公開されています。

instruct版は、与えられた指示に対してそのまま答えを返す型。余計な思考過程を挟まず、入力から出力までが短いのが特徴です。ルーティングのように「この要求はコード生成か、検索か、対話か」を素早く分類して返す用途、つまり低レイテンシが優先される場面に向きます。判定結果だけが欲しいなら、推論トレースは邪魔になるからです。

thinking版は、結論に至るまでの推論ステップを明示的に出力します。なぜその判断をしたのかが追える形になるため、判断の根拠を検証したい場面で扱いやすくなります。サブエージェントが下した結論を後から点検したいとき、過程が見えるかどうかで運用のしやすさが変わってきます。

ここで一点、踏み込みすぎないよう注意が必要です。どちらが速いか、どちらが過程を出すか、という構造上の違いはJetBrainsの公開内容から言えます。一方で、個々のタスクでどちらの回答品質が高いかは別の問題。品質・体感・タスク適性は本記事では未評価です。実際の構成に組み込む前に、自分のユースケースで両方を試して確かめるのが確実でしょう。

どちらを選ぶかの判断

選び分けの軸はシンプルです。速度と即応性を最優先するならinstruct版、判断の過程を残して後から検証したいならthinking版、という当てはめになります。

ルーティングやコンテキスト圧縮のように、システムの内部でひっきりなしに呼ばれる処理では、1回あたりの応答が少しでも軽いほうが全体に効きます。この層にはinstruct版が当てやすい。逆に、サブエージェントの出力を監査ログとして残したい、あるいは誤判定の原因を追える状態にしておきたい、という要件があるなら、過程を出すthinking版の価値が出ます。両者は排他ではなく、システムの中で役割ごとに使い分ける前提で考えると収まりが良くなります。

エージェント基盤での使いどころ｜ルーティング・コンテキスト圧縮・サブエージェント

Mellum2の主な使いどころとは、エージェント基盤におけるルーティング、検索パイプラインのコンテキスト圧縮、サブエージェントのタスク処理、そしてオンプレ運用の4つです。いずれも巨大モデルを使うほどの重さは要らず、速さと自前運用が効く領域になります。

まずルーティング。受け取った要求を見て、どの専門モデルや処理経路に渡すかを判定する処理です。概念のイメージを示すと、次のような構造になります。

# 中間層モデルに「どの処理へ振り分けるか」を判定させる例（概念イメージ）
def route(request):
    # 軽量モデルが要求を分類し、呼ぶ先を決める
    label = small_model.classify(request)   # 例: "code" / "search" / "chat"
    if label == "code":
        return coding_model(request)
    elif label == "search":
        return retrieval_pipeline(request)
    return general_model(request)

このclassifyの部分にMellum2のような速い小型モデルを置くのが、中間層モデルの典型的な挿し方です。判定だけのために巨大モデルを毎回起こす必要がなくなります。

コスト面の意味も見逃せません。現在の多くのAIエージェントは、必要な情報を取りに行くたびにツール呼び出しを行う「プル型」で動きます。ある技術解説の指摘では、この方式はツールを呼ぶたびにスキーマ定義の展開やネットワーク往復が発生し、データが変わっていなくてもトークンと待ち時間を消費します。エージェント数やリクエスト数が増えるほど、この負担は積み上がっていく構造です。判定や振り分けが頻発する中間層では、1回あたりの軽さが全体のコストを左右します。だからこそ、ここに速い小型モデルを置く経済的な合理性が生まれます。

検索パイプラインのコンテキスト圧縮も用途のひとつ。検索で集めた大量の断片を、後段のモデルに渡す前に要約・圧縮する処理です。ここで「コンテキストウィンドウを広げれば全部そのまま渡せるのでは」と考えがちですが、その発想には限界があります。あるデータサイエンス系の検証では、コンテキスト窓を5段階で広げてもRAGの精度問題は解消せず、モデルは一部のデータだけから推論して、もっともらしい見た目の間違った回答を出し続けたと報告されています。RAGはあくまで断片を抽出するツールであり、全件の正確な集計や計算をこなすエンジンではない、という整理です。窓を広げて巨大モデルに丸投げすれば済む、という万能論が崩れる場面があるからこそ、適切に圧縮・整形する専用の足回りが要る。Mellum2はその役回りにも当てられます。

サブエージェントのタスク処理は、限定された役割だけをこなす小さなエージェントに任せる使い方。コードの一部分のチェック、特定フォーマットへの変換、決まった種類の質問応答など、範囲が絞られた仕事を低コストで回す層です。そしてオンプレ運用、つまりデータを外部に送れない環境での推論。重みが公開されているため、自前のサーバーやマシンに載せて、外に出さずに動かせます。

4つの用途に共通するのは、どれも「巨大モデルでなくていいが、速さと自前運用は欲しい」領域だという点。Mellum2はこの条件にまとめて応える設計になっています。

速度の位置づけ｜同時並行負荷下でのQwen比較

Mellum2の速度上の特徴とは、複数の要求を同時にさばく同時並行負荷下で、同規模帯のQwen系モデルより高速だとJetBrainsが報告している点です。中間層モデルとして頻繁に呼ばれる前提を踏まえた指標になります。

JetBrainsの公開した報告値は次の通りです。条件まで含めて読むことが大切なので、測定条件を併記します。

ここで強調しておきたいのが、「同時並行負荷下」という条件です。これは、1件ずつ順番に処理する状況ではなく、複数のリクエストが同時に押し寄せる状況での比較を意味します。ルーティングやサブエージェントのように、本番では絶え間なく並行で呼ばれる中間層の性格に合った測り方だと言えます。単発の推論でどうか、という別条件の数字ではない点に注意してください。

もうひとつ、この数字が語っているのは速度だけだという点も押さえておきたいところ。速いことと、回答の質が高いことは別の次元です。今回の報告値は同時並行負荷下のスループットに関するものであり、コーディング精度や事実確認の正確さ、エージェントとしての安定性までを保証するものではありません。品質面の評価は、組み込む構成で実際に試して判断するのが妥当でしょう。

導入と運用の前提

Mellum2の導入前提とは、Apache 2.0で公開された重みを取得し、一般的なPCや自前インフラで動かせること。クラウドの大型モデルに依存せず、手元で完結させたい構成に向きます。

JetBrainsは、重みを今日ダウンロードして手元や自前インフラで動かせると公開時に明言しています。12Bという規模とMoEによる軽さから、consumer hardware、つまり高価な専用機でなくても動かせる水準を狙った設計です。具体的に必要なメモリやスペックは構成や量子化の有無で変わるため、実際に載せる際は公式の前提条件を確認するのが確実になります。なお、前掲の速度比較はH100環境での測定値であり、手元のPCでの快適さは量子化・実行基盤・搭載VRAM次第で変わります。「普通のノートPCで快適に動く」と即断せず、実機での体感は別途確かめてください。

ライセンスはApache 2.0。これは商用利用や改変、再配布を広く許容する寛容なオープンソースライセンスとして知られています。ただし、利用にあたっては付随する条件や帰属表示の要件を含めて、ライセンス全文に目を通しておくのが安全です。「オープンだから何でも自由」と早合点せず、自分の用途が条件の範囲に収まるかを確かめてください。

オンプレ運用、つまりプライベートな推論を狙う場合の前提は、外部の推論APIへデータを送らない構成にすること。重みを手元で動かす設計であれば、推論そのものは自前環境で完結します。一方で、前のセクションでも触れた通り、外部モデル接続やWeb検索といった機能を足せば、その経路を通じてデータは外へ出ます。「ネットワークから一切出ない」のではなく「外部の推論APIへ送らない構成を維持する」という限定で捉えるのが正確です。

運用に踏み出す入口としては、まずinstruct版で軽い分類タスクを動かし、挙動を確認してから自分のエージェント構成に組み込む順序が扱いやすいでしょう。最初から本番の全経路に挿すのではなく、ルーティングの一部など影響範囲の小さいところで試すと、判定品質を見極めやすくなります。

まとめ

Mellum2は、JetBrainsが2026年6月にApache 2.0で公開した12B MoEのコーディングモデルです。整理すると次の3点に集約されます。

まず性格づけ。チャット相手の汎用モデルではなく、ルーティング・コンテキスト圧縮・サブエージェント・オンプレ推論という「中間層」を埋める足回りとして設計されました。次に構造。総数12B・アクティブ約2.5BのMoEで、サイズの割に軽く動き、同時並行負荷下ではQwen2.5-7B比21%・Qwen3-8B比79%高速とJetBrainsが報告しています。そして系統。直接答えるinstruct版と、推論過程を出すthinking版を用途で使い分けます。

次のステップとしては、まずRAGとエージェントの制御フローの違いを理解したうえで、自分のシステムのどこに判定・振り分けの処理があるかを洗い出すと、Mellum2を挿すべき場所が見えてきます。影響の小さいルーティングの一部から試し、速度と判定品質を手元で確かめてから本番の構成へ広げる進め方が無理のない流れになります。

よくある質問（FAQ）

Q: Mellum2は無料で使えますか？ A: 重みはApache 2.0ライセンスで公開されており、無償で取得して手元や自前インフラで動かせます。ライセンスには帰属表示などの条件が伴うため、利用前に全文を確認してください。

Q: ChatGPTやClaudeの代わりになりますか？ A: 役割が異なります。ChatGPTやClaudeは汎用の対話モデルですが、Mellum2はルーティングやサブエージェントなど中間層の処理に特化した設計です。対話の置き換えではなく、システム内部の足回りとして使い分ける位置づけになります。

Q: instruct版とthinking版はどちらを選べばよいですか？ A: 速度と即応性を優先するならinstruct版、判断の過程を残して検証したいならthinking版が向きます。回答品質はタスクで変わるため、組み込む構成で両方を試して判断するのが確実です。

参考資料

• Hugging Face Blog (JetBrains): Mellum2 launch
• Hugging Face: JetBrains/Mellum2-12B-A2.5B-Instruct（公式モデルカード）