メインコンテンツにスキップ

AREX-2：試行錯誤のループをモデルの内側へ移す27Bエージェントモデル

技術
解説
AREX-2は、北京智源人工智能研究院（BAAI）が2026年9月末に公開した27B（270億パラメータ）のオープンウェイト・エージェントモデルで、「提案→計測→振り返り→修正」の試行錯誤ループを、外側のプログラム（ハーネス）ではなくモ…
作者

obelos

公開

2026年11月8日

更新日

2026年11月8日

AREX-2は、北京智源人工智能研究院（BAAI）が2026年9月末に公開した27B（270億パラメータ）のオープンウェイト・エージェントモデルで、「提案→計測→振り返り→修正」の試行錯誤ループを、外側のプログラム（ハーネス）ではなくモデル自身の判断で回せるように訓練されている。機械学習エンジニアリングのベンチマークMLE-bench Liteで81.8を記録し、論文が比較した全システム（GPT-5.6 Sol、Kimi-K3を含む）を上回った。

要点は次の3つ。

  1. ループの担い手を変えた：従来はハーネスが「やり直すか」「どの版を残すか」を決めていた。AREX-2はその判断を学習で身につけている。
  2. 失敗を含む長い軌跡で学習した：成功した最終解だけでなく、失敗・後退・方針転換を含む数時間分の作業記録を教師データにし、損失は「失敗から立て直した判断」に掛けている。
  3. 時間をかけるほど伸びる：Frontier-CSでは1時間54.4→2時間65.9→5時間70.7と最後まで改善が続き、比較対象のDeepSeek-V4系は2〜3時間で頭打ちになった。

本記事は、Sam Witteveen氏の解説動画「AREX-2 - The Harness in the Model」の内容を、BAAIの技術論文とモデルカードで補って整理する。

前提：エージェントの「ハーネス」とは

LLMそのものは、入力を受け取って1回分の出力を返すだけの関数である。数時間かかる作業を任せるには、LLMを繰り返し呼び出し、ツールを実行し、その結果を次の入力に戻すプログラムが要る。この外側のプログラムをハーネス（scaffold）と呼ぶ。

従来のエージェント（AIDE、AlphaEvolve、AI Scientistなど）では、試行錯誤のループはハーネスに書かれている。「スコアが下がったら前の版に戻す」「N回試して最良のものを採用する」といった判断はコードのルールであり、LLMは毎回「1回分の解」を出す役に留まる。

AREX-2はこのループをモデルの内側へ移す。ハーネスは実行環境・採点・予算・スキルを用意するだけで、次に何を試すか、どの版を残すかはモデルが自分で判断する。論文はこの能力を「自己改善」と呼び、「同じ課題に追加のラウンドを与えるほど解が良くなること」と定義している。つまり、推論時に計算を増やすほど精度が上がる「テスト時スケーリング」を、1つの課題の中で実現する能力である。

ラウンドとは「読む・編集する・実行する・調べる」を経て解を1つ提出し、採点とログを受け取るまでの1周であり、AREX-2ではこの周回をモデル自身が回す。

自己改善を式で捉える

論文は、追加のラウンドが役に立つかどうかを2つの能力の掛け算で説明している。tラウンド目までの最良スコアをs_t、ラウンドtでの伸びの期待値をr_tとすると、初期スコアs_0から予算Tラウンドで得られる改善量は次のとおりである。

E[s_(T)] − s₀ ＝ Σ r_(t) ≈ r̄ × T*

T*は伸びが無視できない大きさで続くラウンド数、r̄はその間の平均の伸びである。r̄を決めるのが「振り返り」、T*を決めるのが「長時間実行」で、論文は両者を合わせてlong-horizon reflectionと呼ぶ。

予算Tを増やしても、効果があるのはT*までである。従来のモデルが「長く回しても途中で頭打ちになる」のはT*が短いためで、AREX-2はこのT*を延ばすことを狙っている。

論文の中心仮説は、long-horizon reflectionが特定分野に縛られない「メタスキル」だという点にある。解のどこが足りないかを見極める、次に何を変えるか決める、失敗したラウンドの後も続ける。これらは対象が学習パイプラインでも、プログラムでも、調査レポートでも同じ行為である。仮説が正しければ、学習分野は「教えやすさ」で選べばよく、学んだ能力は他分野へ移る。

AREX-2の概要

AREX-2はQwen3.8-27Bを、長時間の改善軌跡で追加学習したモデルである。BAAIのAREXシリーズ（Deep Research向けのAREX-Base 122B、AREX-Turbo）の次の世代にあたる。

項目 内容
開発 北京智源人工智能研究院（BAAI）AREXチーム
ベースモデル Qwen3.8-27B
パラメータ数 約27B（Dense、マルチモーダル：画像＋テキスト入力）
コンテキスト長 262,144トークン
ライセンス Apache 2.0（ベースのQwenの条件も併せて適用）
公開先 Hugging Face BAAI/AREX-2（Transformers・vLLM・SGLangで実行可能）
想定用途 長時間エージェント、反復的な問題解決、機械学習エンジニアリング、アルゴリズム実装、ツールを使うDeep Research

モデルカードは能力を4点にまとめている。追加のラウンドを解の改善に変える「長時間の自己改善」、スコア・ログ・エラー・実行時間を読んで次の変更を決める「フィードバック駆動の振り返り」、コーディングとML課題で学んだことがDeep Researchにも効く「領域横断の性能」、予算が増えても生産的な反復を続ける「長時間の推論」である。

27BのDenseモデルなので、4bit量子化なら24GBクラスのGPU1枚に重みが載る（KVキャッシュは別途必要）。

訓練データの作り方

AREX-2の学習の核は、「完成した解」ではなく「解を改善していく作業の記録」を教師データにした点にある。従来のエージェント学習データは1回ずつの試行で作られ、検証器を通った解だけが残る。この方法では途中の試行、受け取ったフィードバック、その後の修正が捨てられ、数時間かけて解を磨いた記録はほとんど残らない。

学習領域の選び方

MLエンジニアリングとアルゴリズム実装の2領域を選んだ理由は3つある。

  1. フィードバックが明確：検証スコアや判定結果で、修正が効いたかどうかが即座に分かる。
  2. 長く改善する余地がある：ベースラインからチューニング済みアンサンブルへ、総当たりのプログラムから最適に近い解へと、多くのラウンドで伸び続けられる。
  3. 素材が豊富：GitHubとオンラインジャッジに、問題・コード・テストが大量にある。

データ生成の3ステップ

  1. 環境を作る：教師モデルがGitHubリポジトリから、「この指標を改善せよ」という課題と、エージェントから見えない検証用分割で指標を計算する採点スクリプトを作る。オンラインジャッジの問題は、問題文・コンパイラ・サンプルケースと、隠しテストによる部分点採点に変換する。参照解が採点で動くこと、素朴なベースラインが参照解より十分低いこと（改善の余地があること）の2条件を満たす環境だけを残す。
  2. 軌跡を作る：教師エージェントを次の3条件で動かす。
    • 多いラウンド：1問に数時間・数百回のツール呼び出しの予算を与え、予算を本人に知らせる。序盤は基準解と計測、後半は改善、という配分が軌跡に現れる。
    • 運用知識：リポジトリのAPIやデータローダの仕様は課題文にない。ソースやドキュメントを読み、関連論文を調べ、小さな実験で確かめながら作業する。一部はスキル（コンテキストに入れる短い文書）として与える。汎用スキルはMLリポジトリと一般的な手法から事前に作り、課題別スキルは課題に関連する情報を検索して作る（課題そのものの資料は除外）。
    • ループ内のフィードバック：提出ごとにスコアと環境の報告を見てから次を決める。スコアを下げたラウンドも消さない。
  3. 軌跡を丸ごと選ぶ：最終スコアが参照解に対する基準を超え、形式と課題のルールを守っている（検証データから答えを復元していない、認証情報を漏らしていない等）軌跡を残す。個々のラウンドの成否は問わないので、失敗・後退・放棄した方針が軌跡にそのまま残る。

損失の掛け方

軌跡全体をコンテキストとして入れ、損失は「解を前に進めた判断」だけに掛ける。

失敗した試行はコンテキストに残るので、モデルは「立て直すべき状態」を見たうえで学ぶ。何も進めないポーリングや重複ターン、システム指示・環境の報告・検索した文書には損失を掛けない。こうしてモデルは、失敗そのものではなく「失敗を後の改善に変える応答」を学ぶ。

最後に、この軌跡と前世代AREXのDeep Researchデータ（変更なし）を混ぜてQwen3.8-27Bを追加学習した。前世代との違いは新しい軌跡だけなので、Deep Researchでの伸びは「他領域からの転移」として読める。

ベンチマーク結果

学習に使った2領域では、MLE-bench Liteで比較対象中の最高値、Frontier-CSでオープンウェイト中の最高値を出している。

  • MLE-bench Lite：Kaggle形式のML課題で、データ分析から実装・評価までを通しで行う。指標は「メダルを取れた課題の割合」（3シード平均）。
  • Frontier-CS：正解が1つに決まらないアルゴリズム課題188問（Agent Track）。部分点のある採点で、実装→テスト→提出を繰り返して解を磨く。
モデル 規模 Frontier-CS MLE-bench Lite
AREX-2 27B 70.7 81.8
GPT-5.6 Sol 非公開 76.4 72.7
Claude Opus 4.8 非公開 74.5 63.6
GPT-5.5 非公開 72.1 68.2
Naive-N0.5-Flash 309B — 73.7
Kimi-K3 2.8T — 72.7
Frontis-MA1-35B 35B — 71.2
Kimi-K2.7-Code 1T 54.7 —
DeepSeek-V4-Pro 1.6T 44.7 54.5

MLE-bench LiteではGPT-5.6 Solを9.1ポイント上回る。Frontier-CSではオープンウェイト最高のKimi-K2.7-Codeを16.0ポイント上回るが、クローズドのGPT-5.6 Solには5.7ポイント届かない。

Deep Research系の4ベンチマークは、新しい学習データを一切足していない領域である。それでもBrowseComp 84.0、HLE（テキストのみ）52.6、GAIA 92.2、DeepSearchQA 93.8となり、同じDeep Researchデータで学習した前世代のAREX（4B、122B）を4つすべてで上回った。BrowseCompではDeepSeek-V4-Pro（83.4）やKimi-K2.6（83.2）より高い。一方、BrowseCompとHLEの最上位（Kimi-K3 91.2、Claude Fable 5のHLE 64.5など）とはまだ差がある。

時間をかけるほど伸びる

AREX-2の強みは「最初の一手の強さ」ではなく「伸び続ける時間の長さ」にある。論文はこれを、採点が返ってくる場合と返ってこない場合の2条件で確かめている。

採点フィードバックあり：Frontier-CS（1問あたり5時間）

エージェントは各ラウンドで解を実装・コンパイルし、サンプルケースと自作のランダム／境界値テストを回してから提出する。提出ごとに採点結果を受け取り、次に何を変えるかを決める。

経過時間 AREX-2 DeepSeek-V4-Pro DeepSeek-V4-Flash
1時間 54.4 — —
2時間 65.9 44.7（以降横ばい） —
3時間 — 44.7 39.1（以降横ばい）
5時間 70.7 44.7 39.1

AREX-2は開始直後の得点が最高だったわけではない。予算が増えるにつれて首位に立ち、2時間目から5時間目までに4.8ポイント、最後の1時間だけで2.2ポイント伸ばした。伸び幅は小さくなるが最後までプラスで、これが「有効ラウンド数T*が長い」ことの実測である。

採点フィードバックなし：BrowseComp

BrowseCompは学習データを足していない領域で、実行中に正誤は一切返らない。AREX-2は2重ループで動く。内側のループで証拠を集めて暫定回答を作り、外側のループで自分の確信度と作業状況から「採用・精錬・やり直し」を判断する。

  • 1問あたり平均47ターン（1ターン＝LLM呼び出し1回）で正答率64.8、143ターンで84.0に上がる。
  • 同じ手順で動かした前世代AREX（122B）に対し、約140ターン時点で12ポイント以上上回る。
  • AREX（122B）の最終正答率を半分未満のターン数で超え、1ターンあたりの改善幅は約3倍。

外部から「間違っている」と教えられなくても、自分の判断で探索・再評価・修正を続けて答えを良くできる、ということになる。

アブレーション：スキルと訓練の寄与

MLE-bench Liteで「モデル」「スキル」「ラウンド数」を段階的に変えると、スキルと訓練はそれぞれ独立に効いている。M0〜M2はベースモデル、M3・M4はAREX-2で、M3・M4にはM2と同じスキルを与えている。

  1. 運用知識が最大のレバー：訓練なしでも、スキルと多ラウンドだけでベースモデルは39.4ポイント伸びる。課題に合った知識をコンテキストに入れることは、モデルを替えるより先に効く。
  2. 訓練はスキルに上乗せされる：スキルもラウンド数も同じM2とM4を比べると、モデルの違いだけで13.6ポイントの差がある。AREX-2はラウンド数が少ないM3でもM2を7.6ポイント上回る。
  3. 訓練済みモデルは追加ラウンドを伸びに変える：M3からM4へラウンド数を増やすだけで+6.0ポイント。Frontier-CSの時間推移と同じ傾向である。

「モデルの訓練」と「与える知識」は代替ではなく補完の関係にあり、本番で使う場合も両方をそろえて初めて論文値に近づく。

ハーネス設計への示唆

ループがモデルの内側に入っても、ハーネスはなくならない。役割が「判断する側」から「環境を整える側」へ移る。AREX-2自身も評価時はBAAIが最適化したハーネスの上で動いており、予算・スキル・採点環境はすべて外から与えられている。

役割 従来のハーネス AREX-2を載せるハーネス
やり直すかどうか ハーネスが決める モデルが決める
どの版を残すか ハーネスが最良版を保持 モデルが維持／差し戻しを判断
失敗の履歴 消してから再試行することが多い コンテキストに残す（学習時と同じ状態）
予算 ハーネスが回数で打ち切る 時間・ラウンド数をモデルに明示する
採点・実行環境 提供する 提供する（ここが性能の源）
運用知識 プロンプトに書く スキル文書として渡す

設計上の注意点は3つある。

  1. 2重ループにしない：ハーネス側にも独自のリトライ・ベスト版選択を残すと、モデルが「さっき失敗したので方針を変える」と判断した直後に、ハーネスがコンテキストを巻き戻して同じ試行をやり直させる、といった干渉が起きる。どちらがループの主導権を持つかを1つに決める。
  2. 予算を伝える：学習データは「予算を知らされたエージェント」が作った軌跡である。予算が分かっているからこそ、序盤に基準解と計測を置き、後半に改善を集中させる配分ができる。予算を伏せて回数だけで打ち切る設計は、学習時の前提から外れる。
  3. 段階のある採点を返す：合否だけでは「まだ成功していない」としか分からない。論文が環境構築で部分点（通過テストの割合、最良解との比）を採用したのは、各ラウンドに情報を持たせるためである。業務で使う場合も、評価関数をどう設計するかが成果を左右する。

数値を読むときの前提

  • すべて開発元の自己申告値で、第三者による再現はまだ出ていない。
  • MLE-bench Liteの81.8は、スキルをコンテキストに入れ、1課題あたり最大12時間の予算で測った値である。他モデルの値（OpenMLEによる再現値）と条件がそろっているとは限らない。
  • Frontier-CSは1問あたり最大5時間。表中の一部の他社値（DeepSeek-V4-Proなど）はBAAIによる再現値である。
  • 長時間の反復に特化した分、短い一問一答や多言語の汎用対話には向かない。

参考リンク