FY26W21 AI論文まとめ

一言概要: 言葉に出さず潜在空間での反復計算だけで推論する小規模モデルが、ARC-AGIでコストパフォーマンスの新記録を打ち立てた研究。

背景・目的: 多くの推論モデルは思考過程を言語化(Chain-of-Thought)して精度を高めるが、そのぶん推論コストも増大する。本研究は、文脈内学習と再帰的な潜在空間での推論を組み合わせ、中間の思考過程を言語化せずに解答へたどり着くモデルBDH-CQを提案し、公開されているARC-AGI-1評価セットで性能を検証している。

提案手法: BDH-CQは推論時に与えられる入力で再帰的な記憶を継続的に更新し、高次元の潜在空間での反復計算によって問いに答える。著者らはARC-AGI-1に加え、制御されたARCライクな介入実験を通じて、モデルが提示例から何を学び、推定した変換規則をどれだけ一貫して適用でき、どの概念が依然として苦手かを分析している。

結果: 1億5000万パラメータの構成で、1タスクあたり0.0007ドルという計算推論コストでpass@2 29.5%を達成した。この結果は従来報告されていたARC-AGI-1のコストと精度のパレートフロンティアを更新し、ベンチマークにおける費用対効果の新たな最高水準を確立した。

一言概要: 動画やイベント注釈から統一的な「世界の潜在表現」を学び、文章生成・画像予測・行動生成の3タスクに使い回せる基盤モデルOrca。

背景・目的: 世界モデルの多くは次トークン予測・次フレーム予測・次行動予測といった個別のタスクを独立に最適化してきたが、本研究はそれらを統合し「次の状態を予測する」という観点から世界の理解・予測・行動を橋渡しする汎用の世界基盤モデルOrcaを提案する。

提案手法: Orcaは連続動画から密な自然な状態遷移を学ぶ「無意識学習」と、言語で記述されたイベントやVQAの教師信号から意味のある疎な状態遷移を学ぶ「意識学習」という2つの学習方式を組み合わせ、12万5000時間の動画と1億6000万件のイベント注釈からなる大規模データで事前学習を行う。事前学習後はバックボーンを凍結し、文章生成・画像予測・身体的行動生成という3種の軽量なモダリティ別デコーダのみを学習して下流タスクを評価する。

結果: 実験の結果、Orcaは同規模の専用モデルを上回る性能を示し、獲得した世界の潜在表現が強力であるほど下流タスクの性能も向上するという、提案パラダイムのスケーラビリティが確認された。著者らは現状の限界についても議論しており、今後の研究への手がかりを提供している。

一言概要: 複数の専門特化したLoRAアダプタを使い分けながら実運用後も継続的に学習していく、オープンなエージェントモデル群Macaron-V1。

背景・目的: デプロイ後も実環境での経験から学び続けられるエージェントモデルの実現を目指し、Macaron-V1は「適応」と「協調」という2つの目標を軸に設計された。適応はバージョン管理されたモデルとハーネスの組を経験に基づいて再帰的に改善していくことで、協調は基盤モデルを凍結したまま専門特化したLoRAアダプタをユーザーの発話ごとに選択して組み合わせるMixture-of-LoRA(MoL)アーキテクチャで実現する。

提案手法: 旗艦モデルMacaron-V1-Ventiは744BパラメータのGLM-5.2を基盤に、対話・エージェント・コーディング・GenUI用の4種のLoRAを組み合わせ、ローカル運用向けにはQwen3.6を基盤とする50BのMacaron-V1-Tallも用意する。モデルとハーネスの共同設計に基づく再帰的な自己改善ループ、GenUIハーネスUI4A、エージェント向け強化学習フレームワークMindForge、事後学習基盤MinTなどで構成される。

結果: パーソナルインテリジェンス・GenUI・一般的な能力を測るベンチマークでフロンティアモデルと比較評価し、現行システムの有効性を検証した。一方で継続学習や複数エージェントの協調から得られる効果が累積していくかどうかは、依然として今後の検証課題として残されている。

一言概要: ゲームやシミュレーション映像を学習源として、単一のデスクトップGPUだけでリアルタイム操作できる長時間インタラクティブ世界モデル。

背景・目的: ゲームやシミュレーション、インターネット動画など多様な情報源から制御可能な世界のダイナミクスを学習し、リアルタイムかつ長時間のクローズドループ操作を実現する行動条件付き動画世界モデルへのニーズが高まっている。ABot-World-0はAAAゲーム・シミュレーションエンジン・インターネット動画を横断するデータ基盤を活用してこれに取り組む。

提案手法: エージェント自身が学習フィードバックに基づいてデータを収集するWorldExplorerと、決定的な品質チェック・VLMによる評価・行動とテキストの同期注釈を行う統一パイプラインでデータを整備する。双方向の行動条件付き教師モデルを教師強制とODE蒸留で因果的な生徒モデルへ段階的に蒸留し、長時間の自己ロールアウトを長期教師モデルに整合させるLongForcingで誤差の蓄積を緩和する。

結果: 低ビット構成の最適化により、単一のNVIDIA RTX 5090上で720P映像を最大16FPS、行動から最初のフレームまでの遅延1.2秒、ピークVRAM約19GiBでストリーミング配信できる。WorldRoamBenchや長時間のインタラクティブなロールアウトによる実験でも、競争力のある操作性と一貫した長期的な世界の展開が確認された。

一言概要: 自然言語で書いた仕様を軽量なアダプタにコンパイルし、以後はオフラインで安価に実行できるようにする新しいプログラミング手法PAW。

背景・目的: ログの重要行への警告や壊れたJSONの修復、検索結果の意図に基づく並び替えといった日常的なプログラミングタスクは明確なルールで実装しにくく、大規模言語モデルAPIに任せる方法が増えているが、その分ローカルでの実行可能性・再現性・コストという点で犠牲が生じている。

提案手法: 著者らは自然言語の仕様からコンパクトでローカル実行可能なニューラルな成果物を生成する「あいまい関数プログラミング」という考え方を提案し、Program-as-Weights(PAW)として実装した。1000万件のデータセットFuzzyBenchで学習した4Bのコンパイラが、凍結した軽量なインタプリタ向けにパラメータ効率の良いアダプタを一度だけ生成し、以後はこのアダプタを繰り返し安価に実行できる。

結果: PAWのプログラムを実行する0.6BのQwen3インタプリタは、Qwen3-32Bへの直接のプロンプト入力と同等の性能を、推論メモリ約50分の1、MacBook M3上で毎秒30トークンという軽量さで達成した。これにより基盤モデルは入力のたびに解く問題解決者から、関数定義ごとに一度だけ呼び出される再利用可能な小さな成果物を作るツール製作者へと役割が変わる。

一言概要: モバイル・PC操作・ウェブを横断し、長時間タスクを自律的にこなせるよう設計されたGUIエージェント基盤モデルQwen-UI-Agent。

背景・目的: GUIエージェントは既存のデジタル機器全般を操作する汎用の実行役になる可能性を持つが、実現には実機上での信頼性ある動作、複数プラットフォームを跨ぐワークフロー実行、GUI操作とCLI実行の併用、長時間タスクの完遂、サービスの自発的な起動、能力の自律的な改善といった要素が必要になる。

提案手法: Qwen-UI-Agentはモバイル・PC操作・ウェブ・ディープサーチにまたがる実世界志向の基盤GUIエージェントで、多様なサンドボックス環境と大規模な実機モバイル実行環境を組み合わせる。GUI操作とCLI実行を1回のモデル出力でまとめて行う統一行動空間を持ち、エージェント自身がタスクと環境を構築し失敗を診断して次の改善を計画するAutoResearch方式のデータフライホイールと、1万以上の並列環境で100ターンを超える軌跡を学習するオンライン強化学習を採用している。

結果: モバイル操作系のベンチマークで最高水準の性能を達成し、MobileWorldで82.1%、MobileWorld-Realで92.2%、AndroidDailyで97.5%を記録した。PC操作ではOSWorld-Verifiedで79.5%、ブラウザ操作とGUIグラウンディングではWebArenaで73.6%、ScreenSpot-Proで81.5%を達成し、Opus 4.8やGemini 3.1 Proといった最先端モデルと競合する性能を示した。

一言概要: 論文単位ではなく出典付きの「主張」を最小単位として検索・統合できる、化学文献に特化した新しい検索基盤AskChemの提案。

背景・目的: 化学文献の統合には多数の論文に散らばった知見を組み合わせる作業が必要だが、既存の文献検索システムは論文をランキングして返すだけで、関連情報の特定・出典の確認・複数論文をまたいだ回答の組み立てを研究者やAIエージェントが手作業で行う必要があった。

提案手法: AskChemは検索の単位を論文から出典付きの「主張(claim)」へと変える基盤で、各論文を出典DOIと原文の引用または明確な根拠箇所に紐づいた原子的で型付けされたクレームに変換する。共有のクレームストアの上に、階層的な検索・閲覧のためのファセット分類、クレーム間の関係を結ぶエビデンスグラフ、科学的原理のもとに論文を位置づける探索的な分類体系という3つの仕組みを提供し、14.7万本の論文から240万件のクレームを索引化してウェブ・REST・SDK・MCP経由でアクセスできる。

結果: AskChem-Benchでの評価では、GPT-5.5による読解をAskChemに接続すると解決可能なDOIの割合が検索なしの88.3%から100%まで向上し、比較した5つのシステムの中で最も高い引用密度を達成した。AskChemはaskchem.orgで実際に稼働している。