FY26W22 AI論文まとめ

一言概要: 中間推論を言語化せず、高次元の潜在空間における反復計算だけで問題を解く、文脈内学習と再帰的潜在推論を組み合わせたモデルBDH-CQを提案した。

背景・目的: 近年の推論モデルは思考過程を言語化するチェーン・オブ・ソートに依存することが多いが、著者らは推論時の入力で再帰的な記憶を継続的に更新し、中間推論を言語化せずに高次元の潜在空間で反復計算だけで問題を解くモデルBDH-CQを提案した。

提案手法: BDH-CQは公開されているARC-AGI-1評価セットで評価され、さらにARC類似の制御された介入実験を通じて、モデルが提示例から何を学び、推論した変換をどれだけ一貫して適用し、どの概念が習得困難かを分析した。150Mパラメータという小規模な構成で性能とコストの両立を検証している。

結果: 150Mパラメータの構成は1タスクあたり0.0007ドルという計算コストでpass@2 29.5%を達成し、これまで報告されていたARC-AGI-1のコストと精度のパレートフロンティアを突破して、ベンチマークのコスト効率における新たな最高水準を確立した。

一言概要: 多様な世界の信号から状態遷移を統一的に学習し、理解・予測・行動という3つの下流タスクを横断できる汎用世界基盤モデルOrcaを提案した。

背景・目的: 従来のモデルは次トークン・次フレーム・次行動といった予測を個別に最適化してきたが、著者らは世界の状態遷移そのものを統一的に扱うNext-State-Prediction中心のアプローチにより、理解・予測・行動を統合する汎用世界基盤モデルOrcaを提案した。

提案手法: Orcaは連続動画から密な自然な状態遷移を捉える「無意識的学習」と、言語で記述されたイベントやVQA教師信号からまばらで意味のある状態遷移をモデル化する「意識的学習」という2つの補完的な枠組みで学習する。125,000時間の動画データと1億6000万件のイベント注釈からなる大規模データで事前学習し、バックボーンを凍結したまま軽量なモダリティ別デコーダのみを学習させてテキスト生成・画像予測・身体的行動生成という3つの下流タスクで潜在表現を評価した。

結果: 実験により、より強力な世界潜在表現が下流の読み出し性能をより高めることが検証され、Orcaは同規模の専門特化型ベースラインを上回った。この結果はOrcaが世界を理解・予測・行動する上で有望な汎用世界基盤モデルであることを示している。

一言概要: 版管理されたモデルとハーネスの組を経験から再帰的に改善し、LoRA混合により複数の専門役割を1つの基盤で担う経験学習型エージェントモデル群Macaron-V1。

背景・目的: 実環境での経験から学び続け、展開後も学習を継続する「経験知能」を実現するエージェントモデルには、適応(モデルとハーネスの再帰的な改善)と協調(複数の専門能力を1つの基盤で扱うこと)という2つの目標を両立する設計が求められる。

提案手法: Macaron-V1は、外部契約のもとで評価した経験から後継の版を作る再帰的な改善と、ベースモデルを凍結して専門特化型のLoRAアダプタをユーザーのターンごとに1つ選ぶMixture-of-LoRA(MoL)アーキテクチャで構成される。744B規模の旗艦モデルMacaron-V1-Ventiと50B規模のローカル向けMacaron-V1-Tallを用意し、MinT・LongStraw・MoE安定化技術などの学習基盤も整備した。

結果: Personal Intelligence・GenUI・一般的な能力ベンチマークでフロンティアモデルと比較評価した結果、現行システムの有効性が確認された一方、継続学習と集合知性による性能の複合的な向上効果については未解明な点が残ることも示された。

一言概要: デスクトップGPU1枚で720P・16FPSの長時間インタラクティブな世界動画をリアルタイム生成する行動条件付き世界モデルABot-World-0を提案した。

背景・目的: 実時間かつ長時間の閉ループ対話を要する行動条件付きの動画世界モデルには、多様なゲームやシミュレーション、インターネット動画にまたがる大規模データ基盤と、制御可能な世界力学の学習が求められるが、単一デスクトップGPUでの実時間ストリーミング展開は依然として困難だった。

提案手法: ABot-World-0は、学習フィードバックに基づきエージェントが自律収集するWorldExplorerと、14種の決定的な品質チェック・VLMによる評価・同期した行動およびテキスト注釈を組み合わせた統一パイプラインでデータを整備する。双方向の行動条件付き教師モデルを教師強制とODE蒸留で因果的な生徒モデルへ段階的に蒸留し、長時間の自己ロールアウトを拡張ホライズンの教師に合わせるLongForcingにより、累積する分布ずれと自己回帰的なドリフトを緩和する。

結果: 低ビット構成の最適化により、ABot-World-0は単一のNVIDIA RTX 5090デスクトップGPU上で720P動画を最大16FPSでストリーミングし、行動から最初のフレームまでの遅延1.2秒、ピークVRAM約19GiBを達成した。WorldRoamBenchと拡張された対話ロールアウトの実験により、競争力のある制御性と一貫した長時間の世界進化が確認された。

一言概要: モバイル・PC・ウェブを横断し、GUI操作とCLI実行を組み合わせて長時間タスクをこなす実世界志向の基盤GUIエージェントQwen-UI-Agentを構築した。

背景・目的: GUIエージェントは既存のデジタル機器を横断する汎用の実行主体になり得る。著者らは実機で確実に動作し、プラットフォームを横断してワークフローを実行し、長時間タスクを完了し、有用なサービスを自ら開始し、自律的に能力を向上させるエージェントを目指し、モバイル・コンピュータ操作・ウェブ・DeepSearchを横断する実世界志向の基盤GUIエージェントQwen-UI-Agentを構築した。

提案手法: Qwen-UI-Agentは多様なサンドボックス環境と大規模な実機モバイル実行環境を組み合わせ、GUI操作とCLI実行を織り交ぜて1回のモデルターンでまとめて行動を生成する統一行動空間を持つ。AutoResearch方式のデータフライホイールがタスクと環境を構築し、失敗を診断して次の反復を計画する。1万を超える並行環境による高速なロールアウトのもと、100ターンを超える軌道でのオンライン強化学習を行っている。

結果: モバイル利用ベンチマークで最先端性能を示し、MobileWorldで82.1%、MobileWorld-Realで92.2%、AndroidDailyで97.5%を達成した。コンピュータ操作ではOSWorld-Verifiedで79.5%、OSWorld-v2で部分進捗スコア40.0%、ブラウザ操作とGUI接地ではWebArenaで73.6%、ScreenSpot-Proで81.5%を達成し、Opus 4.8などのフロンティアモデルと競合する性能を示した。

一言概要: 曖昧な仕様に基づくプログラミング課題を、自然言語仕様からコンパクトな神経アーティファクトへコンパイルする新パラダイムProgram-as-Weightsを提案した。

背景・目的: 重要ログの検知や壊れたJSONの修復、検索結果の意図に基づく並べ替えなど、日常的なプログラミング課題の多くは明快なルールベース実装になじまず、大規模言語モデルAPIへの外部委託が増えているが、それには局所実行性・再現性・コストの面で課題があった。

提案手法: 著者らは自然言語仕様からコンパクトでローカルに実行可能な神経アーティファクトへコンパイルする「あいまい関数プログラミング」を提案し、Program-as-Weights(PAW)として具体化した。公開する1000万件規模のデータセットFuzzyBenchで学習した4Bのコンパイラが、凍結した軽量インタプリタ向けのパラメータ効率の良いアダプタを出力する仕組みである。

結果: PAWプログラムを実行する0.6BのQwen3インタプリタは、Qwen3-32Bへの直接プロンプトと同等の性能を、推論メモリ約50分の1、MacBook M3上で毎秒30トークンという速度で達成した。関数定義ごとに一度だけ基盤モデルを呼び出し、以降の呼び出しは安価かつオフラインで済む再利用可能なアーティファクトを生み出す。

一言概要: 論文単位ではなく検証可能な主張(クレーム)単位で化学文献を索引・統合する、クレーム中心の文献検索基盤AskChemを提案し実運用も開始した。

背景・目的: 化学文献の統合には多数の論文に散らばる具体的な知見の集約が必要だが、既存の文献検索システムは主に順位付けされた文献リストを返すのみで、科学者やAIエージェントは関連情報の所在確認・出典検証・複数論文にまたがる回答の組み立てを手作業で行わざるを得なかった。

提案手法: AskChemは検索の単位を論文からクレームへ変更し、各論文をDOIと逐語引用または明示的な証拠位置により裏付けられた原子的な型付きクレームに変換する。共有クレームストア上に階層的検索用の安定化されたファセット分類、クレーム間を関係で結ぶ証拠グラフ、科学的原理のもとに論文を位置づける探索的な生きた分類体系という補完的な構造を提供し、Web・REST・SDK・MCPでのアクセスも可能にしている。

結果: AskChemは現在147,000本の論文から240万件のクレームを索引している。AskChem-Benchでは、AskChemに基づき生成させたGPT-5.5が解決可能なDOIを100%示し、検索なしの場合の88.3%を上回り、比較した5システムの中で最も高い引用密度を達成した。