長く働くAIをどう教えるか：長い作業記録の落とし穴とTerminalHorizon
ターミナルAIを長く働かせるには長い作業記録が欠かせない。だが記録が長いからといって学ぶものが多いとは限らない。TerminalHorizonは、先の結果が次の判断を左右する作業だけを選んで作り、検証する。
小さなモデルに教え続けながら忘却は抑える — 合成自己蒸留SynthSelf
小さなモデルに新しい能力を教えると、既存の能力を忘れてしまう。小さなモデルが学ぶ正解例を、同系列のより大きなモデルが書き直してやると忘却が減った — LG AI・KAISTの研究。
画像の中で「よく見るべき場所」だけを選んで計算を減らす — VisionWeave
アリババQwenチームによるVisionWeave。画像の中で細かく見る場所と大まかに見る場所をモデル自身が切り分け、視覚トークンを平均43%削減しながら、元モデルの98.9%の性能を維持した。
AIエージェントの訓練場をまるごと合成する — SoftwareGym を読む
コンピュータを操作するAIを教えるためのソフトウェア182本を自動で合成した研究。実アプリのベンチマーク(OSWorld)の成功率を41.39%から56.97%へ押し上げた。
画像内の位置を把握できるAIが、視点を変えるとなぜ間違えるのか
マルチモーダルAIが視点問題を間違えても、内部には正しい位置情報が存在していた。失敗は「見えていない」からではなく「見たものを視点に合わせて変換する計算」で起きる——それを切り分けた研究。
完成作同士のスコア差で生成プロセスを直す — DiffusionART
複数の生成結果のスコア差から補正方向を一つ推定し、生成の各ステップがそれを分け合って使う。タスクごとの再チューニングなしに少ないGPUで学べるDiffusionARTを読む。
実行時はAIモデルなしでコードだけで — ロボット方策COAPを解剖する
実行中はAIモデルを使わず、あらかじめ開発されたコードがロボットの状態を測定し動作を決める。RoboDojoの両腕42課題で70.24%の成功率を達成した。
検証1回の重みを減らすSpecFold: 拡散型言語モデルの冗長計算を折りたたむ
一緒に検証するドラフト候補どうしが共有する射影・FFN計算を折りたたんで再利用し、検証1回あたりのコストを下げる。ただし速度の利得と精度の変化はモデルとタスクによって分かれる。
REMORY: 要約がこぼした「エージェントの記憶」をどう補うか
長いタスクで文脈を圧縮する際、要約の隣に学習済みのメモリを付け足した研究。同じ失敗を繰り返す無駄が減り、主張と出典を結びつける力が上がった。ただし、内容を新たに見つけてくれるわけではなかった。
ぼやけても、その場所に — 三人称映像を一人称に変換するLEGO
三人称映像を一人称視点へ変換するLEGO。鮮明な入力より位置の合ったぼやけた入力がなぜ優れているのか、実験を追いながら解きほぐす。
LLMシミュレーターはどこでボロを出すか — じゃんけん実験
統制実験において、LLMは行動の頻度こそうまく当てたが、過去に応じて次の手を決める順序ルールを復元し、守り続けることには弱かった。二手前まで遡って見なければならないルールで、特に大きく崩れた。
三度考えるAI：文章ではなく判断を書き直す決定モデルSanSi
一文字も書かずに同じ層を何度も通し、判断を書き直す決定モデルSanSi。構造をそろえた非ループモデルより13.5ポイント高い72.0%の精度を出した。