LLM(大規模言語モデル、人間の言葉で問いかけて答えるAI)が覚えていた事実のひとつが間違っている。これを直す方法はこれまでにもいくつもあるが、やり方によって踏み込む深さは大きく違う。なかでもモデルの「考える頭脳」にあたる重みを直接書き換える方式は脳外科手術に近く、たったひとつの事実を変えようとして、無関係なほかの知識まで揺らいでしまうリスクを抱えてきた。(重みには触れず、別に用意した記憶へ修正を外付けする方式もある — それはそれで別の難しさを抱える。)この論文(EngramEdit)は別の道を提案する。頭脳はそのままにして、そこに付いている「記憶の付箋」を数枚だけはがして書き直し、貼り直すのだ。
付箋だけを差し替えて頭脳(バックボーン)は再学習させないので、ほかの能力もおおむね保たれる。とはいえタダではない — 後で見るように特定の構造を持つモデルでしか通用しないし、「言い回しを変えると昔の答えが飛び出す」という落とし穴も残る。本稿では、その付箋をどう選んでどう書き直し貼り直すのか、そして結局のところ何が良くなり、どこまで信じてよいのかを追っていく。
事実知識編集(knowledge editing)とは、すでに学習を終えたLLMで特定の事実ひとつだけを変え、残りはそのまま保つ作業だ。たとえばモデルが「この案件の最終承認権者は金部長」と知っているのに、組織改編で承認権者が李チームリーダーに替わったとしよう。このとき、この事実だけを「李チームリーダー」に直し、ほかのプロジェクトやほかの事実は揺らがせてはならない。(論文では「Alexの所属をLab MからLab Nに変える」といった例で同じ作業を説明している。)
簡単そうに見えて難しい。モデルの内部では知識が数億個の数値に絡み合って保存されているため、ひとつを引っ張ると見当違いの事実まで一緒に揺れてしまうからだ。だからこそ「どこを」直すかが鍵になる。
この論文の鍵は、近ごろ一部のLLMが使う「条件付きメモリ(conditional memory)」という構造にある。名前は難しいが、イメージは易しい。質問が入ってくると、モデルがその質問に関連する付箋の束をあらかじめ引き出しから取り出して参照する — これが条件付きメモリだ。すべてを頭だけで覚えておく代わりに、必要なメモをそのつど取り出して見る。DeepSeekのEngramが打ち出した方式で、DeepSeek-V4.1-Flash・Qwen3.8-Flash-Nextといったモデルで規模を拡大するのに使われている。
この付箋の技術的な正体は「n-gram埋め込み(embedding)」だ。n-gramとは連続したいくつかの単語の断片のことで、埋め込みとはその断片に対応する数値のまとまりだ。つまり「よく出てくる言葉の断片」ごとに付箋(数値のまとまり)をひとつずつあらかじめ書いておき、文章にその断片が現れたら該当する付箋を取り出して頭脳(バックボーン、モデルの汎用推論部)の計算に加えてやる、という仕組みだ。(規模を拡大する似た発想に「MoE」があるが、こちらは記憶ではなく演算を条件付きで振り分けて使う。ここでは記憶の側だけを見ればよい。)
著者たちが着目したのはEngramのある実験だ。条件付きメモリをオフにすると事実知識の性能は大きく落ちるが、文脈として与えられた情報を理解・推論する能力はおおむね保たれた。「事実の保存」と「汎用推論」の役割がある程度分かれているということだ。それなら、頭脳には手を付けず付箋の中の事実だけを別に差し替えられるのではないか — これが「分離した(decoupled)知識更新」というこの論文の着想である。
問題は、付箋を取り出す単位が「事実」ではなく「言葉の断片(n-gram)」だという点だ。そのため編集が三つの方向でずれうる。
この三つは互いに引っ張り合う。これを同時に押さえることが、この論文の課題だ。
事実を直す方法は大きく二系統に分かれる。重みには触れず別の記憶に修正を持たせる系統と、モデルの頭脳(重み)を直接いじる系統だ。後者はたとえば、7番目のレイヤーのエキスパートFFNの一部(down-projection)だけをファインチューニングするFT、それに制約をかけたFT-L、小さな補助モジュールを載せるAdaLoRA、そしてUnKE・MoEEditといった専用の編集器だ。これらの共通点は汎用推論部(バックボーン)に手を入れること — 狭い部位であっても頭脳を切る脳外科手術にほかならず、事実ひとつを直す過程でほかの能力まで一緒に揺らぐリスクを常に抱えている。
EngramEditに最も近いのはMemory-FT系だ。これらも頭脳の代わりに付箋(記憶)だけを直す。だが、書き換える付箋をそのまま直接学習させて上書きするだけなので、一枚を複数の質問が共有するときに生じる衝突とにじみを御しきれない。実際、同じ条件を与えても汎化で差が開くと論文は報告している。
EngramEditはこの問題をどう解いたのか。核心は付箋を書き直す三つの段階にある。
第1段階 — 付箋に何と書くかを逆算する。まず同じ編集を、意味の同じ複数の文に言い換える。「承認権者は誰ですか?」「誰の決裁を受けるのですか?」のように言い方が変われば取り出される付箋も変わるので、より多くの枚数をカバーしようというわけだ。次に、モデルの数値はすべて固定したまま、付箋に加える「小さな修正量」だけを少しずつ動かして、モデルが新しい事実(李チームリーダー)を答えるようになる地点を探す。このとき「新しい答えを間違って言うほど大きくなるスコア(予測損失)」を減らす方向に修正量を逆算するのだが、複数の表現で測ったスコアをまとめて平均して反映するので、一度の調整が複数の表現を一緒に引っ張る。付箋を乱暴に直しすぎないよう、修正幅に上限もかけておく。
第2段階 — どの付箋が共有されているかの地図を描く。各表現が取り出して使う付箋を集め、複数の表現・複数の編集がともに使う一枚を見つけ出す。同じ一枚は一枚にまとめて「これは共有付箋だ」と印をつける。
第3段階 — 共有付箋は一括で、ありふれた付箋は慎重に直す。一枚には最終的な内容をひとつしか書けない。そこで、その一枚を使うすべての表現・編集の要求をまとめて反映し、ひとつの値に決める。このとき、直す強さを一枚ごとに変える。数多くの文章に一緒に取り出されるありふれて短い一枚は、強く直すと見当違いの答えまでにじむので強いブレーキをかけ、特定の事実にだけ使われる長い一枚は比較的自由に直す。再利用の度合いは、断片の長さと使用頻度で見積もる。
このように式を組むと、正しい修正値を複雑な反復学習なしに一度の計算できっちり求められる。だから実行するたびに同じ結果が出る。著者たちは、この値が「同じ効果を出す方法のうち、直すコストが最も小さい」答えであり、第1段階の目標が多少ぶれても結果が大きく揺れない安定性を持つことを証明している。実際の推論時には、直した付箋がいまの文章で実際に取り出されるときにだけ修正内容が反映される。
実験はLongCat-Flash-Liteという一つのモデルで、編集を一度にまとめて行うのではなく複数の束に分けて順に積み上げる方式(「逐次編集」)で進められた。比較相手は先に見たFT・FT-L・AdaLoRA・UnKE・MoEEditと、付箋を直接ファインチューニングする二つの変種Memory-FTだ。
評価は先に見た三つの軸をそのまま使う — 変えたその文で通用するか(有効性)、言い回しを変えても通用するか(汎化)、隣の事実はそのままか(特異性)。そしてこの三つを平均した総合スコアがUtilityだ。
ここには読むときに注意すべき落とし穴が二つある。有効性は「変えたまさにその文」での成功だけを見るので、有効性が高くても言い回しを変えたときに通用するかは汎化が別に見なければならない。特異性にはもっと微妙な穴がある — このスコアは「もともと正しかったものを守れた場合」だけでなく「もともと間違っていた無関係な答えが偶然正しくなった場合」まで成功として数える。だから特異性が高いからといって、ただちに「既存の知識をよく保存した」と断定はできない。著者たちもこれを認め、転移分析で補っている。
以下はCounterFactとZsREでそれぞれ2,000回を逐次に編集したあとの総合スコア(Utility)だ。
| 方法 | CounterFact (Utility) | ZsRE (Utility) |
|---|---|---|
| Pre-edited(編集前) | 35.8 | 38.3 |
| FT | 67.4 | 65.5 |
| FT-L | 37.0 | 52.7 |
| AdaLoRA | 46.6 | 60.8 |
| UnKE | 63.3 | 71.9 |
| MoEEdit | 76.6 | 69.4 |
| Memory-FT (Subject) | 81.1 | 53.4 |
| Memory-FT (All Tokens) | 67.1 | 49.3 |
| EngramEdit | 93.9 | 76.4 |
EngramEditが両データセットともUtilityで最も高い。中身を見ると性格がはっきりする。変えた文での成功(有効性)は最上位の競合とほぼ互角か、やや上回る程度だが、差がはっきり開くのは「言い回しを変えても同じ答えが出るか」(汎化)のほうだ。複数の表現にまたがって付箋を一緒に直した第1段階の設計が、ここで効いてくる。この優位は5,000回の逐次編集まで続く。(アブストラクトが言う「ほぼ完璧な編集成功」は、有効性を指す表現と読むのが安全だ。)
複数段階の推論で答えるマルチホップ(MQuAKE、3,000事例)では条件によって分かれる。すぐに答える方式ではEngramEditとFTはほぼ互角だ。一方、途中の推論を書きながら解くCoT方式では最も強い競合の約3倍の正答率を出し、4ホップの事例まで優位を保つ。途中の推論段階がまさにその事実の更新された付箋を取り出して使い、その情報が次の段階を導くからだ。(「約3倍」はCoT条件での比較にすぎず、標準方式の成績と混ぜてはならない。)
保存の側の証拠もある。5,000回の逐次編集のあとも一般能力は編集前の水準をおおむね保つ(汎用タスク群の平均成績で測る)。ほとんどのタスクは変化が小さいが、論文は二つの文が同じ意味かを判定するタスク(MRPC)で相対的に大きな下落を報告している。同じ意味かを問うときに使う二つの文が互いに別の付箋を取り出すせいで、片方だけを直した修正が二つの文に異なって作用したものと見られる。
この失敗は軽く流せるものではない。事実(付箋の内容)と「同じ意味か」を問う意味推論が、このモデルでもきれいに分離されていないという証拠だからだ。付箋だけを変えれば推論には手を付けない、というこの方法の大前提に細いひびが入っているわけだ — 記憶と推論は刃物で切るように分かれてはいない。
失敗が無作為でないという根拠もある。無関係な質問で新たに生じた誤りの大半は「更新された付箋が取り出された場合」と絡んでおり、逆に、更新された事実の付箋がひとつも取り出されなかった少数の表現が、汎化失敗のかなりの部分を占めていた。成否が結局「どの付箋が取り出されたか」で説明されるのだ。仕掛けをひとつずつ外していく実験でも、共有付箋をひとつにまとめて解く結合解法を外すとUtilityが77.4 / 50.4へと大きく落ち、再利用ブレーキに続いて表現生成まで外すと88.5 / 72.1へ下がる。結合解法が有効性を、複数の表現生成が汎化を支える主軸であることを示している。
押さえておくべき前提がある。EngramEditはEngram式の条件付きメモリを使うモデルでしか成立しない — n-gramで付箋を取り出して使う構造がなければ、「頭脳は残して記憶だけ直す」という前提そのものが消えてしまう。実験もLongCat-Flash-Liteという一つのモデルでしか行われていないので、規模やメモリ構成の異なるモデルへの一般化は、この結果だけでは断定しにくい。また、この方法はモデルが作った「複数の表現」の品質に頼るだけに、生成が特定の語順に偏ると、その分だけ死角が広がる(先に見た汎化失敗のかなりの部分が、まさにこの死角から生じた)。編集が非常に多く積み上がったとき、共有付箋をめぐる衝突がどこで限界を越えるかも、より長いシーケンスで確認すべき宿題として残る。
ONTLEのAI PMは、顧客プロジェクトごとに事実を握って仕事をする — 「この案件の最終承認権者は金部長」といった事実を。組織改編で承認権者が李チームリーダーに替われば、この事実をPMの「頭の中」で差し替えなければならない。いまのONTLEの現実的な方法はRAG(検索拡張生成: 答える直前に最新資料を文脈として差し込む方式)だ。そのつど最新の組織図を突きつけて事実性を合わせる。
ところがRAGには、質の違う要求がぶつかる。「一度会った顧客はAIが覚えていてほしい」という期待だ。そのつど文書を新たに探して参照するのと、顧客を「知っている」のとでは、体感が違う。この論文はRAGの先、モデルに顧客の事実を直接埋め込んで記憶させる第三の道を想像させる。
ただし、想像と導入は別だ。EngramEditはEngram式の条件付きメモリを持つモデルでしか成立しないが、ONTLEの現スタックはその構造ではない。この方法をAI PMに移植するには、まずn-gramで付箋を取り出して使うメモリ構造のモデルに乗り換えなければならず、編集が数千件積み上がっても共有付箋の衝突が起きないかを長いシーケンスで検証しなければならない。それまでは、これは「いま使う技術」ではなく「見守る道」だ。
代わりに、いますぐ押さえるべきものは別にある。この論文がはっきりと打ち立てた三つのものさし — 有効性・汎化・特異性 — は、RAGを使おうがモデルを直接直そうが、同じく当てはめるべき品質基準だ。承認権者の交代ひとつを反映したとき、AI PMは三つを分けて確認しなければならない。変えたその質問で李チームリーダーが出るか(有効性)、「誰の決裁を受けるのですか?」のように言い方を変えても李チームリーダーが出るか(汎化)、隣のプロジェクトの承認権者は揺らいでいないか(特異性)。とりわけONTLEのRAGは「事実を読み上げる」で終わらず、「その事実で次の行動を引き出す」ことが多い。この論文で利得が最も大きかったのも、単答ではなく推論を経て答える状況だったという点は、我々の評価が単なる照会精度を超えて「事実に基づく判断」まで測らねばならない、ということを意味する。
要点整理 - 構造の前提: n-gramで記憶の付箋を取り出して使うモデルでしか成立しない。そうでなければ「いま使う道具」ではなく設計の参考だ。 - 編集は三つの軸に分けて測れ — 有効性(変えた文)・汎化(言い回しを変えたとき)・特異性(隣の事実の保存)。RAGの品質も同じものさしで見る。 - 特異性スコアは「偶然当たった無関係な答え」まで数えるので、数字だけを信じず「もともと正しかったものを守れたか」を別に確認する。 - 事実の照会よりも「事実に基づく判断(推論)」で利得が大きい — 評価もそこまで測るべきだ。
この抜粋には、RAGと直接突き合わせたベンチマークがありません。動作の仕方も異なります — 一方は答える直前に外部資料を差し込み、もう一方はモデル内部の記憶を永続的に直します。ですから現時点では優劣ではなく、補完の関係と見るのが安全です。
いいえ。編集の前に、モデルが同じ要求を意味の同じ複数の文に自ら作って使います。ただし、この生成表現の幅が汎化の成否を大きく左右するので、「自動だから手を付けなくてよい」というより「生成品質を見なければならない」に近いです。
論文は編集を順に積み上げる方式を5,000件規模まで扱うので、同じ事実を再び直す再編集も、その流れのなかのもうひとつの編集として処理されます。ただし明示的な「取り消し・ロールバック」の手順は、この抜粋の範囲では扱われていないため断定しません。