三度考えるAI:文章ではなく判断を書き直す決定モデルSanSi

一文字も書かずに同じ層を何度も通し、判断を書き直す決定モデルSanSi。構造をそろえた非ループモデルより13.5ポイント高い72.0%の精度を出した。
← 목록으로
온
온틀 리서치
2026년 10월 10일 更新 2026.10.16 読了 12分 閲覧 2

最近の言語モデルに寄せられる要求は、「文章を書いてほしい」よりも「判断を下してほしい」のほうが多い。このメッセージはスパムか、この案件はポリシーに合致するか、四つの選択肢のうち文書が指しているのはどれか。こうした用途のために生まれたのが型付き決定モデル(typed decision model)だ。呼び出す側が選択肢を決めておけば(スパム/正常、といった具合に)、モデルは文章を書かず、各選択肢の確率だけを返す。答えを文章から拾い出す手間がいらないので、速くてすっきりしている。そしてその確率は、自動承認・ルーティング・人間の判断に回すかどうかを分ける根拠として使われていく。

問題は、この計算が一つの判断につねに同じ量の「考え」しか割り当てないことにある。スパムを見分けるには十分だが、いくつもの段階が噛み合った判断には足りない。論文が挙げる例はわかりやすい。「オマルは正直だ。バートはオマルが真実を語っていると言う。ベンはバートが嘘をついていると言う。」ベンが真実を語っているかどうかは、文を一つずつたどって初めて解ける。こうした連鎖では、商用の決定APIの精度は1段階の100%から3段階で62.5%へと落ち込み、6段階からはコイン投げ(50%)と変わらなくなる。

一度では足りないとき、これまでの道は二つだった。より大きなモデルを使うか(その分だけパラメータ——モデルが持つ値の個数——とメモリが増える)、考えを文章として書き出させるか(トークンと時間が増え、「確率だけを返す」という約束が崩れる)。SanSiは三つめの道を選ぶ。同じニューラルネットの層に、自分の出力を再び入力として入れることを繰り返すのだ。トークンは一文字も作らず、パラメータも増やさず、内部状態だけを書き直す。即座に答える直観(System 1)と、考えを文章に書き出す推論(System 2)のあいだ——文章を介さず頭の中だけで「考えを書き直す」第三のやり方、これがSystem 1.5だ。本稿では、その「もう一度考える」がどこまで得で、どこから落とし穴なのかを追っていく。

同じ層を八回通すと

結論から言うと、構造をそろえた非ループの比較対象と対戦させたとき、ループを回したSanSiが13.5ポイント上回る(72.0%対58.4%、1万27件の判断に基づく)。構造は単純だ。骨格となる24層を一つのまとまりにしておき、そのまとまりの出力を再び入力として入れることを最大八回繰り返す。下書きを書いたあと、同じペンでその下書きを何度でも書き直すのと同じだ。このとき元の問題を改めて見せはしない。直前にまとめておいた考えだけを受け取って練り直す。層を八回通るので計算は八倍に増えるが、覚えておく値は一つも増えない。

この13.5ポイントが「ループのおかげ」かどうかを見極めるには、比較相手をうまく選ぶ必要がある。SanSiの土台はループするように事前学習された言語モデルで、非ループの比較対象には、層数と隠れ次元、ファインチューニングの条件をそろえたSmolLM2-1.7Bを立てた。ただしこの二つはパラメータ数も、事前学習済みモデルも同じではない——「ループの有無だけが違う完璧な双子」ではないのだ。そこで著者らはもう一つ確かめている。SanSiの骨格をループなしでちょうど一回だけ通したバージョンは58.6%で、非ループの比較対象(58.4%)と事実上同じだった。同じ骨格でもループを切れば比較対象の水準まで下がるということなので、13.5ポイントは骨格ではなくループから生まれた値だ。

ところが、この得はどこでも同じように出るわけではない。ひと目で決着がつく分類問題では、わずか+3.1ポイントにとどまる。逆に、複数の情報を結び付けなければならない問題で大きくなり、学習時に一度も見ていない知識問題では+17.6ポイントと最も大きい。学習データから遠ざかるほど得も大きくなった。当然の結果だ。System 1の直観で即座に解ける問題には、そもそも「考え直す」余地がない。直観が行き詰まる難しい問題でこそ、1.5の再考がようやく仕事をする。

難易度を厳密に制御して作った課題が、この点を最もきれいに示してくれる。各設問がちょうど何段階を要するかをプログラムで刻んで作った嘘つきの連鎖で、学習は8段階までしか見せていない。学習範囲の外である9〜16段階で、SanSiは72.6%を当てた。パラメータが三倍の単一通過モデルは、同じ問題で偶然の水準である50.0%にとどまった。パラメータを三倍に増やしても届かなかった深さに、ループが届いたのだ。

三度で十分だ

深く考えるほど成績は上がる。だが上がり幅のほとんどは、はじめの二、三回に入っている。SanSiという名は、これをあらかじめ知っていたかのようだ。三思、「三度考えよ」という論語の一節から来ているが、当の孔子は季文子の「三たび」について「二度で十分だ」と答えている。データも孔子の側だった。二度目のループひとつが全体の得の62%をもたらし、三度目までで88%が入ってくる。

その先は損な取引に近い。ループ8は、ループ1の答えのうち21.0%を直して正解にしたが、問題のなかった答え7.3%を逆に誤りへと変えてしまった。五回を超えると、直すのと同じだけ壊す。答えを変えはしても、より良くはできない区間だ。

コストはまさにこの地点で分かれる。八回回すと、一回よりGPU時間が7.7倍かかる。三回なら2.9倍だ。2.9倍で88%を手に入れてしまえば、残りの12%のために二倍を超える代償をさらに払う区間が確かにある。

考えるほど確信だけが膨らむ落とし穴

しかし、深く考えたからといって謙虚になるわけではない。むしろ確信だけが膨らむ。ループを回すほど、モデルは正しい答えにも、誤った答えにも、そろって自信満々になる。両方への確信が並んで上がるので、正しいときと誤っているときを分ける間隔はほとんど変わらない。より正確に、より堂々とはなるが、「自分が間違っていると気づく」能力は据え置き、ということだ。だから、確信が実際の正答率とどれだけずれているか——自信を過大に見積もる傾向を測る指標(ECE)——は、ループ3で最も良くなり(0.082)、答えがすべて定まったあとも確信だけが上がり続けて、ループ8では0.093へと逆戻りした。

System 2のように根拠を一つずつ挙げて検算する過程が、ループにはない。だから1.5の再考は、判断を練っているうちに、ある時点からは同じ判断に確信を上塗りするだけの落とし穴に陥る。精度だけを見れば後半のループは72%前後で似通っていて、どれか一つを最適と指し示すのは難しいが、確率を信頼して何かを自動で回すのなら、較正が最も良いループ3が最適点である理由がここにある。

ここで鋭い手がかりが一つ出てくる。答えがいつ定まったかが、その答えの信頼度を物語る。最後まで一度も変わらなかった答えは、82.2%が正解だった。一方、ループ8になってようやく定まった答えは、35.6%しか当たらなかった。遅く定まった判断ほど、信じられない判断だ。

良くなった能力も一つある。根拠がないときに無理やり答えるのを避ける力だ。核心となる証拠をわざと消した設問では、ループを回すほど、モデルは無理に答えを選ぶ割合を27.1%から17.5%へと減らした。確信は全体として膨らみながらも、根拠がまるごと欠けている場合はより的確に気づいた、というわけだ。

ONTLEなら、どの判断に目を配るか

ONTLEのAI PMが下す判断の多くが、まさにこの型付き決定だ。一つの場面だけ最後まで追ってみよう。顧客が「納期を2週間前倒ししてほしい」と要請する。AI PMは決めなければならない。このまま進行に回すか、人間の判断が必要な「決定待ち」に上げるか、受けられない要請として終了するか。選択肢が決まっていて、文章ではなく判断が出るべき、まさに型付き決定だ。

すると、ここまでの発見が、この場面では具体的な運用ルールへと変わる。

第一に、予算を要請の難易度に合わせる。「ロゴの色だけ変えてほしい」という要請と、「この納期が既存の契約・生産スケジュールとぶつからないか」という要請とでは、重みが違う。前者はループ一、二回で終わらせ、後者はより深く回す。すべての要請に最大ループを一律にかければ、簡単な要請でコストが漏れるだけだ。

第二に、根拠が欠けていたらでっち上げず、上げる。納期を前倒しできるかどうかは、生産スケジュールという根拠があって初めてわかる。その根拠がないとき、モデルが無理やり進行の判断を作り出す代わりに「わからない」へ傾くなら、そのまま「決定待ち」に上げ、顧客に生産スケジュールを問い返すのが正しい。しかも内部の推論を文章として吐き出さないので、顧客の画面に分析だ設計だといった内部用語が漏れる心配もない。

第三に、自動進行の確率基準はループ8ではなくループ3にかける。後半のループは精度を大きく変えないまま確信だけを膨らませるからだ。そして「答えが遅く定まったか」を補助的な手がかりとして置き、終盤になって定まった進行判断は自動執行から外し、人間のレビューの列に回す。前の節で見た「早く定まった答えと遅く定まった答え」の信頼度の違いが、この分岐を正当化する。ONTLEが見守るべき判断は、つまるところこの一つだ——この判断は、何回目のループで定まったのか。

どこまで信じるか

ループにできないことも、はっきりしている。パラメータが三倍のモデルには、ループを八回回しても1.8ポイント届かない。残る差は、多段階の推論ではなく、知識問題と曖昧な証拠に集まっている。理由は単純だ。ループは「持っている知識をどれだけうまく使うか」は引き上げても、「どれだけ多く蓄えているか」は変えられない。だから知識量がボトルネックなら、ループではなくより大きなモデルを見るべきだ。

もう二つ、押さえておきたい。一つ、この評価はすべて英語の公開データセットだ。「難しいほど得が大きい」「ループ3あたりが較正の最適」といった性質が、日本語や自分たちのドメインのデータでも同じ大きさで再現されるかは、この論文だけで断言はできない。導入の前に、自分のデータで実際に測ってみるべきだ。二つ、「根拠がないことに気づく」という良い性質も、「答えられない」とラベル付けされた公開設問での結果だ。実務の本当のグレーゾーン——根拠が曖昧に不足している場合——までカバーするかは、別途確かめるべき宿題だ。

最後に、著者ら自身も、いつループを止めるか、その停止ルールは提案しないとはっきり述べている。何回回すかは、まだ使う側が決めなければならない。だから「三度で十分だ」という本稿のタイトルは結論ではなく、あなたが自分のデータで引き直すべき線の、出発点なのだ。

よくある質問

一度呼び出すと、1回目から8回目まですべての予算ぶんの答えが一度に出るそうですが、どういう仕組みですか?

SanSiは各ループが終わるたびに、その時点での答えを出します。ですから八回まで最後まで回せば、「一度考えたときの答え」から「八回考えたときの答え」までが一度に手に入ります。ただし注意点があります。八回すべて回したあとで前のほうの答えを選んで使っても、計算が減るわけではありません——すでに八回回しているので、コストは八回ぶんそのままです。計算予算を節約したいなら、そのループで実際に実行を止めなければなりません。つまり予算がぎりぎりなら前のほうのループで切ってそこで終え、余裕があればより深く回す、という具合に、モデルを複数持たずに一つで予算を調節できる、ということです。

これを使うには、モデルをまるごと再学習しなければなりませんか?

いいえ。すでにループするように事前学習された骨格の重みはまるごと凍結しておき、その上に小さな部品だけをファインチューニングします。骨格には手を触れず一部だけを差し替える軽量技術(LoRA)で、足す値はわずか6,100万個です。16問ずつ1,000ステップで終わります。学習が軽いことが、この方式の実用上の利点です。

商用の決定APIより性能が良いのですか?

精度だけを見れば、違います。著者らが比較に入れられなかった商用の決定APIが、全体で78.9%と最も高いものでした。ただしそのAPIはサイズと学習データが公開されておらず、「同じ条件でループが上乗せする値」を測る統制比較には入れられませんでした。この論文の貢献は最高スコアではなく、ループが正確にどれだけ上乗せするかをきれいに切り分けて見せた点にあります。

この決定モデルを、別のモデルの学習に使うこともできますか?

できます。正解ラベルなしで生成モデルを学習させるとき、この決定モデルを唯一の採点者(報酬)として使ったところ、生成モデルの性能スコア(精度と再現率を合わせて見るF1)が39.5から47.3へと7.7ポイント上がりました。よく較正された決定モデルは、それ自体が使える審判になるという手がかりです。

参考資料