複数の企業のモデルを混ぜて使うシステムで、各エージェントに「自分と相手がどのモデル系列なのか」だけをそっと伝えた。すると、同じラベルを付けられたエージェント同士が群れ、互いに派閥を作り始めた。
誰も派閥を作れとは命じていないのに、である。論文はこの現象に派閥主義(factionalism)という名前を付けた。同じ札を付けられた者同士で徒党を組む傾向、という意味だ。
どれほど悪化するのか。純粋に協力さえうまくやればいい2つのゲームで、ラベルを付けられたグループは結論に到達するまでに平均30%多いラウンドと55%多いトークンを費やした。成功率は96%から81%へ落ちた(論文アブストラクト基準)。
意外なのは、解決策が問題と同じくらい単純だという点にある。エージェントからそのラベルを隠すだけで、偏りは消えてしまう。
最近のAIシステムは、一つのモデルに全部を任せたりはしない。複数のAIエージェントを一つのチームのように束ねて仕事をさせる。これをマルチエージェントシステムと呼ぶ。そしてそのチームには、だんだん複数のベンダーのモデルが混ざるようになってきた。
ところが「このエージェントはどのモデル系列か」といった情報は、本来、仕事をするうえでは必要のない付随的な札でしかない。問題は、この札がシステムプロンプトやエージェント名、メッセージヘッダーを通じてエージェント自身にまで流れ込むケースが多いという点だ。誰もこれを使って派閥を作れとは言っていない。では、エージェントは本当にこの情報を無視するのか。これまで誰もきちんと確かめてこなかった、というのが著者らの出発点である。
実のところ、最近は賢いAIを複数そろえても見当違いの結果が出るという問題が話題になっている。モデル一つひとつはまともなのに、複数集まると互いに足並みを乱したり、どっと一方に流れたりする。マルチエージェントの失敗はおおむねモデル自体よりもモデル同士の相互作用から生じる、という観察が積み重なってきた(Cemri 外 2026; Anthropic Frontier Red Team 2026)。この論文は、その足並みの乱れのほうに顕微鏡を当てる。
著者らは派閥主義を「エージェントたちが同じアイデンティティを共有する群れへと組織化していく傾向」と定義する。エージェントたちがやり取りした発言を関係図に描いてみると、その関係図がラベルに沿っていくつかの塊に割れていく様子として現れる。その根底にあるのが同類選好(homophily)だ。同じラベルを付けられた相手に、より手厚く反応する「類は友を呼ぶ」傾向である。
ここで著者らは一つ巧妙な区別をする。同じラベル同士が少し多めに同意するからといって、必ずしも集団が割れるわけではない。同窓会を思い浮かべると分かりやすい。同じ学科の同窓同士でことさら親しげに挨拶を交わしながらも、席はみんな混ざって座る場合がある(局所的な親密さ、二人のあいだの話)。逆に、最初から学科ごとにテーブルを分けて座ってしまう場合がある(全域的な分裂、集団全体の話)。著者らはこの二つを別々に測り、両方がはっきり現れたときにだけ「派閥的」と呼んだ。同類同士で少し親しいだけでは足りない、という基準を測定設計そのものに刻み込んだわけだ。
実はこれは、人間について長く観察されてきた「最小集団バイアス」のAI版である。人間は、コイン投げのように何の意味もない基準で分けられても自分の側に肩入れする。この論文は、同じことがLLMの集団でも起きるのかを問うた。そしてその原因がモデルの中身(実際のアーキテクチャ)なのか、プロンプトに書かれた外見(ラベル)なのかまで切り分けようと、後で見る巧妙な実験を一つ用意している。
実験には五つのオープンウェイトのモデル系列が使われた。オープンウェイトとは、ソースコードは公開されていなくても、モデルの重み(学習された数値のかたまり)が公開され、誰でもダウンロードして動かせるモデルを指す。具体的にはGemma、GPT-OSS、Nemotron、Qwen、GLMである。
一回のゲームには9〜25個のエージェントが入り、名簿の大きさに応じてこのうち三・四・五系列を混ぜる。各系列を同数で入れた均衡構成と、ある系列を多めに入れた不均衡構成の両方を回した。均衡構成は「頭数が多いから群れる」という説明を消すためのものであり、不均衡構成は「多数派がいても効果は保たれるのか」を見るためのものだ。
課題は二つの協力ゲームである。
二つのゲームは同じ枠組みの上で回る。毎ラウンド、エージェントは自然言語のメッセージと投票、そして「このメッセージを誰に送るか」選んだ宛先リストを一緒に出す。次のラウンドでは、自分宛てに届いたメッセージだけを見る。誰に話しかけるかを自分で選ぶ、という点が重要だ。環境が強制しなくても、系列に沿って同類同士で接触し同意する余地を開いておいたのである。
ここに、答えが外にあらかじめ定まっている課題でも同じことが起きるのかを見るため、難しい科学の多肢選択問題集GPQA-Diamondの上にリーダー選出をそのまま載せた。選ばれたリーダーの答えがグループの答えになり、それが正しくなければ成功しない。
核心は「派閥が割れた」をどう数字で測るかである。著者らはまず「誰が誰の意見に従ったか」を関係として描いた。あるエージェントが下した決定を相手が次のラウンドでそのままなぞれば、その二者のあいだの結びつきを太く見る、という具合だ。
次に、この関係を二つの物差しで見た。ただし二つの物差しは、同じ関係を少しずつ違う形に仕立てて使う。(1)同じラベル同士のほうが結びつきが強いか。(2)実際にラベルに沿っていくつかの群れに割れるか。この二つは別の問いだ。人気投票で特定の候補をやや好むこと(1)と、その候補を中心にそもそも選挙陣営を組んで他陣営と線を引くこと(2)は、まったく別のことである。先の同窓会で見た「親しげな挨拶」と「テーブルの分離」の違いでもある。著者らは、二つの物差しが「両方とも」当てはまるときにだけ派閥と判定した。しかも何度も繰り返して偶然ではないと通った場合だけを数えたので、よほどのことがないと派閥とは呼ばない保守的な物差しである。
そして原因をラベル一つに絞り込むため、実験そのものを三重に整然と設計した。
二つの指標は、同じ「なぞり」の関係から出発しつつ、関係図を互いに違う形で組み上げて使う。(1)「同じラベル同士のほうが結びつきが強いか」は、jがiを宛先に選んで送った決定とiの次ラウンドの決定が一致する割合でエッジ重みを付け(式1)、接触量で正規化した関係図において、同じラベルのペアと異なるラベルのペアの平均重みの比であるエッジ密度比(EDR)で測り、ラベルをシャッフルする並べ替え検定で偶然かどうかを切り分ける。(2)「ラベルに沿って割れるか」は、正規化しない一致回数を双方向に合算した関係図にLouvainアルゴリズムをかけて群れを見つけ出したのち、その群れがラベル分割とどれだけ重なるかを調整相互情報量(AMI、無関係なら0・一致なら1)で得点化する。派閥主義は、この二つの指標にかけた四つの検定がすべて有意なときにだけ認める。EDR側の二つはシードごとの並べ替え検定のp値をFisher方式で結合した検定と、log(EDR)にかけた片側t検定であり、AMI側の二つは片側t検定と符号検定だ。この四つをHolm–Bonferroniで補正し、すべて通過して初めて派閥主義とみなす。偏りがエージェントの見たラベルに従うのか、その背後の実際のアーキテクチャに従うのかは、この判定とは別に、ラベルを入れ替えた実験で切り分ける。
この関係図のスコアは、相互作用の「構造」が割れたかどうかだけを見る。決定の「質」は見ない。質と効率(先に見たラウンド・トークン・成功率)は別に測った。
結論から言えば、ラベルが見えるすべての実験で派閥主義が現れ、ラベルのない実験では一つも現れなかった。均衡構成でも不均衡と同じくらい強かった。頭数の多数派が主犯ではない、という意味である。
だが、もっと面白い問いは別にある。モデルたちは「なぜ」派閥を作るのか。考えられる説明は二つだ。
設計はこの二つを切り分けて見られるようになっており、結果はラベル仮説に軍配を上げた。ラベルを実際のモデルと食い違わせると、偏りは「実際のアーキテクチャ」ではなく「食い違わせたラベル」に従った。評判も意味もない色の名前(teal、coral、silver、violet、maroon)に変えても同じで、答えが外にあらかじめ定まっているGPQA-Diamondでも同じだった。ひと言で言えば、設計どおり結果はラベルに従った。
著者らはこの結論をもう一押しで固めるため、二つの信号を直接測った(4.4節)。一つは「文体」信号で、相手の原文が自分のモデルにどれだけ自然に読めるかである。もう一つは「同調」信号で、相手の投票を自分がどれだけなぞるかだ。測ってみると、文体の類似性はあるにはあったがほとんど無視できるほど微々たるもので、ラベルを食い違わせても本物のアーキテクチャのほうに従った。一方、同調信号はラベルが付くと大きくなり、食い違わせると実際のアーキテクチャではなく「見えるラベル」に従った。結論は明快だ。モデルが文体で同族を見抜いて群れているのではない。エージェントはただ「自分が聞かされたラベル」に反応して、同じラベルの決定をより受け入れているのである。
この損失は集団が大きくなるほど開いていった。ラベルを付けられたグループはトークンをより多く使いながら成功は少ないので、成功一回あたりに支払うコストは集団が大きいほど急勾配で上がっていく。
著者らは主張の範囲をあえて狭めたと述べている。研究対象がオープンウェイトのモデル系列最大五種だという点が、その限界の核だ。
押さえておきたい点が二つある。第一に、課題が抽象的な調整ゲームとベンチマークだという点である。この整然さは原因を立証するうえでは強みだが、役割・権限・利害が絡み合う実際のソフトウェアエージェントの現場にそのまま持ち込めるかは、また別の問題だ。現実のシステムはたいてい役割と目標を持つが、そうした利害が派閥のコストを大きくするのか小さくするのかは、この設計だけでは分からない。
第二に、緩和策である「ラベル隠し」はタダではない。著者らも、全体を調整・割り振る上位層(オーケストレーター)は、どのモデルに仕事を任せるか決め、問題を追跡し、責任の所在をはっきりさせるためにアイデンティティを握っていなければならないと見ている。つまりエージェント同士がやり取りする文脈でだけ隠すのであって、システム全体がアイデンティティを捨てろという処方ではない。このバランス点を実運用でどう取るかが残された宿題だ。
では、この発見はONTLEのシステムにどう届くのか。論文の警告がそのまま当てはまりそうな場所が一つある。ONTLEのAI PMが複数の担当エージェントとともに結論をまとめる場だ。
たとえば、顧客の成果物を「承認可能」状態へ上げるかを決める会議を思い浮かべてほしい。PMエージェントが開発担当・QA担当のエージェントと意見をまとめる。ONTLEのモデルルーターは課題の性格に応じて異なるモデルを割り当てるので(チャット・受付は重い推論、実行は中程度、修正・デプロイは速いモデル)、この会議はすでに複数系列が混ざった場である。もし、やり取りされるプロンプト・ヘッダー・エージェント名に「自分はどのモデル系列」という札がまとわりついていれば、論文の結果どおり、承認の合意がラベルに沿って割れ、ラウンドをより多く回し、結論をより頻繁に出せなくなる恐れがある。コストがとりわけ大きく測定されたのがまさにこの合意型の課題だったのだから、投票で結論をまとめるONTLEの承認フローは目を向けるべき場所だ。
ここで重要なのは、これがONTLEの既存ルールとは「別の表面」の問題だという点である。ONTLEにはすでに「顧客の成果物・画面・PM回信に使用モデル名を露出しない」というルールがある。だがそれは顧客が見る表面のルールであり、理由は「格」だった。今回の論文が指し示すのは顧客ではなく、エージェント同士がやり取りする表面だ。同じ「モデル名を隠す」という衛生習慣を、これまで手を付けていなかった新しい表面にもう一度適用せよ、という話である。理由も見栄えではなく調整コストだ。
そしてここから一歩踏み込むと、ONTLEのモデルルーティング戦略そのものに問いが生まれる。ルーターは効率のために「重い推論はこの系列、速い実行はあの系列」と仕事を分ける。ところがその割り当てがエージェントたちの目に「能力による派閥」として映った瞬間、効率を狙ったルーティングが、かえって論文の警告した派閥作りの種になりかねない。性能のよいモデル同士だけを群れさせる配置が常に最善なのか、それとも時には系列をわざと混ぜ、その境界を隠すべきなのか。これはこの論文がONTLEに新たに投げかけた宿題だ。
とはいえ「能力記述子」に変えれば終わり、ではない。論文は、意味のない色の名前に変えても派閥が生まれたと述べている。核心は名前を変えることではなく、複数を同じ陣営にまとめる「カテゴリー型の札」そのものをエージェントから隠すことだ。幸い、承認会議のようにPM一人・開発一人・QA一人と役割がすべて異なる場では、役割名が「派閥」ではなく「個人の識別」として働くので比較的安全だ。危険は、同じカテゴリーのエージェントが複数に偏ったときに大きくなる。規模が大きくなるほど気を配るべき理由である。
実務に落とすと、順番はこうなる。
いいえ。論文が名指ししたのは、複数を同じ陣営にまとめる「カテゴリー型の札」(系列・色)であって、個別の識別ではありません。研究は「誰が送ったか」はそのままにして系列ラベルだけを入れ替え、偏りは番号ではなく系列ラベルに従いました。個別の送り手を区別すること自体は引き金ではありません。
この研究は、複数の系列を混ぜた集団を対象にしました。ラベルが一つしかなければ、論理的に割れる陣営そのものが存在しません。ただしこの論文が扱ったのはベンダーを混ぜて使うケースであり、単一系列での運用が持つ別の長所短所まで、この結果が語ってくれるわけではありません。