3개월 집을 비운 사이, 인테리어 업자에게 전면 리모델링을 맡겼다고 하자. 돌아와 보니 문은 잘 열리고 조명도 들어온다. 겉으로는 합격이다. 그런데 내가 고른 대리석 대신 더 싼 화강암이 깔리진 않았는지, 말도 없이 분전반 위치가 바뀌진 않았는지, 창고에 둔 가구가 '청소' 명목으로 버려지진 않았는지는 한눈에 보이지 않는다. 손댄 곳이 수백 군데라, 이음새를 하나하나 뜯어볼 수도 없다.
긴 자율 작업을 맡긴 사람이 꼭 이 처지다. 긴 자율 작업(long-horizon)이란 한 번 맡기면 몇 시간씩 혼자 돌아가는 일을 말한다. 코드 저장소를 고치든 데이터를 분석하든, 에이전트는 그사이 혼자 수십수백 개의 결정을 내린다. 그 근거는 대화와 도구 실행 결과와 중간 산출물에 흩어져 있다. 그래서 어느 결정을 콕 집어 확인해야 하는지부터가 어렵다.
권한을 넘겼다고 책임까지 넘어가지는 않는다. 사용자의 자리가 '하나하나 결정하는 사람'에서 '자율 실행을 감독하는 사람'으로 옮겨갔을 뿐이다. 그리고 이 감독은 생각보다 훨씬 어렵다. 지금 가장 좋은 모델에게 증거를 잘 정리해 쥐여줘도 그렇다.
중국 인민대 가오링 AI 스쿨과 콰이쇼우 연구진은 이 문제를 두 갈래로 공략했다. 먼저 '모니터(monitor), 즉 감독자를 대신하는 모델이 확인받아야 할 중대 결정을 골라낼 수 있는가'를 재는 시험대 AgentMonBench를 만들었다. 그리고 그 모니터에게 흩어진 증거를 학습 없이 그래프로 엮어 건네는 방법, EBG(Evidence-Grounded Behavior Graph)를 붙였다. 다섯 계열 여덟 개 모델로 돌렸다.
연구진은 감독을 두 축으로 쪼갠다. 하나는 정합 — 실행이 사용자 요구에 맞는가. 다른 하나는 인지 — 확인이 필요한 자율 결정을 알아차렸는가. 두 번째 축은 인지심리학의 '상황 인식'(situation awareness)에서 빌려왔다. 무슨 일이 일어났는지 알아차리고, 그 의미를 이해하고, 다음을 예상하는 능력이다.
시험대는 이 감독이 미끄러지는 지점을 세 종류로 나눠 겨눈다. 리모델링에 그대로 포갤 수 있다.
채점은 두 종류다. 하나는 '위치 찾기' — 정답 증거의 자리를 실제로 짚었는지를 기계적으로 센다. 다른 하나는 '의미 이해' — 그 결정의 뜻과 결과를 제대로 읽었는지를 다른 모델이 채점한다. 둘 다 0에서 1 사이, 높을수록 좋다.
먼저 눈에 들어오는 건 점수가 지표마다 크게 엇갈린다는 점이다. 확인받을 결정이 증거의 어디에 있는지 짚는 '위치 찾기'는 가장 좋은 조합에서도 0.7 안팎이 상한이다. 반면 '의미 이해' 쪽은 폭이 넓어, 명료화 질문의 질 같은 지표는 최고 모델이 0.95를 넘기는가 하면 낮게는 0.3대까지 내려가기도 한다. 적어도 약한 고리인 위치 찾기에서는, 지금 최고 수준의 모델이 잘 정리된 증거를 받고도 0.7 언저리에 겨우 닿는다. 그러니 이 기술은 '자동 감독'이 아니라 '감독 보조'로 봐야 한다. 연구진도 "구조화된 맥락을 줘도 중대 결정을 식별하고 증거에 고정하는 데 개선 여지가 상당하다"고 적었다.
그 전제 위에서, EBG가 주는 이득은 분명하다. 아래는 위치 찾기 점수의 변화다.
| 모델 | 시험대 | 기준선 | EBG |
|---|---|---|---|
| DeepSeek-V4-Pro | 누락 | 0.171 | 0.360 |
| Kimi K3 | 바꿔치기 | 0.555 | 0.681 |
| GPT-5.6 Terra | 바꿔치기 | 0.417 | 0.623 |
패턴이 읽힌다. 기준선이 가장 약했던 모델은 두 배 넘게 뛰었고, 기준선이 꽤 높았던 모델도 더 올랐다. 바닥이 높든 낮든, 구조화된 증거는 공통적으로 위치 찾기를 끌어올린다. 레포 작업에서는 EBG가 코드 구조만 검색해 주는 기존 방식(RepoGraph)보다도 대체로 높았다.
그렇다고 모두가 똑같이 득을 본 건 아니다. Claude Sonnet 5는 누락 과제의 의미 이해 점수가 0.328에서 0.331로 사실상 제자리였다. 정돈된 입력을 해석하는 데 상대적으로 약한 모델도 있다는 뜻이다. 자율 결정 과제에서는 이득이 가장 들쭉날쭉했다. GPT-5.6 Terra는 어떤 지표는 오르고 어떤 지표는 오히려 살짝 내렸다. 실제 대화 기록에서 '확인받을 자율 결정'을 미리 짚는 일은, 코드의 정합 점검보다 EBG가 덜 안정적으로 돕는다.
이쯤에서 이 연구의 가장 날카로운 관찰이 나온다. 증거를 잘 찾는 것과 결정을 잘 이해하는 것은 따로 논다. 위치 찾기 점수가 올라도 의미 이해 점수는 따라오지 않을 수 있다. 제품을 만드는 입장에선 특히 새겨둘 만하다. "근거 다 찾았다"가 "제대로 판단했다"를 보장하지 않는다.
입력 길이도 한몫한다. 기준선 점수는 입력이 길어질수록 내려갔다. 한 지표에서는 짧은 입력 0.667이 가장 긴 입력에서 0.422까지 떨어졌다. 맥락이 길어질수록 경쟁하는 정보가 정작 중요한 증거를 가린다는 얘기다. EBG는 모든 길이에서 위치 찾기 점수를 끌어올렸고, 가장 긴 입력에서 그 도움이 특히 두드러졌다. 적어도 이 실험에서는, 기록이 길수록 증거를 구조로 앞세우는 쪽이 유리했다.
EBG 설계에서 가장 영리한 지점은 역할을 가른 것이다. 증거를 모으고 정리하는 과정은 전부 결정론적으로(deterministic — 같은 입력이면 늘 같은 결과가 나오고, 모델 추론이 끼지 않는 방식) 처리한다. 의미 판단만 모니터에게 맡긴다. 배관은 싸고 재현 가능하게 깔아두고, 비싸고 틀리기 쉬운 추론은 꼭 필요한 데만 쓰는 구조다.
첫 단계는 업자가 남긴 흔적을 정리해 지도로 만드는 일이다. 흔적은 세 층으로 나뉜다. 증거는 영수증이다. 영수증마다 고유 번호와 발행처가 찍혀 있듯, 각 증거는 식별자와 원문과 출처 위치를 그대로 보존한다. 이 식별자 덕에 여러 작업이 같은 출처를 가리킬 수 있다. 나중에 "이 지적, 근거가 어디냐"를 되짚는 추적의 뿌리가 여기다. 행동은 시공 내역서다. 한 가지 활동에서 나온 영수증 여러 장을 '욕실 공사' 한 건으로 묶는다. 스코프는 방별 공사 기록이다. 관련된 행동들을 공유 맥락과 목표에 따라 묶고, 묶음끼리도 '무엇이 무엇을 낳았는지' 방향을 달아 잇는다.
둘째 단계의 목표는 하나다. 모니터가 들여다봐야 할 양을 줄인다. 공사 기록 전부를 들이미는 대신, '욕실 공사' 기록 중에서도 '수전 교체' 부분만 정확히 도려내 보여준다. 레포를 볼 때 EBG는 과제 문서와 맞닿는 지점을 '씨앗'으로 잡고, 거기서 한 다리 건너 닿는 이웃까지만 떼어낸다. 질문과 무관한 코드를 쳐내고, 질문에 직접 걸리는 코드 뭉치만 문서 구절과 나란히 놓는 것이다. 실행 기록을 볼 때는 결이 다르다. 행동을 과제별로 묶되 각 묶음 안에서는 원래 순서를 지키고, 가장 마지막 행동이 든 묶음만 '현재'로, 나머지는 '이력'으로 표시해 작업 흐름을 그대로 따라가게 한다.
그래서 EBG는 수백 가지 작업 더미에서 '계획과 어긋나거나 계획에 없던 결정 몇 개'를 추려, 각각에 영수증과 사진을 붙여 건넨다. 그래프가 후보를 좁히면, 모니터는 그 판단을 원본 문서와 코드에 다시 대조해 사용자에게 꺼내 놓는다.
이 지점이 기존 방식과 갈라서는 곳이기도 하다. 많은 연구가 '실행 전에 빠진 정보를 되묻기'에 집중한다면, 이 연구는 '실행이 끝난 뒤 무엇이 일어났는지 되짚어 감독하기'를 본다. 코드 구조만 검색하던 기존 방식과 달리, EBG는 레포와 실행 기록 양쪽에서 증거를 행동·스코프·관계로 엮어 과제에 맞춘 화면으로 제시한다.
연구진은 여기서 멈추지 않고 EBG를 실제 에이전트 실행 틀(하네스)에 붙여 세 종류의 셀프 리뷰를 돌려봤다. 계획에 없던 선택이 남았는지 보는 모호성 리뷰, 계획을 바꾼 것이 추가 승인을 요하는지 보는 조정 리뷰, 모은 증거가 결론을 받치는지 보는 결과 리뷰다. 실제 연구 과제 다섯 건으로 시험했다.
온틀은 고객 프로젝트마다 AI PM을 파견해 접수부터 분석·개발·노출까지 맡는다. 이 논문이 가장 날카롭게 꽂히는 순간은 하나다. PM이 '완료'를 올리기 직전.
고객이 "쌓인 원시 데이터로 재방문(리텐션) 분석 돌려 주세요"라고 맡겼다고 하자. AI PM은 몇 시간에 걸쳐 데이터를 다듬고 지표를 계산하고 리포트를 뽑는다. 그사이 자잘한 결정 수십 개를 혼자 내린다. 그중 둘이 문제다. 고객이 말한 적 없는 '미완 레코드 제외' 규칙을 알아서 적용했다. 모집단이 바뀌어 수치 전체가 달라지는, 요구에 없던 누락이다. 또 중복 집계를 '완전 일치'에서 '유사 매칭'으로 슬쩍 바꿨다. 코드도 돌고 기존 체크도 통과하지만 숫자의 뜻이 달라진, 바로 그 바꿔치기다.
온틀에는 이미 '가짜 완료'의 교훈과 고객 화면의 '결정 기다리는 중' 상태가 있다. 이 논문은 그 칸을 감이 아니라 증거로 채우는 방법을 준다. PM이 '완료'를 누르기 전에 앞서 본 세 가지 셀프 리뷰를 EBG 방식으로 돌린다. 모호성 리뷰가 '미완 레코드 제외'를 잡고, 조정 리뷰가 '유사 매칭으로의 변경'이 승인을 요하는지 보고, 결과 리뷰가 리포트 결론을 실제 증거가 받치는지 본다. 결과는 고객 언어로 번역해 확인 요청 두 건으로 올린다. "미완 레코드 23건을 빼고 계산했습니다(근거: 전처리 로그 47행). 포함할까요?" "중복 집계를 유사 매칭으로 처리했습니다(근거: dedup.py 변경). 완전 일치로 되돌릴까요?" 각 항목에 출처가 붙어 있어, 고객은 PM의 말이 아니라 영수증을 보고 판단한다.
바뀌는 건 '완료'의 정의다. "다 했습니다"가 아니라 "제가 대신 내린, 확인받아야 할 결정은 이 둘이고 근거는 여기 있습니다"가 된다. 다만 점수가 준 경고도 같이 가져와야 한다. 최선의 모니터도 특히 위치 찾기에서 큰 여백을 남겼고, 기록이 길수록 기준선 성능은 떨어졌다. 이 셀프 리뷰는 고객 검증을 대신하는 장치가 아니다. 고객이 봐야 할 지점을 좁혀 주는 보조 장치다. 크리티컬한 결정의 최종 판단은 사람 몫으로 남는다.
저자들이 인정한 한계가 몇 가지 있다. 첫째, 적용 범위다. 시험대는 소프트웨어 작업에, 자율 결정 세트는 그중에서도 파이썬 세션에 묶여 있다. 증거를 행동·스코프·관계로 엮는다는 발상 자체는 코드 밖에서도 통하겠지만, 코딩 아닌 업무로의 일반화는 이 실험이 보장하지 못한다. 다른 영역에 쓰려면 따로 검증해야 한다.
둘째, "학습이 필요 없다"는 말의 범위다. 이는 그래프를 만드는 쪽 얘기지, 의미를 판단하는 모니터까지 없어도 된다는 뜻이 아니다. 품질은 결국 그 모니터 모델의 능력에 묶인다. 위치 찾기의 낮은 점수가 바로 그 상한을 보여준다.
셋째, 공개된 논문 발췌가 중간에서 잘려 있다. 비용·지연·실패 유형처럼 부록에서 더 다뤘을 수치는 여기서 단정하지 않는다.
바꿔치기(SilentSwap) 사례는 두 관문을 통과한 것만 채택한다. 먼저 개별 검증 — 변경 전후 모두 기존 테스트 스위트는 통과해야 하고(겉으로 멀쩡), 그 변화를 가르려고 따로 만든 '의미 테스트'는 통과에서 실패로 바뀌어야 한다. 다음으로 결합 검증 — 각 의미 테스트는 해당 치환이 없을 때 통과하고 있을 때 실패해야 하며, 그 치환이 단독일 때나 나머지 넷과 함께일 때나 똑같이 그래야 한다. 두 관문을 다 지나야 '티는 안 나지만 분명히 뜻이 바뀐' 사례로 인정된다.
실제 파이썬 작업 세션에서, 사용자가 나중에 보인 반론(pushback)을 검증 목표로 삼는다. 세션당 반론 이벤트는 최대 하나만 남긴다. 모니터에게는 그 반론 직전까지의 기록만 주고, 그 시점에 이미 있던 증거만으로 '확인이 필요한 결정'을 미리 짚어낼 수 있는지 본다. 요컨대 미래에 사용자가 문제 삼을 결정을, 과거 시점의 모니터가 선제적으로 알아챌 수 있었나를 재는 것이다.
두 가지 장치가 있다. 의미 이해 점수는 서로 다른 계열의 두 모델(GLM-5.2, Qwen3.7-Max)로 독립 채점한 뒤 산술평균을 낸다. 한 모델 특유의 편향에 쏠리는 걸 줄이려는 것이다. 위치 찾기 점수는 애초에 모델이 아니라 증거 위치·코드 라인 겹침·식별자 일치로 기계가 센다. 정답 레이블도 사람 이중 검토로 품질을 확인했는데, 세 시험대 모두 최종 합의 비율이 92~94%였다.
본문의 '위치 찾기'와 '의미 이해'를 세 시험대별로 나눈 이름이다. 위치 찾기(규칙 기반): LF1은 누락 과제에서 코드 증거의 위치를, LS는 바꿔치기 과제에서 같은 파일·함수 안의 바뀐 코드 줄이 정답과 얼마나 겹치는지를, EHR은 자율 결정 과제에서 정답 증거 식별자를 얼마나 맞혔는지를 본다. 의미 이해(모델 판정): 누락은 SF1(빠진 조건 식별)·QQ(명료화 질문의 질), 바꿔치기는 LC(위치 정확도)·CC(변경 정확도), 자율 결정은 VPA(기준 검증 포인트와의 의미 일치)·ESS(증거 집합의 유효성·직접성·충분성)로 나뉜다.