한 언어모델이 시간을 두고 도착하는 정보를 100번에 걸쳐 순차적으로 학습하면, 나중 학습이 앞선 학습을 지워버리는 '파국적 망각'이 일어납니다. 이 논문은 이 문제를 정면으로 다루기 위해 '장기 기억(long-horizon memorization)'이라는 설정을 새로 정의하고, 서로 다른 원인을 잡는 여러 지속학습 기법을 '조합'하면 각 기법 단독보다 훨씬 잘 기억한다는 것을 체계적 실험으로 보였습니다. 핵심 조합은 최종 평균 기억률을 단순 순차 미세조정의 1.2%에서 34.9%로, 약 28배 끌어올렸습니다.
언어모델은 한 번 학습하고 끝나는 것이 아니라, 새로운 정보가 계속 들어오는 상황에 놓일 때가 많습니다. 어제 배운 사실 위에 오늘 새 사실을 얹고, 내일 또 얹는 식입니다. 문제는 이 과정을 반복하면 모델이 예전에 배운 것을 잊어버린다는 점입니다. 이것을 '파국적 망각(catastrophic forgetting)'이라고 부릅니다.
비유하자면 이렇습니다. 화이트보드 하나에 매일 새로운 메모를 덮어쓰는데, 이전에 적은 것을 따로 보관하지 않는다고 해봅시다. 처음 며칠은 괜찮지만, 100번쯤 덮어쓰고 나면 맨 처음 적었던 내용은 거의 남아 있지 않습니다. 모델의 가중치(weight, 모델이 학습한 내용을 담는 숫자 값들)도 비슷합니다. 새 과제를 배우려고 값을 계속 조정하다 보면, 예전 과제를 위해 맞춰뒀던 값이 밀려나 버립니다.
이 논문은 이 문제를 아주 가혹한 조건에서 검증합니다. 저자들이 정의한 '장기 기억' 설정에서는 모델이 100개의 질의-응답(query-answer) 과제를 순차적인 지도 미세조정(continual supervised fine-tuning)으로 학습합니다. 이때 두 가지 제약이 붙습니다. 첫째, 앞서 배운 원본 학습 예시를 따로 저장해뒀다가 다시 꺼내 쓰지 않습니다(과거 데이터 원본의 저장·재사용 금지). 둘째, 추론(inference) 시점에 "이건 몇 번째 과제야"라는 식별자(task identifier)를 주지 않습니다. 즉 모델은 힌트 없이 100개 과제를 스스로 구분하고 기억해야 합니다.
저자들이 여러 기존 지속학습 기법을 하나씩 시험해본 결과, 이 정도로 긴 지평(horizon)에서 강한 기억력을 유지하는 단일 기법은 없었습니다. 그래서 이들은 발상을 바꿉니다. "하나로 안 되면, 서로 다른 원인을 잡는 기법들을 합치면 어떨까?"
논문의 가설은 이렇습니다. 망각에는 서로 다른 원천(sources of forgetting)이 있고, 각기 다른 원천을 겨냥하는 기법들은 '상호 보완적'이므로 조합했을 때 더 효과적일 것이다. 저자들은 이 조합을 두 개의 설계 축(design dimension)으로 정리합니다.
첫 번째 축은 '무엇을 지킬 것인가'입니다. 매번 새 학습을 할 때, 이전 정보를 어떻게 붙잡아 둘지를 정하는 '앵커(anchor, 닻)'입니다. 세 종류가 있습니다.
두 번째 축은 '어디에 저장할 것인가'입니다. 저자들은 저순위 배분 규칙(low-rank allocation rule)을 사용합니다. 여기서 등장하는 것이 LoRA(Low-Rank Adaptation)입니다. LoRA는 모델 전체를 뜯어고치지 않고, 작은 '덧붙임 모듈'만 학습해 변화를 저장하는 방법입니다. 큰 그림에 직접 덧칠하는 대신, 투명한 얇은 필름을 한 장씩 올려 수정하는 것과 비슷합니다. 원본은 덜 훼손되고, 수정 내용은 필름에 남습니다.
'저순위 배분 규칙'은 이 필름들을 어떻게 배치하고 관리할지를 정합니다. 새 과제마다 어디에 변화를 담고, 여러 과제의 필름을 어떻게 겹칠지의 문제입니다. 논문의 최고 성능 조합은 여기서 '병합 LoRA(merged LoRA)'를 씁니다. 여러 과제에서 학습한 LoRA 모듈들을 하나로 합쳐 관리하는 방식입니다.
정리하면, 앵커는 '무엇을 보존할지'를, 저순위 배분은 '어디에 남길지'를 담당합니다. 이 둘을 곱하면 꽤 많은 조합이 나옵니다. 문제는 조합의 수가 폭발적으로 많다는 것입니다.
이 방대한 설계 공간을 뒤지기 위해 저자들은 두 가지 실험 방법을 씁니다.
또한 이 가설을 제대로 검증하기 위해 저자들은 서로 뚜렷이 다른 100개 과제짜리 기억 데이터셋을 세 개 직접 구성했습니다. 한 데이터셋에서만 잘 되는 우연을 배제하려는 설계입니다.
초록이 밝히는 핵심 결과는 명확합니다.
| 항목 | 초록에 명시된 값 |
|---|---|
| 단순 순차 미세조정의 최종 평균 기억률 | 1.2% |
| 최고 조합의 최종 평균 기억률 | 34.9% |
| 향상 배수 | 약 28배 |
| 최고 조합의 순위 | 세 데이터셋 모두에서 상위 3위 안 |
최고 성능 방법은 세 종류의 앵커(데이터·함수·가중치)를 모두 쓰고, 여기에 병합 LoRA를 결합한 것입니다. 이 조합은 세 데이터셋 전부에서 상위 3위 안에 들어, 특정 데이터에만 통하는 요행이 아니라는 점을 보였습니다.
특히 흥미로운 발견은 '어떤 기법이 가장 크게 기여했는가'입니다. 초록에 따르면 데이터 앵커와 병합 LoRA가 평균적으로 가장 큰 이득을 주었고, 이 둘은 세 데이터셋 모두에서 '초가법적(super-additive)'으로 상호작용했습니다. 초가법적이라는 말은, 두 기법을 따로 쓴 효과를 단순히 더한 것보다, 함께 썼을 때의 효과가 더 크다는 뜻입니다. 1 더하기 1이 2보다 큰 셈입니다. 이것이 바로 이 논문의 중심 주장(상호 보완적 기법을 조합하면 시너지가 난다)을 뒷받침하는 실증적 증거입니다.
의미를 요약하면, 장기 기억 문제에서 '단 하나의 마법 같은 기법'을 찾는 접근보다, 서로 다른 망각 원인을 각각 겨냥하는 기법들을 신중하게 조합하는 접근이 훨씬 멀리 간다는 것입니다.
솔직하게 짚어야 할 점들이 있습니다.
첫째, 34.9%라는 수치는 분명 단순 방식(1.2%) 대비 극적인 향상이지만, 절대적으로 보면 여전히 100개 과제 중 상당수를 잊는다는 뜻이기도 합니다. 장기 기억은 크게 개선됐을 뿐 '해결'된 것은 아닙니다.
둘째, 이 설정은 100개의 질의-응답 과제라는 특정 형태의 기억을 다룹니다. 초록만으로는 각 과제의 구체적 성격, 데이터셋의 규모, 과제 간 유사성 같은 세부를 알 수 없습니다. 실제 제품에서 마주치는 훨씬 다양하고 뒤섞인 정보 흐름에 그대로 옮겨질지는 별도 검증이 필요합니다.
셋째, 최고 조합은 세 앵커와 병합 LoRA를 모두 쓰기 때문에 구성요소가 많습니다. 그만큼 구현·튜닝 비용과 연산 부담이 어느 정도인지, 그리고 과제 수가 100을 넘어 계속 늘어날 때도 이 이점이 유지되는지는 앞으로의 질문으로 남습니다. (이런 세부 수치는 초록에 없으므로 여기서는 단정하지 않습니다.)
온틀은 AI 프로젝트 매니저를 파견하는 서비스입니다. AI PM은 본질적으로 '시간을 두고 계속 새로운 것을 배워야 하는' 존재입니다. 어제의 회의 결정, 지난주의 고객 요구, 한 달 전 프로젝트의 맥락을 잊지 않고 쌓아가야 제대로 된 매니저 노릇을 합니다. 이 논문이 다루는 '장기 기억'은 바로 그 능력의 핵심 난제입니다.
이 연구가 실무 제품에 주는 시사점을 몇 가지로 정리합니다.
다만 34.9%라는 결과가 알려주듯, 완전한 기억은 아직 먼 목표입니다. 실무에서는 모델의 내부 기억에만 기대기보다, 검증 가능한 외부 기록(문서·DB)과 결합해 '잊어도 다시 찾을 수 있는' 안전망을 함께 두는 것이 현실적인 접근입니다.
언어모델이 새로운 과제를 배우려고 내부 값(가중치)을 조정하는 과정에서, 예전 과제를 위해 맞춰뒀던 값이 밀려나 이전에 배운 것을 잊어버리는 현상입니다. 화이트보드에 계속 덮어쓰면 처음 메모가 사라지는 것과 비슷합니다.
초록에 따르면 단순 순차 미세조정의 최종 평균 기억률이 1.2%인데, 세 앵커와 병합 LoRA를 결합한 최고 조합은 34.9%를 기록해 약 28배 개선됐습니다. 다만 절대값 34.9%는 여전히 상당수를 잊는다는 뜻이므로, 문제가 완전히 해결된 것은 아닙니다.
앵커(데이터·함수·가중치)는 '무엇을 보존할지'를 정합니다. 여기서 데이터 앵커는 원본을 저장해 두는 것이 아니라, 직전 모델로 과거 정보를 담은 가상 데이터를 만들어 새 학습에 섞는 생성 재학습(generative replay)입니다. 저순위 배분 규칙과 병합 LoRA는 '변화를 어디에 남길지'를 정합니다. 논문은 이 두 축을 조합할 때, 특히 데이터 앵커와 병합 LoRA가 서로를 초가법적으로 강화한다는 점을 보였습니다.
연구 설정은 100개 질의-응답 과제라는 특정 형태의 기억을 다루므로, 실제 제품의 다양한 정보 흐름에 그대로 적용되려면 추가 검증이 필요합니다. 다만 '서로 보완적인 기억 기법을 조합하라'는 원칙과 '원본을 쌓아두지 않고, 과거 정보를 스스로 재생성해(생성 재학습) 식별자 없이 버티는 설계'라는 방향성은 실무 에이전트 설계에 유용한 지침이 됩니다.