메타가 9월 8일 내놓은 개인 AI 에이전트 앱 '뮤즈(Muse)'는 6일 만에 다운로드 90만 건을 넘겼다. 이후 9월 18일, 출시 열흘 만에 미국 앱스토어 무료 앱 1위에 올라 챗GPT를 그 자리에서 끌어내렸다. 2주 시점의 외부 추정으로는 280만 건 안팎까지 갔다(공식 수치는 아니다). 흥행만 보면 흠잡을 데가 없다.
그런데 같은 2주 동안 터진 잡음이 다른 이야기를 한다. 아마존은 뮤즈를 막았고, 메타는 자기 실험 하나를 스스로 접었다. 이 두 사건이 가리키는 방향은 하나다. 에이전트 경쟁의 승부처가 "모델이 얼마나 똑똑한가"에서 "그 똑똑함을 믿고 맡길 수 있게 설계했는가"로 옮겨가고 있다. 성능이 무의미해졌다는 말이 아니다. 성능은 기본값이 됐고, 그 위에 신뢰 설계가 새로운 필수 조건으로 얹혔다는 말이다.
여기서 AI 에이전트란, 대화만 주고받는 챗봇을 넘어 사용자 대신 실제로 일을 저지르는 프로그램을 뜻한다. 이 한 끗 차이가 모든 걸 바꾼다.
뮤즈의 핵심은 '대화'가 아니라 '대행'이다. 답을 주는 챗봇을 넘어, 사용자 대신 이메일을 보내고 여행을 예약하고 브라우저를 열어 양식을 채우고 흥정까지 한다. 앱을 꺼도 뒤에서 일이 계속 돈다. 이메일·캘린더·결제·건강·쇼핑에 연결돼, 여러 단계짜리 목표를 최소한의 감독만 받고 밀고 나가는 구조다.
챗봇 시대의 성공은 "답이 맞았나"였다. 에이전트 시대의 성공은 "일이 끝났나"다. 사소해 보이지만 이 차이가 제품을 뿌리부터 바꾼다. 답은 틀려도 다시 물으면 그만이지만, 실행은 틀리면 되돌려야 한다. 잘못 보낸 메일, 잘못 결제한 주문처럼. 그래서 "실행 직전에 멈춰 세우는 장치"가 제품의 변두리가 아니라 한복판으로 올라온다.
뮤즈의 발표문을 뜯어보면 자랑의 무게중심이 바로 거기 있다. 뮤즈는 사용자마다 클라우드에 격리된 전용 컴퓨터(Muse Secure VM)를 받는다. 내 PC가 아니라 클라우드에 따로 띄운 1인용 컴퓨터이고, 다른 사람의 에이전트는 들어올 수 없다. 비밀번호와 결제 정보는 별도 금고에 떼어 보관한다. 민감한 행동 직전에는 감시 역할의 에이전트(Sentinel)가 "이거 해도 되나요"라고 사용자에게 승인을 받는다. 더 똑똑한 모델을 늘어놓은 게 아니라, 믿고 맡기게 만드는 울타리를 발표문 한가운데 깔아 둔 것이다.
돈을 버는 그림도 여기에 맞물린다. 뮤즈엔 결제가 처음부터 박혀 있고(스트라이프 Link 연동), 요금은 토큰 단위다. 토큰은 AI가 처리한 글·이미지의 양을 재는 사용량 단위다. 다만 메타는 구독료보다 거래 수수료 쪽을 길게 본다. 에이전트가 대신 사 주는 물건마다 수수료를 떼겠다는 것이다. 즉 에이전트는 그동안 검색 광고가 앉아 있던 자리, 사려는 사람과 파는 사람 사이의 길목에 새로 앉는다. 광고 회사인 메타가 전력으로 뛰어든 이유가 여기 있다. 이미 생태계도 붙고 있다. 외부 서비스를 뮤즈에 이어 주는 연결 통로(커넥터)를 만들겠다는 개발자 신청이 공개 일주일 만에 1,500건을 넘었다.
첫 번째 잡음. 아마존이 보안과 약관 위반을 이유로 뮤즈의 자동 구매를 막았다. 놀랄 일이 아니다. 에이전트가 사용자 대신 쇼핑몰을 돌아다니면, 쇼핑몰 입장에선 광고를 볼 눈도, 추천을 누를 손도 사라진다. 트래픽은 있는데 '사람'이 없다. 웹의 돈은 사람의 눈을 전제로 설계돼 있는데, 에이전트가 그 전제를 깬다.
그래서 이 다툼은 트래픽 성격 싸움이 아니라 웹의 경제 주도권 싸움이다. 사용자의 의도를 누가 쥐고, 거기서 생기는 이익을 누가 가져갈 것인가. 앞으로 사이트마다 "에이전트를 손님으로 받을까, 침입자로 막을까"를 두고 다른 답을 낼 것이고, 그 답들이 모여 에이전트 시장의 지도가 된다.
여기서 승부의 절반이 유통으로 갈린다. 뮤즈의 초반 곡선은 제품력만으로 나온 게 아니다. 수십억 사용자를 가진 회사가 앱을 밀면 곡선은 그렇게 솟는다. 사용자와 닿는 접점(폰·메신저·안경·운영체제)을 쥔 회사와, 모델만 가진 회사의 격차는 챗봇 때보다 오히려 더 벌어진다. 결국 길목(유통)과 통행료(수수료)를 한 손에 쥐려는 싸움이다.
두 번째 잡음이 더 흥미롭다. 메타는 직원을 대상으로 한 내부 시험에서, 뮤즈가 거는 전화 일부를 사람 컨트랙터에게 넘겨 처리하는 실험을 했다. 컨트랙터란 외부에서 건당으로 일을 받아 처리하는 하청 인력을 말한다. 그런데 "이 통화에 사람이 낄 수 있다"는 안내가 부족했다는 내부 지적이 나오자, 메타는 그 실험을 거둬들였다. 일반 사용자에게 풀린 기능도 아니었다. 그런데도 조용히 접었다는 사실 자체가 신호다.
여기서 드러난 건, 신뢰의 대상이 넓어졌다는 점이다. 예전엔 AI가 '내놓은 결과'만 믿을 수 있으면 됐다. 이제는 AI가 '일하는 과정'까지 믿을 수 있어야 한다. 사용자는 결과물 뒤에서 무슨 일이 벌어졌는지 — 누가 내 전화를 들었는지, 내 대화가 어디로 흘러갔는지 — 까지 의심하기 시작했다. 대화가 학습에 기본으로 쓰이고 메모리를 완전히 끌 수 없다는 점이 프라이버시 비판의 단골인 것도 같은 결이다. 과정이 보이지 않으면, 결과가 맞아도 믿지 못한다.
그래서 시장은 신뢰 장치를 표준으로 굳히는 쪽으로 간다. 한때 웹 주소가 http에서 https로 넘어가며 자물쇠 표시가 기본이 됐듯 — 지금은 그 자물쇠 없는 사이트를 아무도 안 믿는다 — 에이전트도 '격리된 실행 공간 + 실행 전 승인 + 되짚어 볼 수 있는 기록' 세 가지를 기본값으로 받아들이는 중이다. 이 셋 없이 깊은 권한을 요구하는 에이전트는, 아무리 똑똑해도 신뢰를 얻지 못한다.
그렇다면 신뢰 설계는 무엇으로 판가름날까. 세 가지를 보면 된다. 묻지 않고 저질러 버리는 '무단 실행'을 막는가. 반대로 사소한 일까지 매번 승인을 물어 사용자를 지치게 하지는 않는가. 그리고 기어이 틀렸을 때 되돌릴 수 있는가. 모델 벤치마크 점수가 아니라 이 셋이 에이전트의 진짜 성적표다.
개인용 AI 에이전트를 둘러싼 이 소동 속에서, 낯익은 질문 하나가 떠오른다. "어떻게 AI에게 믿고 일을 맡길 것인가."
이 신뢰 설계의 문제는 개인용 AI에만 국한되지 않는다. 오히려 기업 일, 특히 여러 사람이 얽힌 복잡한 프로젝트에서 그 무게가 더 커진다. 개인은 잘못 예약한 호텔을 혼자 취소하면 그만이지만, 회사 일은 틀린 산출물 하나가 고객 앞으로 나가는 순간 수습이 어렵다.
온틀은 바로 이 지점에 붙어 있는 서비스다. 개인 비서가 아니라, 일하는 조직에 AI 프로젝트 매니저를 파견한다. 기업을 상대로 하는 사업(B2B)이라 고객층은 뮤즈와 겹치지 않는다. 그런데 풀어야 할 문제는 거의 같다. 깊은 권한을 받은 AI가 사고 없이 일을 끝내게 만드는 것.
구체적인 장면 하나로 따라가 보자. 고객이 작업 도중 "납기를 사흘 앞당겨 달라"고 요청한다. 온틀의 AI PM은 일정을 다시 짜고, 바뀐 날짜를 반영한 산출물을 고객에게 보내려 한다. 여기서 결과물은 곧장 나가지 않는다. 먼저 이중검증 게이트를 지나야 한다. 서로 다른 두 시선으로 두 번 확인해, 한쪽이 놓친 걸 다른 쪽이 잡는 장치다. 예컨대 본문 요약에는 앞당긴 날짜가 반영됐는데 첨부한 일정표에는 옛 날짜가 그대로 남아 있다면, 첫 번째 검토가 지나쳐도 두 번째가 걸러낸다. 걸리면 작업은 멈추고 사람 손으로 넘어온다.
실행을 반복하는 자동 루프에도 "여기서 멈춰라"는 종료 조건과 승인 지점을 미리 박아 둔다. AI가 폭주하거나 같은 실수를 되풀이하지 못하도록, 처음부터 울타리를 치고 시작하는 셈이다. 이것은 메타가 Sentinel을 뮤즈 한가운데 둔 것과 같은 선택이다. 표현만 다를 뿐, 개인용이든 업무용이든 깊은 권한을 받은 AI는 똑똑함보다 멈출 줄 아는 설계로 평가받는다.
뮤즈의 다운로드 곡선이 석 달 뒤에도 살아 있을지는 아무도 모른다. 설치가 곧 사용은 아니니까. 하지만 한 가지는 분명해졌다. 사람들은 이미 자기 이메일과 결제와 일정을, 설치 버튼 하나로 AI에게 넘기기 시작했다.
그렇다면 다음 질문은 이것이다. 당신은 당신의 디지털 생활 전부를 — 받은 편지함부터 지갑까지 — 어느 AI에게 맡기겠는가. 안드로이드와 iOS가 스마트폰의 운영체제를 두고 다퉜듯, 이제 막이 오른 것은 '신뢰의 운영체제'를 두고 벌이는 싸움이다. 더 똑똑한 쪽이 아니라, 끝까지 믿을 수 있는 쪽이 그 자리를 가져간다.
출시 시점 기준 미국에서 iOS·안드로이드·웹(muse.ai)으로 제공된다. 다른 지역 확대 일정은 공식 발표문에 명시되지 않았다.
무료로 쓰는 기본 등급(무료 티어) 위에 월 20달러(주당 5억 토큰), 월 100달러(주당 30억 토큰) 구독이 있다. 쓰는 양이 많을수록 상위 구독이 필요한 구조다. 다만 메타는 장기적으로 구독보다 거래 수수료 쪽 수익을 보고 있어서, 요금 체계는 앞으로 바뀔 여지가 있다.
뮤즈는 스트라이프 Link 연동으로 구매자 보호 정책을 적용받는다. 다만 아마존처럼 에이전트의 구매 자체를 막는 플랫폼도 있어서, "보호 장치가 있다"와 "어디서나 통한다"는 별개로 봐야 한다.
안전장치의 무게가 다르다. 개인은 잘못을 대체로 혼자 수습하지만, 기업 일은 산출물이 고객 앞으로 나가기 전 검증과 승인 단계가 훨씬 촘촘해야 한다. 되돌리기 어려운 실수의 대가가 크기 때문이다.