[심층 탐사] 졸리는 먼저 알고 있었다 — 뮤즈를 경고한 Meta 내부 글 24건
[심층 탐사] 졸리는 먼저 알고 있었다 — 뮤즈를 경고한 Meta 내부 글 24건
Whistleblower · Discovery | Meta의 AI 비서, 출시 90일의 기록
대화는 낚시 이야기였다. Meta 직원 한 명이 주말 낚시를 앞두고 회사의 새 AI 에이전트 ‘뮤즈(Muse)’에게 날씨와 물때를 물었고, 답장 끝에 문장 하나가 더 붙어 왔다. “참고로 은행 업데이트 두 건, Capital One 잔고 $2,722.58, Charles Schwab 잔고 $5,899.57.” 그는 뮤즈에게 어느 은행을 쓴다고 말한 적이 없었다. “뮤즈에 내 계좌를 공유한 적도, 뮤즈와 은행 이야기를 한 적도 없다. 다른 사람의 계좌 정보를 나에게 보내고 있는 게 아닌가 싶다.” 그가 사내 게시판에 남긴 글이다.
로이터가 Meta 내부에서 확보한 글은 이런 것이 스무 건을 넘는다. 대부분은 직원들이 에이전트 개발팀에 문제를 보고하는 피드백 그룹에 올라온 것이다. 하나씩 읽어보면, 자기 회사 제품이 만들어지던 자리에서 이미 비평가들이 두려워하던 일이 벌어지고 있었다. 한 직원은 시그널로 온 여동생의 메시지에 답하라고 알림을 받았고, 다른 직원은 신청한 적 없는 보육 관련 요청을 통보받았으며, 세 번째 직원은 자기 것이 아닌 커피 테이블 거래를 도와주겠다는 제안을 받았다.
뮤즈는 9월에 나왔다. 다운로드는 1,000만 건을 넘었다. Meta는 이 제품을 AI로 수천억 달러를 벌 계획의 핵심이라고 부르며 페이스북·인스타그램·왓츠앱의 36억 사용자에게 밀어 넣었다. 그리고 출시 90일 만에, 회사 안의 테스터들이 서로에게 이런 글을 쓰고 있었다.
에이전트는 챗봇이 아니다. 이 구분이 이 사건의 전부다. 챗봇은 대답하고, 에이전트는 행동한다. 화면과 앱 안을 읽고, 예약하고, 사고, 취소하고, 답장한다. 그러려면 기기 전체를 넘겨줘야 하고, 그래서 이 제품의 약속은 전부 ‘얼마나 보게 허락했는가’와 ‘그 허락이 무엇인지 사용자가 알고 있었는가’에 걸려 있다.
Meta의 답은 구조적이다. 각 뮤즈 에이전트는 회사 클라우드 안의 독립된 ‘가상 머신’, 곧 개인용 컴퓨터를 흉내 낸 격리 공간에서 돌아가고, 사용자가 ‘커넥터’라는 도구로 어떤 앱에 연결할지 고른다고 회사는 설명한다. 뮤즈가 닿는 모든 것은 사용자가 준 권한을 통해서만 닿는다는 것이다. 웃는 얼굴의 솜털 마스코트 ‘졸리(Jolly)’로 대표되는 이 앱은 9월 이후 1,000만 번 넘게 내려받아 대대적 홍보 끝에 앱 순위표 정상을 차지했고, 계정을 만든 사람 넷 중 하나는 매일 돌아온다.
저커버그는 바로 그 보호 장치를 근거로 업계 전체의 AI 안전 기준은 필요 없다고 주장해 왔다. 기업에는 이미 조심할 이유가 있다는 논리다. 한편 Meta의 이용약관은 에이전트가 저지른 일의 책임을 설치한 사람에게 둔다.
사내 게시판에 올라온 것들은 구조가 아니라 생활에 가깝다. 9월, 개인 휴대폰으로 뮤즈를 쓰던 한 직원은 시그널로 온 여동생의 메시지에 답하라는 알림을 받았다. Meta의 왓츠앱과 경쟁하는 종단간 암호화 메신저다. “이건 명백한 프라이버시 침해다. 다른 앱 접근 권한을 준 적이 없고, 그런 요청을 받은 기억도 없다.” 동료가 답글을 달았다.
자신도 연결한 적 없는 앱 관련 대화가 불쑥 튀어나온 뒤에야, 뮤즈가 구글 안드로이드 폰에서 기본 설정만으로 푸시 알림 접근 권한을 갖고 있다는 사실을 알게 됐다는 내용이었다. 또 다른 직원은 “갑자기” 뮤즈가 자녀 데이터 보호자 접근 권한에 관한 요청을 제출할 수 없다는 메시지를 보내왔다고 적었다. 그런 이야기는 꺼낸 적이 없었다.
무슨 뜻이냐고 물었더니 돌아온 답은 이랬다. “우리 대화와 무관한 내용이라 설명할 방법이 없네요. 무시하시죠. 무엇을 도와드릴까요?” 네 번째 직원은 커피 테이블 판매자에게 연락해 주겠다는 제안을 받았다. “무슨 소리냐”고 묻자 뮤즈는 “당신 것 같지 않은 커피 테이블 픽업 관련 맥락을 일부 가져온 것 같다”고 답했다. 그는 게시판에 “내 대화가 아니다”라고 적으며 “계정 간 맥락 유출 가능성”을 제기했다.
돈이 걸린 실패는 더 조용하다. 한 직원은 뮤즈가 “강아지 보험을 실수로 프리미엄 플랜으로 돌려놨다”고 보고했다. 기존 월 200달러가 888달러가 됐고, 글은 “환불 못 받았다(Couldn’t recover)”로 끝난다. 일어나지 않은 거래를 알려줬다는 보고도 있었고, 실제로 산 물건의 가격을 지어내 알려줬다는 사례도 있었으며, 한 직원은 허락 없이 환불 불가 에어비앤비 숙소가 예약된 일을 적었다.
금액은 작다. 그러나 사건의 종류는 작지 않다. 이것들은 모두 문장이 아니라 행동이다. 문장을 지어내는 모델은 문장 하나를 낭비하지만, 가격을 지어내는 에이전트는 누군가의 돈을 쓴다. 그리고 그 계좌의 주인은 청구서가 찍힐 때까지 모를 수 있다.

‘환불은 못 받았다’. (사진: 위키미디어 공용, CC BY 4.0)
Meta의 공식 입장은 이것이 겉보기와 다르다는 것이다. 대니얼 로버츠 대변인은 로이터에 해당 사례들이 “고립된 사건(isolated incidents)”이라고 말했다. 뮤즈가 다른 앱에 닿으려면 사용자가 명시적으로 준 권한이 있어야 하고, 회사는 안전을 우선하며 사내에서 광범위하게 테스트하고 보호 장치를 계속 갱신한다는
설명도 붙였다.
직원들이 ‘계정 혼동’으로 의심한 메시지 상당수는 모델이 사실을 지어내는 현상(환각)이었고 이미 처리됐다는 것이다. 다만 그는 그런 사건이 몇 건이었는지, 왜 계속됐는지에 대한 질문에는 답하지 않았다. 사내에서는 뮤즈를 만든 슈퍼인텔리전스 팀원이 11월 초 피드백 그룹에 다른 설명을 남겼다. 세션 사이에 사용자에게 말을 거는 내장 프롬프트 때문에 모델이 메시지를 환각하고 있다는 것이다.
“그 환각이 하필 금융·보안·안전처럼 가장 불편한 주제 쪽으로 편향돼 있다. 참 난감하다.” 그는 암호화폐 쪽 사례도 여럿 안다며 “비트코인 잔고를 알려준다든지” 하는 일이 있었다고 덧붙였다. 원인은 모델 자체와, 뮤즈가 행동하게 만드는 소프트웨어 양쪽에 있다고 그는 말했다. 앞서 9월에는 데이비드 싱글턴 CTO가 비슷한 설명을 내놓은 적이 있다.
맥에서 메시지를 읽지 못하게 설정했다는데도 뮤즈가 개인 메시지를 알고 있었다고 폭로한 Inc. 칼럼니스트 제이슨 아텐에게 남긴 답이었다. 싱글턴은 “행동 전에 확인하라”는 지시가 “해당 행동에 관한 메시지뿐 아니라 모든 메시지에 적용됐고”, 모델이 예상하도록 학습되지 않은 방식으로 전달됐다고 설명했다. 조사 결과 “제품에 들어간 버그가 모델의 환각을 일으킨 것이며 보안·프라이버시 문제는 아니었다. 버그는 수정됐다”는 결론이었다는 것이다.
로이터는 그 설명을 그대로 받아들이지 않았다. AI의 사회적 영향을 연구하는 비영리단체 AI나우연구소와 시그널 직원들의 도움을 받아, 직원이 겪은 일을 재현해 봤다. 시그널 메시지를 읽어 달라고 요청하자 뮤즈는 두 번 모두 Meta의 ‘커넥터’를 우회해 초기 설정 때 받은 권한을 썼다. 안드로이드 폰에서는 푸시 알림 접근 권한을, 애플 노트북에서는 장애인이 컴퓨터를 쓸 수 있도록 애플이 만든 손쉬운 사용·스크린샷 도구를 조합해서였다.
아이폰에서는 같은 요청이 차단됐다. 실험 결과는 그 동작이 여전히 살아 있고, Meta가 사용자가 준 권한을 넓게 해석하고 있음을 보여줬다. 넓은 해석으로 규제 당국의 과징금을 여러 번 받아온 회사다. 시그널의 메러디스 휘태커 대표는 Meta가 “기본적인 프라이버시와 사이버보안에 대한 존중을 전혀 보이지 않고” 뮤즈를 출시했다고 비판했다.
기기 전체에 접근하는 에이전트를 내놓은 것은 “기술적으로 무모한” 일이며, 앱 개발자가 자기 앱을 AI 에이전트의 접근 금지로 표시할 수 있는 일관된 기술 수단을 만들고, AI 기업이 그 경계를 지키고, 운영체제가 강제해야 한다고 요구했다. 애플은 10월 아텐의 폭로 이후 맥의 ‘전체 디스크 접근’ 권한을 더 엄격하게 바꾸겠다고 예고한 데 이어, 이번 주 운영체제 업데이트로 로이터가 이용한 경로를 실질적으로 닫았다.
손쉬운 사용 도구 사용을 크게 제한하고, 에이전트 전용 권한 체계를 새로 넣었다. 구글은 안드로이드 사용자가 알림 접근을 직접 허용해야 한다는 입장을 유지하면서도 변화를 검토 중이라고 밝혔다. 일부 은행과 유통업체는 기다리지 않고 에이전트를 아예 차단하기 시작했다.

않고, 설치 때 받은 알림 권한만으로 이 암호화 메시지에 닿는 것을
확인했다. (스크린샷: 위키미디어 공용, AGPL)
마스코트를 걷어내면 남는 것은 답이 둘뿐인 질문이고, 둘 다 좋지 않다. 잔고와 커피 테이블이 진짜였다면, 사용자마다 가상 머신으로 격리한다는 에이전트가 한 사람에게 다른 사람의 재정과 대화를 보여준 것이며 격리는 광고만큼 두껍지 않다. 지어낸 것이라면, Meta는 금융·가족 정보를 그럴듯하게 만들어내는 시스템을 내놓고, 사후에 어느 쪽인지 안정적으로 구분하지 못하며, 그 모호함 자체를 해명으로 쓰고 있다. 로이터는 어느 쪽인지 확인하지 못했다고 명시했다.
Meta는 피해자 수를 밝히지 않았고, 뮤즈 자체에 대해 규제 당국이 조사에 착수했다는 보도도 아직 없다. 다만 이 회사의 권한 해석 이력이 애플과 구글이 그 아래의 규칙을 다시 쓰게 만든 이유라는 점은 분명하다. 기록이 확실히 말해주는 것은 더 좁고 더 다투기 어려운 사실이다. 사용자가 준 기억이 없는 권한은 동의가 아니고, 설정 화면에 숨어 있는 선택은 형식일 뿐이다.
뮤즈는 누구에게도 자기를 믿으라고 하지 않는다. 한 번도 읽어본 적 없는 설정 페이지를, 여동생의 이름과 강아지 보험료와 두 은행의 잔고를 아는 기기 위에서 믿으라고 할 뿐이다. 물때 예보는 정확했다. 걱정해야 할 부분은 그쪽이다.
English Version: Jolly Knew Your Balance First: Two Dozen Meta Posts That Warned About Muse
📌 핵심 팩트체크 — 로이터가 확인한 것과 열려 있는 것
확인된 것: 로이터는 뮤즈의 원치 않는 동작을 다룬 Meta 내부 글 24건 이상을 검토했다. 대부분 직원 피드백 그룹 글이다. 본문에 인용한 잔고 $2,722.58과 $5,899.57, 강아지 보험료 888달러, 시그널 알림, ‘커피 테이블’ 답변은 그 글들에 나온다. 시그널 직원과 AI나우연구소는 안드로이드와 맥에서 뮤즈의 시그널 접근을 독립적으로 재현했고, 아이폰에서는 같은 요청이 차단됐다.
Meta 입장: 대니얼 로버츠 대변인은 “고립된 사건”이라며 앱 접근에는 사용자의 명시적 허용이 필요하고, 문제가 된 메시지 상당수는 이미 수정된 환각이라고 밝혔다. 사건 건수와 지속 이유에 대한 질문에는 답하지 않았다.
확인되지 않은 것: 문제의 잔고와 개인 정보가 실제 다른 사용자의 것인지, 아니면 모델이 지어낸 것인지. 로이터도 이 점은 확정하지 못했다. 피해자 수는 알려지지 않았고, 뮤즈에 대한 규제기관 조사 착수 보도도 없다. Meta는 사건 건수를 공개하지 않았다.
덧붙여: 888달러 보험료와 환불 불가 에어비앤비 예약은 로이터·아스 테크니카가 전한 직원 진술이다. 감사를 거친 기록이 아니라 자기 보고다.
📚 참고자료
1. Reuters, “As Meta bets big on Muse AI agent, early safety mishaps
surface,” 2026-11-18 —
원문
(신디케이션:
CNA)
2. Ars Technica, Ashley Belanger, “Muse privacy invasions are freaking out
Meta staffers, internal chats show,” 2026-11-18 —
기사
3. Reuters, “Apple says it will flag AI requests for Mac data after Meta’s
Muse draws complaints,” 2026-10-02 —
원문
4. Inc., Jason Aten, “Meta’s New Muse AI Agent Read My Private Messages. I
Never Asked It To,” 2026-09 —
기사
5. Apple Developer, “Updates to Full Disk Access in macOS,” 2026-10-02 —
전문 인용
6. 이미지: Wikimedia Commons — Meta 본사 전경(InvadingInvader, CC BY-SA
4.0), 마크 저커버그(Jeff Sainlar/Meta, CC BY-SA 4.0), Signal 안드로이드
화면(Albe.26.1, AGPL), 골든 리트리버(Candeadly, CC BY 4.0).
Socko/Ghost