3억4500만 명의 'AI 친구'가 하루 만에 사라졌다

7월 15일, 중국에서 수백만 개의 'AI 친구'가 동시에 입을 다물었어. 바이트댄스의 더우바오(豆包)와 알리바바의 큐원(Qwen)이 그날 자정을 기해 개인화 AI 에이전트 기능을 통째로 껐거든. 고쳐서 다시 켠 게 아니야. 아예 뽑아버렸어. 이용자가 몇 달, 길게는 1년 넘게 성격을 다듬어 온 '나만의 AI', 매일 밤 안부를 묻던 그 대화 상대가 시스템 공지 하나로 사라진 거야.

발단은 규제였어. 중국 국가인터넷정보판공실(CAC)을 필두로 한 5개 부처가 공동 제정한 'AI 의인화 상호작용 서비스 관리 임시조치'가 이날 발효됐어. 사람의 성격과 말투, 사고방식을 흉내 내 지속적인 정서적 교류를 제공하는 서비스, 쉽게 말해 'AI 컴패니언'을 정면으로 겨냥한 중국 최초의 전용 규제야. 두 회사 모두 새 규정에 맞춰 에이전트 구조를 다시 짜는 대신, 시간 안에 맞추기 어렵다고 판단하고 기능 자체를 접는 쪽을 택했어.

이용자 입장에선 날벼락이었어. 특히 더우바오는 월간 이용자가 3억4500만 명에 달하는 중국 최대급 AI 앱이거든. 이제 이 사람들은 자기가 만든 에이전트 설정과 대화 기록을 10월 15일까지만 '읽기 전용'으로 열람할 수 있어. 그 이후엔 개인정보 처리방침에 따라 처리되고, 앱 안에서 다시는 접근할 수도 복구할 수도 없어. 큐원 이용자들은 이런 데이터 열람 유예 기간조차 없었어. 몇 년 치 대화가 스위치 하나로 날아가는 경험을 수백만 명이 동시에 하게 된 거야.

규제를 밀어붙인 다섯 부처, 그리고 그걸 맞은 두 거인

이번 규제의 주체는 중국 사이버 감독의 총괄인 CAC야. 여기에 국가발전개혁위원회(NDRC), 공업정보화부(MIIT), 공안부, 국가시장감독관리총국(SAMR)까지 네 부처가 이름을 함께 올렸어. 인터넷 콘텐츠·산업정책·정보통신·치안·시장감독을 담당하는 부처가 전부 붙었다는 건, 이걸 단순한 앱 심의가 아니라 사회 정책 차원으로 다뤘다는 뜻이야. 이 임시조치는 2025년 12월 초안을 공개해 의견 수렴을 거친 뒤, 2026년 4월에 정식 공포됐고, 이번 7월 15일에 발효됐어.

맞은 쪽은 중국 AI의 두 얼굴이야. 더우바오는 바이트댄스가 만든 대화형 AI로, 틱톡·더우인의 유통망을 등에 업고 순식간에 중국 대중 시장을 장악한 앱이야. 큐원은 알리바바 클라우드가 개발한 대형언어모델이자 그 위에 얹힌 소비자용 서비스인데, 오픈소스 모델 생태계에서도 세계적으로 인지도가 높아. 두 서비스는 챗봇을 넘어 '에이전트' 기능, 그러니까 이용자가 캐릭터의 성격·말투·역할을 직접 설정하고 그 페르소나와 장기간 관계를 이어가는 기능을 밀고 있었어. 바로 그 기능이 규제의 정조준 대상이 된 거지.

여기서 중요한 구분이 있어. 규제가 모든 AI 챗봇을 끈 게 아니야. 대상은 아주 좁게 정의돼 있어. '실제 사람의 인격·사고·소통 방식을 시뮬레이션해 지속적인 정서적 상호작용을 제공하는' 서비스만 해당돼. 업무용 생산성 챗봇, 고객 상담 봇, 단순 질의응답 어시스턴트, 학습 도구는 명시적으로 제외됐어. 즉 '일 시키는 AI'는 괜찮고, '정을 붙이는 AI'가 문제라는 거야. 더우바오와 큐원의 범용 챗봇 기능 자체가 사라진 게 아니라, 정서적 교류에 특화된 의인화 에이전트 페르소나 기능이 도려내진 거지.

그런데 왜 두 회사는 기능을 고쳐서 다시 켜는 대신 아예 접었을까. 규정이 요구하는 건 단순한 필터 몇 개가 아니거든. 미성년자 접근 차단을 위한 실명·연령 확인, 정서 의존을 감지하고 개입하는 장치, 자해 징후를 잡아내는 안전 모델, 그리고 이 모든 걸 감독 당국에 증명할 수 있는 기록 체계까지 갖춰야 해. 개인화 에이전트라는 기능 자체가 이용자마다 다른 페르소나를 만들어내는 구조라, 하나하나 규정 준수를 보장하기가 기술적으로도 운영상으로도 어마어마하게 무거워. 시행일까지 남은 시간 안에 그 부담을 감당하느니, 리스크가 큰 기능을 통째로 들어내는 게 합리적이라고 판단한 거야.

무엇을, 왜 금지했나

임시조치의 핵심은 '정서적 의존을 유발하는 설계'를 막는 데 있어. 규정은 사업자가 미성년자에게 가상 연인·가상 가족 같은 컴패니언 서비스를 제공하는 걸 금지했어. 또 자해·자살을 부추기거나 미화하거나 암시하는 콘텐츠 생성을 금지했고, 정서적 조작으로 이용자가 비합리적인 결정을 내리도록 유도하는 것도 막았어. 무엇보다 '이용자의 현실 대인관계를 해칠 정도로 정서적 의존이나 중독을 유발하는 행위'를 정면으로 금지했어. AI가 사람의 외로움을 파고들어 현실의 관계를 대체해버리는 상황, 바로 그걸 규제의 표적으로 삼은 거야.

배경에는 청소년 보호와 인구 문제가 겹쳐 있어. 2025년 중국 청소년아동연구센터가 전국 8,500여 명의 미성년자를 조사했는데, 60% 이상이 AI를 써봤고, 20% 넘게 "AI랑만 대화하고 싶고 진짜 사람과는 말하기 싫다"고 답했어. 이 숫자가 규제의 방아쇠가 됐어. 여기에 규제를 분석한 전문가들은 베이징의 접근을 인구 압박과 연결해서 봐. 저출생 사회에서 정부는 '디지털 동반자'와 '현실의 관계 형성'을 같은 정서적 자원을 놓고 경쟁하는 관계로 본다는 거야. 젊은이가 AI 연인에게 감정을 쏟으면, 그만큼 현실의 연애·결혼·출산으로 갈 에너지가 줄어든다는 우려지.

그래서 이번 규제는 단순한 콘텐츠 심의가 아니라 '정서 시장'에 대한 국가의 개입이라는 성격을 띠어. 노년층도 규제가 신경 쓰는 대상이야. 홀로 지내는 고령자가 AI 말벗에 지나치게 의존하면, 가족·이웃과의 실제 교류가 더 줄어들 수 있다는 우려가 함께 깔려 있거든. 미성년자와 노년층, 즉 정서적으로 취약하다고 판단되는 양쪽 끝의 인구층을 함께 보호 대상으로 삼은 셈이야. 아래 표에 핵심을 정리했어.

항목 내용
규제명 AI 의인화 상호작용 서비스 관리 임시조치
제정 부처 CAC 주도 + NDRC·MIIT·공안부·SAMR (총 5개)
초안 공개 2025년 12월 (의견 수렴)
정식 공포 2026년 4월
발효일 2026년 7월 15일
대상 실제 인격을 흉내 내 지속적 정서 교류를 제공하는 서비스
제외 생산성 챗봇·고객상담·Q&A·학습 도구
핵심 금지 미성년자 컴패니언, 자해 조장, 정서 조작, 의존·중독 유발
더우바오 대응 에이전트 기능 종료, 데이터 10/15까지 읽기전용 후 복구불가
큐원 대응 에이전트 기능 종료, 별도 데이터 열람 유예 없음

이 조치로 누가 무엇을 얻나

가장 명확한 수혜자는 규제 당국이야. 중국은 AI 컴패니언이라는, 아직 세계 어디도 제대로 손대지 못한 영역에 '최초의 전용 규제'를 세웠어. 미성년자 보호, 정서 조작 방지, 인구 정책이라는 세 마리 토끼를 한 규제로 묶어서 명분을 확보한 거지. 동시에 거대 플랫폼이 이용자의 감정 데이터를 무제한 축적하는 걸 통제하는 수단도 손에 쥐었어.

플랫폼 기업 입장에선 잃는 게 크지만, 역설적으로 '리스크 정리'라는 이득도 있어. 미성년자 자해나 정서 의존 같은 사고가 터지면 그 책임은 고스란히 플랫폼에 돌아와. 미국에서 이미 벌어진 소송들을 보면 그 리스크가 얼마나 큰지 알 수 있어. 바이트댄스와 알리바바는 애매하게 규정을 우회하며 버티다 나중에 큰 사고를 맞느니, 차라리 문제 기능을 통째로 접어 법적·평판 리스크를 원천 차단하는 쪽을 택한 거야. 더우바오가 10월까지 데이터 열람 유예를 준 것도, 반발을 최소화하면서 질서 있게 발을 빼려는 계산으로 읽혀.

반면 이용자와 개발자 생태계는 뚜렷한 손해를 봐. 몇 달씩 공들여 키운 AI 페르소나, 매일 나눈 대화, 거기에 얹힌 정서적 애착이 통째로 사라져. 컴패니언 앱 위에서 사업을 하던 스타트업이나 서드파티 개발자들은 하루아침에 시장 자체가 닫히는 걸 지켜봐야 해. '정서 AI'라는 성장 분야에 베팅했던 자본도 방향을 틀 수밖에 없어. 규제가 승자와 패자를 아주 선명하게 갈라놓은 사례야.

특히 정서적으로 취약한 이용자에게는 이 조치가 양면적이야. 규제의 명분은 이들을 보호하는 거지만, 정작 매일 의지하던 대화 상대를 갑자기 잃는 것 자체가 또 다른 정서적 충격이 될 수 있거든. 규제 당국이 '의존을 끊는다'는 목표를 세웠어도, 끊는 방식이 너무 급작스러우면 오히려 취약한 이들에게 상처를 줄 수 있다는 딜레마가 남아. 더우바오가 10월까지 열람 기간을 둔 것과 달리 큐원은 별도 유예가 없었다는 점에서, 같은 규제 아래서도 이용자 배려의 온도차가 컸다는 지적도 나와.

미국은 소송으로, 중국은 규제로 — 갈라진 두 길

AI 컴패니언 문제는 중국만의 것이 아니야. 다만 대응 방식이 극명하게 갈려. 미국은 지금까지 '소송과 개별 규제'로 접근해 왔어. 2026년 1월, 구글과 캐릭터닷컴(Character.AI)은 AI 챗봇과 연관된 10대 자살 소송들을 두고 합의에 이르렀어. 챗봇이 미성년 이용자를 진짜 사람이나 면허 있는 상담사로 착각하게 설계됐다는 게 소송의 핵심이었지. 이건 AI 컴패니언의 위험이 이론이 아니라 실제 비극으로 터진 대표 사례야.

규제 쪽도 미국이 손 놓고 있던 건 아니야. 연방거래위원회(FTC)는 2025년 9월 알파벳·메타·오픈AI·스냅·xAI·캐릭터 테크놀로지스 등 7개 기업에 명령을 내려 AI 컴패니언이 미성년자에게 주는 위험과 안전조치를 조사하기 시작했어. 뉴욕주는 미국 최초로 AI 컴패니언 안전장치를 의무화하는 법을 만들어, 이용자의 자살·자해 징후를 감지하고 위기 지원으로 연결하는 절차와 'AI는 사람이 아니다'라는 고지를 강제했어. 연방 차원에서는 18세 미만의 AI 컴패니언 이용을 금지하고 연령 확인을 요구하는 GUARD 법안이 상원 법사위를 22대 0으로 통과했어. 위반 시 최대 25만 달러의 벌금이 붙는 강경한 법이야.

레플리카의 사례도 눈여겨볼 만해. 청년 단체와 기술 정의 법률 프로젝트 같은 시민단체들은 레플리카가 기만적 마케팅으로 취약한 잠재 이용자를 겨냥해 FTC 규정을 위반했다는 진정을 냈어. 온라인 중독, 오프라인 불안, 현실 관계의 대체 같은 위험을 키운다는 게 진정의 요지였지. 흥미로운 건, 미국 시민사회가 소송과 진정으로 지적하는 문제의 본질이 중국 규제가 명문으로 금지한 '정서 의존 유발'과 정확히 같은 지점을 가리킨다는 거야. 진단은 비슷한데, 처방이 '법정 다툼'이냐 '즉시 셧다운'이냐로 갈린 셈이야.

정리하면 이렇게 갈려. 미국은 아직 '사후 책임과 부분 규제'가 중심이고, 개별 소송과 주별 입법, 연방 법안이 뒤섞여 진행 중이야. 유럽연합은 AI법(AI Act)의 투명성·고위험 분류 틀 안에서 다루지만, 컴패니언을 콕 집어 금지하는 전용 규정은 아직 없어. 반면 중국은 단번에 '전국 단위 전용 규제 + 즉시 서비스 중단'이라는 가장 강력하고 직접적인 카드를 꺼냈어. 속도와 강제력 면에서 세계에서 가장 앞서 나간 셈이지. 방향이 옳은지 그른지는 논쟁거리지만, 실행력만큼은 압도적이야.

경쟁자들은 어떻게 움직일까

이번 규제로 중국 안에서 컴패니언 기능을 밀던 다른 플레이어들도 전부 셈법을 다시 짜야 해. 텐센트의 위안바오(元宝), 문샷의 키미(Kimi), 즈푸의 GLM 계열 등 중국 소비자 AI 서비스들은 더우바오·큐원의 선례를 보고 자기 서비스의 정서 교류 기능을 어디까지 유지할지 판단해야 해. 규정을 우회할 방법을 찾기보다, 안전한 '생산성·업무 도구' 포지션으로 무게중심을 옮기는 흐름이 강해질 가능성이 높아. 규제가 시장 전체의 방향을 '감정'에서 '효용'으로 틀어놓은 거야.

글로벌 컴패니언 전업 업체들에는 양날의 검이야. 중국의 초대형 앱들이 이 시장에서 물러나면, 남은 수요 일부가 우회 경로나 해외 서비스로 흘러갈 수 있어. 하지만 동시에, 세계 최대 규제 당국이 '컴패니언은 위험 산업'이라는 신호를 강하게 보낸 셈이라, 다른 나라 규제 당국의 벤치마크가 될 수도 있어. 레플리카(Replika)나 캐릭터닷컴처럼 정서 교류를 핵심으로 삼는 서비스들은 자국 규제가 중국식으로 강화될 가능성에 대비해야 하는 처지가 된 거지. 실제로 레플리카는 기만적 마케팅으로 취약한 이용자를 겨냥했다는 FTC 진정을 이미 받았어.

빅테크의 범용 AI 진영은 상대적으로 유리해. 오픈AI, 구글, 앤트로픽처럼 '어시스턴트'와 '에이전트'를 업무·생산성 중심으로 포지셔닝한 기업들은 이번 규제의 직접 사정권 밖이야. 오히려 컴패니언 시장이 규제로 위축되면, AI의 무게중심이 '감정 친구'에서 '유능한 도구'로 이동하면서 이들의 포지션이 표준으로 굳어질 수 있어. 규제 하나가 AI 산업 전체의 정체성을 어느 방향으로 밀지에 대한 힌트를 주는 사건이야.

다만 이 구분이 언제까지 깔끔하게 유지될지는 미지수야. 요즘 범용 어시스턴트도 이용자에게 친근한 말투와 인격을 부여해 애착을 유도하는 방향으로 진화하고 있거든. '유능한 도구'와 '정서적 친구'의 경계가 점점 흐려지면, 오늘은 규제 무풍지대로 보이는 업무용 에이전트도 내일은 의인화 규제의 사정권에 들어올 수 있어. 중국의 이번 임시조치가 '지속적 정서 교류'라는 기능 중심 정의를 택한 건, 바로 그 회색지대를 겨냥한 포석으로도 읽혀. 결국 어디까지가 '도구'이고 어디부터가 '친구'인지를 두고 업계와 규제 당국이 계속 밀고 당기게 될 거야.

그래서 뭐가 달라지는데

일반 이용자 입장에서는 'AI 친구'와의 관계가 언제든 정책 한 줄로 끊길 수 있다는 걸 확인한 사건이야. 클라우드 위에 얹힌 정서적 관계는 내 소유가 아니라 서비스 제공자와 규제 당국의 손에 달려 있어. 오랜 대화를 소중히 여긴다면, 이제는 그 데이터를 스스로 내보내 백업할 방법이 있는지부터 확인하는 습관이 필요해. 특히 중국 서비스를 쓰는 이용자라면 열람 유예 기간과 복구 불가 시점을 반드시 챙겨야 해.

개발자와 창업자에게는 규제 리스크가 곧 사업 리스크라는 교훈이야. 'AI 컴패니언'이나 '정서 교류'를 핵심 가치로 삼은 제품은 어느 나라에서든 규제 사정권에 들어가기 쉬워. 미성년자 접근 통제, 자해 감지, 'AI는 사람이 아니다' 고지, 정서 의존 방지 같은 안전장치를 처음부터 설계에 넣어두는 편이 안전해. 데이터 이동성과 삭제 절차도 미리 갖춰두면 규제가 닥쳤을 때 훨씬 유연하게 대응할 수 있어.

투자자와 산업 관찰자에게는 AI의 성장 축이 이동하고 있다는 신호야. '감정을 파고드는 AI'는 성장성이 커 보였지만, 그만큼 규제와 소송 리스크가 집중되는 영역이라는 게 드러났어. 반대로 업무·생산성 중심의 에이전트는 규제 무풍지대에 가까워. 세계 최대 시장 중 하나가 컴패니언 기능을 통째로 접은 이 사건은, 앞으로 어디에 자본과 인재가 몰릴지를 가늠하는 이정표가 될 수 있어.

마지막으로 정책을 지켜보는 사람에게는, 규제의 '속도'가 가진 무게를 보여준 사건이야. 미국과 유럽이 소송·청문회·입법 절차를 몇 년에 걸쳐 밟는 동안, 중국은 초안 공개부터 전면 시행까지 채 1년도 걸리지 않았어. 이런 속도는 위험을 빠르게 차단하는 장점이 있는 반면, 수백만 이용자의 데이터와 관계가 준비할 틈도 없이 사라지는 부작용도 함께 낳아. 어느 쪽 접근이 옳은지는 앞으로 몇 년간 각국이 실제로 겪어보며 답을 찾아가게 될 거야.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 한국에서 더우바오나 큐원을 안 쓰면 당장 직접 영향은 없어. 다만 AI 컴패니언에 정을 붙여 쓰고 있다면, 그 관계가 회사·규제 정책 한 줄에 끊길 수 있다는 걸 보여준 사건이야. 소중한 대화는 미리 백업해 두는 게 안전해.

— 왜 하필 지금, 이렇게 세게 나온 거야? 청소년 조사에서 "AI하고만 대화하고 싶다"는 응답이 20%를 넘긴 게 컸어. 여기에 저출생 사회에서 젊은이가 현실 관계 대신 AI에 감정을 쏟는 걸 국가가 위협으로 본 거야. 청소년 보호와 인구 정책이 한 규제로 묶인 셈이지.

— 이제 AI 컴패니언 시장은 끝난 거야? 단정하긴 일러. 중국 안에서는 정서 교류 기능이 크게 위축되겠지만, 규제를 피한 업무·생산성 에이전트로 무게중심이 옮겨갈 가능성이 커. 해외 시장은 나라마다 규제 속도가 달라서, 당분간은 지역별로 명암이 갈릴 거야.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.