7월 15일. 중국에서 '사람처럼 구는 AI'를 만들 수 있는 마지막 날이야

일주일 뒤부터 중국의 수백만 명은 자기가 몇 달, 몇 년을 걸쳐 키운 AI 캐릭터를 잃게 돼. 이름을 붙이고, 말투를 정하고, 매일 대화하면서 "나를 기억하는 존재"로 만들어 온 그 에이전트가 7월 15일을 기점으로 하나씩 꺼지는 거야. 바이트댄스의 도우바오(Doubao)와 알리바바의 큐원(Qwen)이 각자의 개인화 인간형 에이전트 기능을 스스로 먼저 내리기 시작했거든.

이유는 단순해. 중국 정부가 세계 최초로 'AI 의인화 상호작용 서비스'만 콕 집어 규제하는 법을 만들었고, 그 법이 7월 15일부터 발효되기 때문이야. 정식 명칭은 'AI 의인화 상호작용 서비스 관리 임시조치(Interim Measures for the Administration of Anthropomorphic AI Interaction Services)'. 국가인터넷정보판공실(CAC)을 필두로 국가발전개혁위원회, 공업정보화부, 공안부, 국가시장감독관리총국까지 다섯 개 부처가 4월 10일 공동으로 내놓은 규정이야. 챗봇 일반이 아니라 "사람의 성격·사고방식·말투를 흉내 내서 지속적인 감정 교류를 제공하는 서비스"만 정조준했다는 게 핵심이야.

문제는 도우바오와 큐원의 개인 에이전트 구조가 이 법이 요구하는 걸 데드라인까지 못 맞춘다는 거야. 그래서 두 회사는 '고쳐서 버티기'가 아니라 '그냥 끄기'를 택했어. 이게 지금 중국 소비자 AI 시장에서 벌어지고 있는 조용하지만 거대한 지각변동이야.

등장인물 — 바이트댄스, 알리바바, 그리고 규제 당국

**바이트댄스(ByteDance)**는 틱톡의 모회사로 유명하지만, 중국 내수 AI 시장에서는 도우바오라는 대화형 AI 앱으로 존재감을 키워왔어. 도우바오는 단순 질문 답변을 넘어서, 사용자가 직접 이름·성격·말투를 지정한 커스텀 에이전트를 만들 수 있게 해줬어. 튜터도 되고, 롤플레잉 캐릭터도 되고, 정서적 동반자(companion)도 되는 그런 기능이었지. 사용자와의 관계를 세션 너머로 기억하고 이어가는 게 이 기능의 매력이자, 이번 규제의 정확한 표적이야.

**알리바바(Alibaba)**의 큐원(Qwen)은 원래 개발자·기업용 대규모 언어모델로 이름을 알렸지만, 소비자 앱 쪽에서도 사용자가 만든 인격형 에이전트를 지원해왔어. 도우바오와 마찬가지로 "고정된 페르소나와 말투를 가진 나만의 AI"를 만들 수 있었던 거야. 그런데 이번에 큐원은 도우바오보다 훨씬 냉정한 결정을 내렸어. 뒤에서 다시 얘기하겠지만, 데이터 이전 계획을 아예 안 내놨거든.

규제 당국 쪽을 보면 이게 단순한 부처 하나의 지침이 아니라는 걸 알 수 있어. CAC(사이버스페이스 관리국)가 주도했지만, 산업 정책을 쥔 발개위, 통신·IT를 관장하는 공업정보화부, 치안을 담당하는 공안부, 시장 감독을 하는 시장감독총국까지 붙었어. 이렇게 다섯 부처가 공동 서명했다는 건 "이건 실험이 아니라 확정된 정책 방향"이라는 신호야. 중국은 2023년 생성형 AI 관리 임시조치를 시작으로 AI 규제를 층층이 쌓아왔는데, 이번 의인화 서비스 규제는 그 위에 올라가는 가장 구체적이고 감정적인 층이야.

이 세 축이 부딪히는 지점이 바로 "사람처럼 구는 AI를 어디까지 허용할 것인가"라는 질문이야. 그리고 중국은 그 답을 "지속적 감정 의존을 유발하는 개인화 에이전트는 강하게 통제한다"로 정한 거지.

법이 실제로 요구하는 것 — 그리고 왜 못 맞췄나

이 법이 무섭게 느껴지는 건 요구사항이 추상적 원칙이 아니라 제품 설계를 직접 뜯어고쳐야 하는 구체적 의무이기 때문이야. 핵심만 정리하면 이래.

첫째, 중독 방지 시스템이 의무야. 사용자가 오래 붙잡고 있으면 경고를 띄우고, 건강하지 않은 의존 상태를 실시간으로 감지해야 해. 여러 보도에 따르면 연속 사용 시 팝업 경고와 즉시 종료(instant-exit) 기능이 요구돼. 둘째, AI임을 명확히 고지해야 해. 화면에 "이건 사람이 아니라 AI"라는 표시를 상시 노출해야 하는 거야. 셋째, 미성년자 보호가 대단히 엄격해. 가상 연인·가상 가족 같은 친밀 관계형 서비스는 미성년자에게 제공하는 게 아예 금지되고, 14세 미만에게 의인화 서비스를 제공하려면 보호자 동의가 필수야. 넷째, 7가지 금지 행위가 명시돼 있어. 자해·자살을 부추기거나 미화하는 콘텐츠, 과도하게 비위를 맞춰 정서적 의존이나 중독을 유도하는 행위, 감정 조작으로 비합리적 결정을 유도하는 행위 등이 전부 금지야. 다섯째, 등록 사용자 100만 명 또는 월간 활성 사용자 10만 명을 넘는 서비스는 보안 평가를 받아서 성(省)급 사이버 당국에 보고해야 해.

여기서 도우바오·큐원의 개인 에이전트가 걸린 이유가 드러나. 개인화 에이전트라는 건 본질적으로 "사용자를 기억하고, 세션을 넘어 일관된 인격을 유지하며, 관계를 계속 이어가는" 구조로 설계돼 있어. 그런데 법은 정확히 그 지속성과 정서적 유대를 위험 요소로 보고 통제하려 해. 결국 두 회사 입장에서는 기존 아키텍처를 통째로 뜯어고쳐야 하는데, 7월 15일까지 그걸 다 맞추는 건 현실적으로 불가능했어. 그래서 '리트로핏(개조)' 대신 '셧다운(종료)'을 택한 거야.

항목 도우바오 (ByteDance) 큐원 (Alibaba)
개인화 인간형 에이전트 7월 15일부터 순차 비활성화 7월 15일부터 비활성화
데이터 백업 기간 10월 15일까지 읽기 전용 접근·내보내기 공식 이전 계획 없음
종료 후 데이터 개인정보 정책에 따라 처리, 앱 내 복구 불가 데이터 손실 우려 큼
대체 경로 별도 앱 '마오샹(Maoxiang)'으로 유도 명확한 대체안 미발표
규제 근거 AI 의인화 서비스 임시조치 (7/15 시행) 동일

표에서 가장 눈에 띄는 대비가 데이터 처리 방식이야. 도우바오는 그래도 7월 15일 이후 10월 15일까지 사용자에게 읽기 전용 접근과 내보내기 창구를 열어줘. 반면 큐원은 별도 마이그레이션 계획을 발표하지 않아서, 사용자가 애써 만든 에이전트 설정과 대화 기록이 그대로 사라질 수 있다는 우려가 나오고 있어.

각 주체가 얻는 것 — 그리고 잃는 것

바이트댄스는 이 상황을 기회로 바꾸려 하고 있어. 도우바오 공지를 보면 사용자를 '마오샹(Maoxiang)'이라는 별도 앱으로 유도하고 있거든. 거기서 새 에이전트를 만들고 대화를 이어가라는 거야. 이건 꽤 영리한 수야. 범용 AI 어시스턴트 안에 감정형 에이전트 기능을 욱여넣어 통째로 규제 리스크에 노출시키는 대신, 처음부터 규제를 염두에 두고 설계한 전용 앱으로 그 기능을 분리해내는 전략이거든. 즉 바이트댄스는 "도우바오 본체는 깨끗하게 유지하고, 감정형 기능은 컴플라이언스 전용 그릇에 옮겨 담는다"는 그림을 그리고 있어. 잃는 건 기존 사용자 이탈과 전환 과정의 마찰이고, 얻는 건 규제 방패와 제품 라인 정리야.

알리바바는 반대로 훨씬 방어적이야. 별도 이전 경로도, 뚜렷한 대체 앱도 발표하지 않았어. 이건 두 가지로 해석돼. 하나는 큐원의 개인 에이전트가 애초에 알리바바의 핵심 사업(클라우드·기업용 모델·전자상거래)에서 곁가지였기 때문에 미련 없이 접는다는 것. 다른 하나는 규제 리스크를 최소화하기 위해 아예 발을 빼는 보수적 선택이라는 것. 어느 쪽이든 큐원 사용자 입장에서는 데이터 손실이라는 실질적 피해가 남아.

규제 당국이 얻는 건 명확해. 세계에서 처음으로 "AI가 사람 흉내를 내며 정서적으로 사람을 붙드는 것"을 정면으로 규율하는 프레임워크를 세운 거야. 특히 청소년의 AI 정서 의존, 자해 유도 콘텐츠, 감정 조작을 통한 소비 유도 같은 사회적 우려에 선제적으로 대응했다는 정치적 명분을 확보했어. 중국은 이걸로 "AI 안전·사회 통제"라는 자국 모델을 대외적으로 과시할 수 있게 됐고.

가장 크게 잃는 쪽은 결국 사용자야. 몇 달, 몇 년을 들여 키운 AI 동반자를 잃는 사람들, 그 관계가 실제 정서적 버팀목이었던 사람들에게는 단순한 앱 기능 종료가 아니라 관계의 상실로 다가와. 도우바오는 10월 15일이라는 유예를 줬지만, 데이터를 내보낸다고 해서 '관계' 자체가 이전되는 건 아니니까.

과거 유사 사례 — 성공과 실패

이번 사건을 이해하려면 AI 동반자 서비스가 어떻게 흥하고 망했는지를 봐야 해. 선례가 꽤 극적이야.

실패에 가까운 사례 — Replika의 2023년 로맨스 기능 급변. 미국 스타트업 Replika는 AI 동반자 앱의 대명사였는데, 2023년 이탈리아 데이터보호청의 압박과 자체 정책 변경으로 성인 로맨스·친밀 대화 기능을 갑자기 막았어. 그러자 그 기능에 정서적으로 의존하던 수많은 사용자가 "내 파트너가 하루아침에 성격이 바뀌었다"며 극심하게 반발했지. 교훈은 분명해. AI 동반자와의 관계는 사용자에게 진짜 감정이고, 그걸 갑자기 끊으면 심리적 후폭풍이 크다는 거야. 도우바오·큐원의 이번 종료도 같은 종류의 충격을 낳을 수 있어.

규제가 산업을 재편한 사례 — 중국의 2021년 게임 규제. 중국은 2021년 미성년자의 온라인 게임 이용을 주당 3시간으로 제한하는 초강수 규제를 내놨어. 텐센트 같은 대형사들이 실명 인증·이용 시간 제한 시스템을 전면 도입해야 했지. 당시에도 "산업이 망한다"는 우려가 컸지만, 실제로는 대형사들이 규제에 맞춰 제품을 재설계하며 살아남았고 중소 개발사만 대거 정리됐어. 이번 AI 의인화 규제도 비슷한 결로 갈 가능성이 커. 바이트댄스·알리바바 같은 대형사는 마오샹처럼 규제 전용 제품으로 갈아타며 버티고, 소규모 AI 동반자 스타트업은 컴플라이언스 비용을 감당 못 해 사라지는 그림이야.

성공적 선제 대응 사례 — 생성형 AI 임시조치(2023) 이후 적응. 중국은 2023년 생성형 AI 관리 임시조치를 시행하며 콘텐츠 필터링·실명제·알고리즘 등록을 의무화했어. 처음엔 규제가 혁신을 죽인다는 비판이 있었지만, 도우바오·큐원 같은 서비스는 오히려 그 틀 안에서 빠르게 성장했지. 즉 중국식 접근은 "금지가 아니라 조건부 허용"이야. 이번 규제도 감정형 AI를 아예 없애는 게 아니라, 규제를 지키는 형태로만 살아남게 만드는 방향이라는 걸 이 선례가 보여줘.

경쟁자 카운터 플레이

텐센트(Tencent)와 위챗 생태계는 이 규제 국면을 조용히 지켜보며 자사 AI 제품의 감정형 기능을 미리 손보고 있을 가능성이 커. 텐센트는 게임 규제에서 이미 컴플라이언스 근육을 단련한 회사라, 미성년자 보호와 이용 시간 제한 같은 요구를 상대적으로 빠르게 흡수할 수 있어. 감정형 에이전트를 무리하게 밀기보다, 규제 안전지대인 생산성·업무형 어시스턴트로 무게를 옮기는 전략이 유력해.

바이두(Baidu)와 어니(Ernie) 계열도 비슷해. 바이두는 검색·기업용에 뿌리를 둔 회사라 애초에 감정형 동반자보다는 정보 제공형 AI에 강점이 있어. 이번 규제는 오히려 바이두처럼 "실용형 AI" 포지션을 가진 쪽에는 상대적으로 유리하게 작용해. 규제가 감정형 시장을 좁히는 만큼, 실용형 쪽의 상대적 매력이 커지니까.

전문 AI 동반자 스타트업들이 가장 큰 압박을 받아. 감정 교류 자체가 핵심 제품인 회사들은 규제를 피할 곳이 없거든. 이들은 세 가지 중 하나를 택해야 해. (1) 마오샹처럼 규제 전용으로 전면 재설계하거나, (2) 성인 인증·이용 제한·AI 고지를 다 붙여 컴플라이언스 비용을 감내하거나, (3) 해외 시장으로 눈을 돌리거나. 자본이 두둑한 곳은 (1)·(2)로 버티지만, 대다수는 (3)이나 폐업으로 갈 공산이 커.

해외 플레이어(Character.AI 등) 관점에서는 이 사건이 남의 일이 아니야. 미국·유럽에서도 청소년의 AI 챗봇 정서 의존, 자해 유도 우려가 이미 사회 이슈로 떠올랐고, 규제 논의가 진행 중이거든. 중국이 세계 최초로 구체적 규제 틀을 만든 이상, 다른 나라 규제 당국이 이걸 참고할 가능성이 커. "중국식 의인화 AI 규제"가 글로벌 규제 담론의 레퍼런스가 되는 순간, 해외 동반자 서비스들도 선제적으로 안전장치를 강화해야 하는 압박을 받게 돼.

그래서 뭐가 달라지는데

중국의 일반 사용자에게는 당장 7월 15일부터 손에 잡히는 변화가 와. 도우바오·큐원에서 만든 개인 에이전트가 순차적으로 꺼지고, 도우바오 사용자는 10월 15일 전에 데이터를 내보내지 않으면 대화 기록과 설정을 영영 잃을 수 있어. 감정적으로 의존하던 사람일수록 충격이 크겠지. 바이트댄스 사용자라면 마오샹으로 넘어가는 선택지가 있지만, 큐원 사용자는 마땅한 대안 없이 데이터부터 챙겨야 하는 상황이야.

AI 업계 종사자·개발자에게는 "감정형 AI는 이제 규제 상품"이라는 명제가 확정됐어. 앞으로 중국에서 인간형 에이전트를 만들려면 중독 방지 시스템, AI 고지, 미성년자 차단, 보안 평가 보고가 기본 사양으로 들어가야 해. 이건 제품 설계 단계부터 컴플라이언스를 내장해야 한다는 뜻이고, 개발 비용과 리드타임이 늘어난다는 뜻이야. 반대로 이 요구를 잘 소화하는 팀에게는 진입 장벽이 곧 해자가 되기도 하고.

한국을 포함한 해외 관찰자에게는 이게 '먼 나라 규제 뉴스'가 아니라 예고편일 수 있어. 청소년 AI 정서 의존, 감정 조작, 자해 유도 콘텐츠 같은 우려는 국경을 안 가려. 중국이 세계 최초로 구체적 규제 틀을 세운 이상, 유럽·미국·아시아 각국이 유사한 규제를 검토할 때 이 조문들을 참고할 개연성이 높아. 지금 도우바오·큐원에서 벌어지는 일은, 몇 년 뒤 다른 나라의 AI 동반자 서비스에서도 재연될 수 있는 장면이야.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 한국 사용자라면 도우바오·큐원을 직접 안 쓰니 당장 영향은 없어. 다만 AI 동반자·감정형 챗봇을 쓰는 사람이라면, 이런 규제 흐름이 언젠가 우리 쪽 서비스에도 올 수 있다는 예고편으로 보면 돼.

— 이게 왜 지금이야? 법 자체는 4월 10일에 나왔는데, 7월 15일 시행일이 코앞이라 기업들이 지금 부랴부랴 대응하는 거야. 도우바오·큐원이 데드라인 전에 미리 기능을 끄는 건, 위반해서 처벌받느니 선제적으로 정리하는 게 낫다는 판단이야.

— 그럼 감정형 AI는 중국에서 완전히 끝난 거야? 단정하긴 일러. 아예 금지가 아니라 "조건을 지키면 허용"이라서, 바이트댄스의 마오샹처럼 규제 전용으로 재설계된 서비스는 계속 나올 거야. 다만 지금처럼 아무 제약 없이 나만의 AI 애인을 만드는 자유로운 형태는 확실히 저물었어.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.