중국, AI 가상 친구 서비스 규제, 두바오·큐원 기능 중단

AI 챗봇에게 이름을 붙여주고, 매일 대화를 나누고, 어느새 정이 들어버리는 경우가 있죠. 중국에서는 이런 'AI 가상 친구·연인' 서비스가 크게 유행했는데, 이제 정부가 제동을 걸었습니다. 바이트댄스와 알리바바 같은 대형 업체들이 관련 기능을 잇달아 중단하고 있어요. 무엇이 바뀌는지, 왜 이런 규제가 나왔는지 정리해보겠습니다.

무슨 규제가 시작되나요

중국 국가인터넷정보판공실(CAC)을 포함한 5개 기관이 함께 만든 'AI 의인화 상호작용 서비스 관리 임시 방법'이 2026년 4월 10일 발표됐고, 7월 15일부터 시행됩니다. 사람의 성격이나 말투, 사고방식을 흉내 내며 지속적인 정서적 교감을 제공하는 서비스가 규제 대상이에요.

단순 고객상담 챗봇, 지식 검색, 업무용 비서, 교육 도구는 지속적인 정서적 유대를 만들지 않는 한 이번 규제 대상이 아닙니다.

구체적으로 뭘 지켜야 하나요

규제가 요구하는 항목은 꽤 구체적입니다. 중독 방지 시스템을 갖추고, 이용 시간을 알려주고, 언제든 즉시 빠져나올 수 있는 기능을 마련해야 합니다. 비정상적인 의존 상태를 실시간으로 감지하는 것도 의무이고, "정서적 의존이나 중독을 유도하는 설계" 자체가 금지됩니다.

18세 미만에게는 가상 연인·가상 가족 서비스 자체를 제공할 수 없고, 14세 미만은 보호자 동의와 함께 이용 시간·소비 한도까지 두도록 했습니다. 자해나 자살 신호를 감지하는 절차도 갖춰야 하고, 가입자 100만 명 또는 월간 활성 이용자 10만 명이 넘는 사업자는 알고리즘을 신고하고 별도 보안 평가를 받아야 합니다.

어떤 서비스가 영향을 받나요

바이트댄스의 두바오(豆包)와 알리바바의 큐원(通义千问)이 이용자가 직접 만드는 커스텀 에이전트, 기억을 유지하는 에이전트 기능을 중단하고 있습니다. 텐센트의 위안바오도 비슷한 기능을 6월에 이미 껐다는 보도가 있어요.

다만 정확한 중단 시점은 매체마다 조금씩 다르게 보도되고 있습니다. 큐원의 일부 기능은 7월 10일부터, 전체는 7월 15일까지라는 보도도 있어 세부 일정이 완전히 일치하지는 않는다는 점을 밝혀둡니다.

이용자 데이터는 어떻게 되나요

두바오는 7월 15일부터 기존 에이전트 설정과 대화 기록이 읽기 전용으로 바뀌고, 바이트댄스의 개인정보 정책에 따라 10월 15일 이후 완전히 삭제됩니다. 반면 큐원은 별도 유예기간 없이 서비스 중단과 동시에 즉시 삭제되며, 알리바바 발표에 따르면 다른 곳으로 옮길 방법도 없습니다.

왜 이런 규제를 하는 걸까요

중국 규제 당국은 극단적 사상 유포, 개인정보 유출, 신체·정신 건강 해악, 의존과 중독 우려를 이유로 들었습니다. 공업정보화부 전문가위원회의 한 위원은 "현재 에이전트 기술이 아직 충분히 성숙하지 않았다"며 이번 조치를 안전·표준화 차원으로 설명했습니다.

해외 사례도 규제 배경으로 함께 거론됩니다. 미성년자의 AI 챗봇 애착 문제로 소송을 겪은 캐릭터.AI, 컴패니언 앱을 조사 중인 미국 연방거래위원회(FTC), 비슷한 논란을 겪은 유럽의 레플리카 사례가 언급되고 있어요.

회사들은 뭐라고 하나요

바이트댄스는 두바오 이용자 공지에서 "제품 기능 조정"이라는 모호한 표현만 썼을 뿐, 이번 규제를 직접 언급하지는 않았습니다. 대신 이용자들에게 대화 기록을 스크린샷으로 저장해두라고 안내하고, 자사의 다른 앱인 마오샹(Maoxiang)에서 에이전트를 다시 만들어보라고 권했습니다. 알리바바 쪽은 즉시 삭제된다는 사실 외에 구체적인 공식 입장이 따로 확인되지 않았습니다.

이용자 반응은 어떤가요

중국 소셜미디어 웨이보의 반응은 엇갈립니다. 몇 달간 쌓아온 대화와 정을 잃게 됐다며 아쉬워하는 이용자가 있는가 하면, 규제에 맞춰 새로 구조를 짜느니 아예 기능을 접는 게 더 현실적인 선택이라고 보는 반응도 함께 나오고 있습니다.

다른 나라와 비교하면 어떤가요

흥미롭게도 한 분석은 이번 중국 규제가 오히려 미국 FTC나 유럽연합, 미국 캘리포니아주의 SB 243 법안보다 더 촘촘한 이용자 보호 장치를 갖췄다고 평가했습니다. 다만 동시에 서방 규제기관이라면 채택하지 않을 법한 국가 차원의 콘텐츠 통제적 성격도 함께 포함돼 있다는 지적도 있습니다.

자주 묻는 질문

정말 3억 4,500만 명이 영향을 받나요? 이 숫자는 2026년 1분기 기준 두바오 전체 월간 활성 이용자 수일 뿐입니다. 이 중 실제로 컴패니언·에이전트 기능을 쓰던 이용자가 몇 명인지는 따로 확인되지 않았습니다. 그대로 "3억 4,500만 명이 영향받는다"고 단정하기는 어렵습니다.

업무용으로 AI 챗봇을 쓰는 것도 막히나요? 아니요. 고객상담, 지식 검색, 업무용 비서, 교육 도구는 지속적인 정서적 교감을 조성하지 않는 한 이번 규제 대상이 아닙니다.

한국 이용자에게도 영향이 있나요? 이번 규제는 중국 내 서비스를 대상으로 합니다. 두바오나 큐원의 관련 기능을 쓰고 있던 한국 이용자라면 영향이 있을 수 있지만, 국내 이용자 규모나 구체적인 영향은 이번 보도에서 따로 확인되지 않았습니다.