중국 국가사이버공간관리국(Cyberspace Administration of China)은 국가발전개혁위원회, 교육부, 과학기술부, 공업정보화부, 공안부, 국가전파관리국과 함께 올해 8월 15일부터 효력을 발휘하는 ‘생성적 인공지능 서비스 관리를 위한 임시 조치(生成式人工智能服务管理暂行办法)를 발표하였다(2023. 7. 13). 이제 중국은 생성 인공지능 규제를 시행하는 세계 최초의 국가가 되었다. 공안부 등 이번 조치안에 참여한 기관들의 면면에서, 중국이 생성 인공지능을 산업적 측면은 물론 안보적 차원에서도 대단히 중요하게 생각하고 있음을 알 수 있다. 그리고 중국이 인터넷을 대내외적 프로파간다 활동에서 적극 활용하고 있다는 점에서, 중국이 생성 인공지능을 어떻게 관리할 것인가는 우리에게도 시사하는 바가 적지 않다.
 

사회주의 핵심 가치의 견지

중국의 생성 인공지능 관련 조치안이 영미권의 규제 논의와 뚜렷이 차별화되는 대목은 ‘사회주의 핵심 가치의 견지’이다. 총칙 4조 1항은 ‘사회주의 핵심 가치를 견지하고 국가권력 전복, 사회주의 제도 전복, 국가 안보와 이익을 위태롭게 하는 선동, 국가 이미지 손상, 국가 통합과 사회 안정 저해, 테러 조장을 유발해서는 안된다’고 규정한다. 즉 생성 인공지능에 대한 임시조치는 중국이 언제나 강조하는 총체적 국가 안보관을 반영한 것으로, 체제 안정과 외부 영향 차단이 생성 인공지능 서비스 운용의 일차적 고려 요소가 될 것임을 시사한다.

국가 안보와 이익을 위태롭게 하는 선동을 금지함은 사실상 외부 세계 콘텐츠의 흐름을 억제하고 내부적으로도 검열과 통제를 시행할 것임을 의미하는 것이다. 생성 인공지능 서비스의 제공에 있어서 상이한 가치관과 거버넌스는 결국 중국의 인터넷이 외부, 특히 서방과 더욱 단절될 것임을 전망하게 한다. 이러한 전망은 동 조치안의 7조 5항이 생성 인공지능 제공자로 하여금 네트워크 보안법, 데이터 보안법, 개인정보보호법과 같은 법률의 규제 요건을 준수해야 함을 규정하고 있는 것에서도 알 수 있다.

중국의 데이터 보안법이나 개인정보보호법은 안보 개념과 강하게 연계되어 있다. 데이터 보안법은 중국 경내나 해외 데이터 처리를 막론하고 공안기관이 데이터를 수집할 경우 모든 조직과 개인에 협조 의무를 부여한다. 개인정보보호법도 정부가 중국 내외(內外)의 모든 중국인의 개인 정보에 접근‧규제할 수 있는 권한을 부여한다. 즉, 생성 인공지능 서비스 제공자도 이를 준수해야 한다는 것은 서비스에 제공되는 콘텐츠나 해당 콘텐츠 생성에 관여한 기관, 개인을 언제라도 통제할 수 있음을 의미하는 것이다. 이와 동시에, 상이한 생성 인공지능 거버넌스를 채택하는 국가의 입장에서는 중국의 생성 인공지능 거버넌스를 자신들의 서비스에 대한 제약 및 자국에 대한 영향 공작(influence operation) 위협으로 간주할 수 있어, 서방과 중국 인터넷의 분리‧단절 가능성도 높아질 수밖에 없다.

두 번째로 주목할 내용은 생성 인공지능 서비스별 차별 규제이다. 동 임시조치안의 4조 5항은 ‘서비스 유형의 특성에 따라 생성적 인공지능 서비스의 투명성을 높이고 생성된 콘텐츠의 정확성과 신뢰성을 향상시키기 위한 효과적인 조치를 취한다’고 규정하고 있다. 단 서비스 유형 및 그 특성은 명확히 제시되어 있지 않으며, 16조에서 관련 국가 당국이 분류 및 감독 지침을 제정하도록 해야 한다고만 규정하고 있어 추후 관련 당국의 지침을 주시할 필요가 있다.

현 단계에서는 관련 당국이 누구인가가 중요한데 네트워크 보안이나 교육, 과학, 특히 미디어 및 공안 당국이 여기에 포함되어 있음은 의미심장하다. 그리고 일부 중요 서비스는 허가를 취득해야 하고(23조), 문제가 발생할 경우에 시정을 거부하거나 상황이 심각한 경우 관련 서비스 제공을 중단하도록 하고 있다(21조).
 

인공지능 세계의 분리

한편, 중국의 생성 인공지능 콘텐츠가 중국 당국의 의도를 반영해 외부 세계로 투사될 수 있음도 간과할 수 없다. 조치안의 제17조는 생성 인공지능 서비스 제공자가 인터넷 정보 서비스 알고리즘 권장 관리 규정에 따라 알고리즘 제출, 수정, 취소 절차를 수행하도록 규정한다. 즉, 콘텐츠 제공의 핵심 수단을 국가가 통제할 수 있도록 한다. 수단의 통제는 서비스가 제공하는 콘텐츠의 내용 관리를 가능하게 하기 때문에 언제라도 생성 인공지능이 중국이 의도하는 선동 내지는 메시지, 담론의 설파에 활용될 수 있음을 시사한다. 서비스 제공의 대상이 중국인이 아니라면 이번 조치안의 적용 범위에서 제외되기 때문에 중국이 미디어, 특히 소셜 네트워크 서비스를 통한 영향 공작이 가능한 것이다.

요약하자면, 중국의 생성 인공지능 관련 조치안은 안보 측면, 이야기 전쟁의 측면에서 방어와 공격이 모두 가능한 생성 인공지능 거버넌스의 골격을 제시한 것으로 평가할 수 있다. 특히 알고리즘 통제는 단순히 데이터를 자국내(內)에 두는 것으로는 안보 측면을 담보할 수 없음을 의미한다.

서방 세계에서는 인공지능의 위험 수준에 따라 차등적 규제를 추진하는 EU나 자율규제를 선호하는 미국간의 인공지능 관련 정책 조율이 무역기술위원회(TTC)를 통하여 진행 중이다. 민간 기업의 입장에서는 규제와 혁신 간의 조화가 어떤 모습으로 제도적으로 나타날 것인지가 관심사일 것이지만 사실상 미국과 유럽은 자신들의 이해관계에 부합하는 시장 규제를 독자적으로 추진할 가능성이 높다.

반면에 미국과 EU가 모두 인공지능의 규범에서 민주주의 및 인간의 기본권을 중심 가치로 두면서, 일반 시민의 행위를 평가해 이익 또는 불이익을 줄 수 있는 사회신용시스템(social credit system)과 같은 서비스의 제약을 추진할 전망이다. 이는 중국의 인공지능 서비스에 대한 제약으로 작용할 것이고, 중국도 서방의 인공지능 서비스가 자국민에게 제공되는 것을 이번 조치안을 통해 제한할 수 있을 것이다.

결국, 인공지능의 혁신이 진행되고 콘텐츠 생성이 용이해질 수록 중국과 서방의 인공지능 서비스는 분리되고, 상대방의 정보나 선전활동에 대한 양 진영의 대응도 강화될 가능성이 높다. 그리고 우리도 이러한 추세에 대비해야 함은 물론이다. 정보나 콘텐츠의 자유로운 생성과 유통은 상대방에 대한 왜곡과 거짓을 이용한 공격의 자유도 부여하기 때문이다.

최계영 정보통신정책연구원 선임연구위원

※ 본 기고는 중앙일보 2023년 8월 16일자에 게재되었습니다.