최근 인공지능(AI) 기술의 발전이 눈부신 가운데, AI로 제작된 콘텐츠의 사용도 급격히 늘어나고 있습니다. 이에 따른 부작용 역시 만만치 않게 제기되고 있는데요, 중국이 이러한 문제에 대응하기 위해 AI 제작 콘텐츠에 대한 식별 의무화 규정을 담은 초안을 발표했다는 소식이 전해졌습니다.
이번 규정 초안은 AI로 제작된 모든 콘텐츠에 대해 분명한 식별 표식을 요구하고 있습니다. 문자, 영상, 오디오 등 AI를 활용해 만들어진 모든 형태의 콘텐츠에 'AI로 제작'된 사실을 반드시 명시해야 하며, 이를 통해 온라인 사용자들이 AI 콘텐츠를 쉽게 인식할 수 있도록 하는 것이 핵심입니다. 특히 디지털 워터마크나 메타데이터 태그와 같은 기술적 방법을 권장하며, 이러한 표식이 제거되거나 변조되는 행위를 엄격히 금지하고 있습니다.
이 규정의 도입 배경은 크게 두 가지로 요약할 수 있습니다.
첫 번째는 국가안보입니다. AI 기술이 발전하면서 딥페이크(Deepfake) 기술 같은 악용 사례가 발생하고, 이를 통해 온라인 사기나 명예훼손과 같은 범죄가 이어지고 있기 때문에 국가 차원에서 이를 규제하려는 움직임입니다.
두 번째는 공공이익 보호입니다. 중국 당국은 AI 콘텐츠가 잘못된 방식으로 사용되면 개인이나 단체의 권리와 이익을 침해할 수 있다고 우려하며, 이러한 피해를 방지하기 위한 선제적 대응이 필요하다고 보고 있습니다.
특히 주목할 점은, 이 초안이 모든 AI 콘텐츠 제작자에게만 적용되는 것이 아니라, 이를 배포하는 플랫폼에도 적용된다는 점입니다. AI로 제작된 콘텐츠를 배포하는 모든 플랫폼은 콘텐츠가 올바르게 식별될 수 있도록 책임을 져야 하며, 이를 위반하는 행위는 엄중히 처벌될 수 있습니다. 이는 인터넷 정보 플랫폼들이 더욱 신중하고 철저하게 AI 콘텐츠를 관리해야 함을 의미합니다.
사실 중국은 이미 AI와 관련된 여러 규제를 시행해 왔습니다. 2023년 1월부터 딥페이크 규제와 관련된 '인터넷 정보 서비스 딥 합성 관리 규정'이 시행 중인데, 해당 규정은 딥페이크 기술을 활용한 콘텐츠에 대해 원본 추적이 가능해야 하며, 해당 기술 사용 사실을 명시하도록 하고 있습니다. 이번 규정 초안도 이러한 흐름의 연장선으로 볼 수 있습니다. 더불어, 2023년 8월에는 ‘생성형 AI 서비스 관리 임시규정’이 시행되었는데, 이는 생성형 AI 서비스 제공자들이 당국에 서비스를 등록하고 보안 평가를 통과해야만 서비스 출시가 가능하도록 하는 내용입니다.
중국이 이처럼 AI 관련 규제를 강화하는 데에는 이유가 있습니다. 기술의 빠른 발전이 긍정적인 변화만을 가져오는 것은 아니며, 그에 따른 부작용 역시 무시할 수 없습니다. 특히 AI로 만들어진 콘텐츠는 가짜뉴스나 정보 왜곡, 사기 등의 문제를 초래할 수 있으며, 이는 사회적 혼란을 가중시키는 원인이 됩니다. 중국 당국은 이러한 부정적 요소를 미리 차단하고, 사회 안정과 공공의 이익을 보호하기 위해 이번 규제를 마련한 것입니다.
이번 중국의 규제 움직임은 세계적으로도 주목할 만한 사건입니다. 유럽연합(EU)이나 미국에서도 AI 콘텐츠 규제를 검토하고 있는 상황에서, 중국의 이번 발표는 선도적인 역할을 하고 있습니다. AI 기술이 단순한 기술 발전을 넘어서 사회 전반에 영향을 미치기 시작한 만큼, 이러한 규제의 필요성은 점차 세계 각국에서 공감대를 형성하고 있습니다.
결국 AI 기술의 발전이 계속될수록, 기술이 가져올 수 있는 부정적 영향에 대한 규제와 감시는 더욱 중요해질 것입니다. 중국의 이번 규정 초안 발표는 AI 기술이 가져올 미래에 대한 선제적 대응으로 해석할 수 있습니다. 앞으로 세계 각국이 이러한 규제 흐름에 어떻게 대응할지, 그리고 AI 기술이 사회에 어떤 변화를 가져올지 계속해서 지켜볼 필요가 있겠습니다.