요약

● 딥페이크 기술을 활용한 허위 콘텐츠가 연예인뿐만 아니라 일반인, 정치인까지 대상으로 제작되어 SNS와 포털사이트를 통해 빠른 속도로 광범위하게 확산되고 있음
● '24년은 지난 4월 치러진 한국 총선을 포함하여, 유럽 의회 선거, 미국 대선 등 40개 이상 국가에서 선거가 실시될 예정으로 유권자의 혼란을 야기할 수 있는 딥페이크 정치 콘텐츠에 대한 우려가 커짐
● 실제 미국 뉴햄프셔 주 예비경선을 앞두고 당원들에게 투표 불참을 독려하는 바이든 대통령의 음성전화, 인도 유명배우의 특정 정당 지지 영상, 영국 노동당 대표의 폭언 음성파일 등 정치인이 부적절한 발언을 하거나 후보자를 지지하는 것처럼 조작된 영상 등 딥페이크 허위 콘텐츠가 선거에 직간접적인 영향을 미치는 사례가 발생함
● 딥페이크 정치 콘텐츠에 대한 국내외 규제 논의는 다양한 방식으로 진행되고 있으며, 현재는 국내 공직선거법 개정과 미국의 일부 주 선거법에 의한 규제, 기업의 자발적 규제 등이 이루어지고 있음
- 국내에서는 「공직선거법」개정으로 선거일 90일 전부터 딥페이크 영상 제작·유포 등을 금지함
- 미국은 캘리포니아주, 텍사스주 등 일부 주 선거법에서 딥페이크를 활용한 선거운동 관련 규제가 이루어지고 있음
- 구글, 아마존 등 약 20개의 주요 빅테크 기업들은 인공지능으로 인한 민주적 선거의 훼손을 방지하기 위한 ‘2024년 선거에서 인공지능의 기만적 사용 방지 기술 협약’에 서명함