4·10 총선을 앞두고 에이브러햄 링컨, 윈스턴 처칠, 더글라스 맥아더가 유창한 한국어로 지지하는 정당을 밝힌다면 어떨까. 과거 같으면 조악한 수준에 코웃음 치겠지만 인공지능(AI) 기술의 발달에 따라 더 이상 가볍게 넘길 수 없는 문제가 됐다. 실제로 이번 총선을 앞두고도 ‘딥페이크’(특정 인물의 얼굴 등을 AI 기술을 이용해 특정 영상에 합성한 편집물)가 기승을 부리고 있다.
중앙선거관리위원회는 2일까지 딥페이크 영상 등을 인스타 팔로워 통한 선거법 위반행위 총 327건을 적발했다. 선관위는 이 중 1건은 경고, 2건은 준수 촉구, 324건은 삭제요청 조치했다.
인터넷상에서는 이날도 외국 유명 인사들이 명언과 함께 특정 당 이름을 반복적으로 외치는 딥페이크 영상이 쉽게 검색됐다. 링컨이 국민의, 국민을 위한, 국민에 의한 XXXX당이라고 말하고, 맥아더가 노병은 죽지 않는다. 다만 사라질 뿐이다. XXXX당이라고 외치는 식이다. 영상에는 이분들도 XXXXX을 지지한다고!?라는 제목도 달렸다. 설명에는 해시태그로 이 영상이 AI, 딥페이크라는 사실도 적시했다. 해당 유튜브 채널에는 이 당과 전광훈 인스타 팔로워 목사에 대한 영상이 다수 올라와 있다.
선관위에 적발된 사례 중에는 국내 주요 정치인이 특정 정당·입후보예정자에 대해 부정적인 언급이나 조롱·비난을 하는 듯한 영상을 만든 경우도 있다. 드라마·방송 영상에 딥페이크 기술로 특정 입후보예정자의 얼굴을 삽입해 조롱·비난하는 듯 만들거나, 홍보 혹은 지지를 호소하는 사례도 있었다.
이같은 사례는 모두 공직선거법 위반이다. 누구든지 선거일 전 90일, 이번 총선의 경우 지난 1월29일부터 선거운동을 위해 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없다. 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한대상이 될 수 있다.
선관위는 지난 1월11일부터 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반 등을 확대 편성·운영 중이다. 선거법 위반행위는 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 적발한다.
선관위는 기술의 발달로 실제와 구분하기 어려운 가상의 영상을 누구나 인스타 팔로워 쉽게 만들 수 있는 상황이 된 만큼 유권자들도 선거공보나 후보자토론회 등 공식 선거운동 방법과 신뢰성 있는 언론매체 등을 통해 종합적으로 후보자의 자질과 공약을 따져 봐야 한다고 당부했다.