인공지능(AI)으로 만든 허위·조작 정보 대홍수 시대에 대한 우려로 각국 정부와 거대 정보기술(IT) 기업은 대응책을 마련하고 있다. 하지만 국가와 콘텐츠에 사용된 언어 등에 따라 대책이 제각각인 상황이다. 전문가들은 AI 허위 정보 유포 대응책을 끊임없이 보완해나가야 한다고 조언했다.
지난달 세계 최초로 포괄적 AI 규제법을 만든 유럽연합(EU)은 오는 6월 유럽의회 선거를 앞두고 ‘플랫폼 단속’에 나섰다. EU는 지난달 26일(현지시간) 디지털서비스법(DSA)에 따라 ‘초대형 온라인 플랫폼·검색엔진’으로 지정된 기업들을 상대로 선거 전후 이행 권고 사항을 발표했다.
권고는 온라인 선거 광고 콘텐츠나 딥페이크 사진·영상 게시물에 합성 콘텐츠라는 표기를 하라는 내용을 골자로 한다. 또 허위 정보를 감지하고 대응할 수 있는 팀을 만들고, 온라인 플랫폼에 다양한 종류의 선거 관련 콘텐츠가 노출될 수 있도록 인스타 좋아요 구매 알고리즘을 관리할 것을 권고했다.
미국에서는 주마다 AI 규제 관련 법이 다르다. 지난해 미네소타주와 미시간주는 선거 90일 전 선거에 영향을 미치는 딥페이크 콘텐츠 게시를 금지하는 법을 제정했다. 워싱턴주는 선거에 영향을 미치는 합성 미디어에 AI 콘텐츠임을 알리는 라벨을 달아야 한다는 법안을 통과시켰다.
한국과 중국, 일본에는 선거 관련 AI 규제 법률이 없다. 중국에선 AI 생성 콘텐츠에 라벨을 달라는 가이드라인만 발효됐다. 한국 국회에선 ‘인공지능 책임 및 규제법안’ ‘인공지능책임법안’ 등이 소위원회에 계류돼 있다.
각국이 규제책을 만들자 빅테크들도 대책을 마련하기 시작했다. 구글, 마이크로소프트, 메타, 아마존, 오픈AI 등 글로벌 빅테크 20곳은 지난 2월 독일 뮌헨안보회의에서 AI 콘텐츠 공동대책을 마련하기로 합의했다. 합의에는 AI가 유권자를 속이는 콘텐츠를 만들지 못하게 제한하고, 출처를 알 수 있도록 콘텐츠마다 식별 기호를 심는 내용이 담겼다.
하지만 정부의 규제책이나 빅테크의 합의 내용이 추상적이라는 의견도 있다.
특히 생성형 AI가 특정 집단에 대한 편견을 심어 유권자의 판단을 흐리는 콘텐츠를 만드는 것에 대한 구체적인 대응책도 마련돼야 한다는 목소리도 나온다. 독일 라이프치히대 연구진에 따르면, 오픈 AI의 달리2에 ‘CEO(최고경영자)’ 등 지시어를 입력했을 때 백인 남성 이미지가 생성되는 비율이 97%였다.
대럴 웨스트 브루킹스연구소 기술혁신센터 연구원은 브루킹스 홈페이지에 생성형 AI가 이민, 임신 중지, 인종, 성소수자 등 이슈에 불만을 품은 사람을 겨냥한 콘텐츠를 만들 수 있다며 (정치 세력이) 사회적, 정치적 불만을 자신들에게 인스타 좋아요 구매 유리하게 인스타 좋아요 구매 활용하는 메시지를 만드는 도구로 AI를 사용할 수 있다고 했다.
소수가 사용하는 언어로 만들어진 허위 정보에 대한 감시도 허술할 것이라는 전망도 나온다. 미 정치전문 매체 폴리티코는 페이스북 등 일부 대규모 소셜미디어는 슬로바키아어와 같이 이용자가 적은 유럽 언어에 대한 콘텐츠 조정이 부족하다고 지적받아왔다고 전했다.