유럽연합(EU)이 세계 최초로 마련한 포괄적 인공지능(AI) 규제법이 압도적 찬성으로 통과됐다. AI 규제에 고심하는 다른 국가에도 이정표 역할을 할 것으로 보인다.
13일(현지시간) AFP통신 등에 따르면 유럽의회는 이날 프랑스에서 열린 본회의에서 ‘AI 법’ 최종안을 찬성 523표, 반대 46표, 기권 49표로 가결했다. 티에리 브르통 EU 내수시장 집행위원은 신뢰할 수 있는 AI를 위한 세계 최초의 포괄적이고 구속력 있는 AI 법안에 대해 유럽의회가 압도적인 지지를 보냈다면서 유럽이 AI 분야에서 글로벌 표준을 제시했다고 밝혔다.
이 법은 AI를 위험에 따라 분류하고 차등 규제한다. 법안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눈다. 고위험 등급으로 분류되는 의료·교육을 비롯한 공공 서비스, 선거, 핵심 인프라, 자율주행 등에서 AI 기술을 사용할 때 사람이 반드시 감독하도록 하고 위험관리 시스템을 구축해야 한다. 범용 AI(사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 ‘투명성 의무’를 부여하기로 했다. 2021년 발의된 초안에는 없었지만, 이후 챗GPT 등 생성형 AI가 확산되면서 AI 오남용에 대한 우려가 커지자 입법 과정에서 추가됐다. 또 광범위한 사이버 공격, ‘유해한 선입견’ 전파 등 EU가 시스템적 위험이라고 규정한 사고 발생을 방지하기 위한 조처를 해야 한다. 별도의 정보 공개·고지 의무도 부과된다.
일부 AI 기술 활용은 원천 금지된다. 이른바 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 ‘사회적 점수 평가’(소셜 스코어링)가 대표적이다. 경찰이 공공장소에서 AI로 시민의 얼굴을 인식하는 것 등 AI를 활용한 실시간 원격 생체인식 식별 시스템을 사용하는 인스타 좋아요 늘리기 것도 중대 범죄 용의자를 수색하는 등 예외적인 경우를 제외하곤 사실상 금지된다. 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했다.
이 법안은 EU 27개국 장관들이 다음달 최종 승인하면 관보 게재를 거쳐 발효된다. 일부 금지 조항은 발효 뒤 6개월부터 적용되며 이후 단계적으로 도입돼 2026년 이후 전면 시행된다. 이 법은 제품이 개발된 지역에 상관없이 EU 시장에서 사용되는 AI 제품에 적용된다. 법을 위반할 경우 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.