선거일 전 90일부터 전면 금지됐던 생성형 인공지능(AI) 활용 선거운동을 허용하되, AI 생성물임을 명시하게 하는 법안이 국회에 제출됐다. 기술의 발전 속도를 따라가지 못하는 경직된 규제를 풀고, 투명한 관리 체계를 통해 표현의 자유와 선거의 공정성을 동시에 잡겠다는 취지다.
국회 외교통일위원회 소속 차지호 더불어민주당 의원은 딥페이크 등 생성형 AI 기술을 활용한 선거운동 규제 방식을 일괄 금지에서 표시 의무 중심으로 개편하는 '공직선거법 일부개정법률안'을 대표 발의했다. 현행법이 규정하고 있는 선거 90일 전 AI 콘텐츠 이용 전면 금지 조항을 삭제하는 것이 골자다.
이번 개정안은 선거운동에 쓰이는 AI 영상, 음성, 이미지 등에 대해 유권자가 해당 콘텐츠가 인공지능으로 제작됐음을 즉각 인지할 수 있도록 명확한 표시를 의무화했다. 기술을 이용한 홍보 자체는 막지 않되, 유권자가 이를 실제 촬영본으로 오인하지 않도록 장치를 마련한 셈이다.
대신 허위 정보 유포를 통한 여론 조작 행위에 대해서는 징벌적 성격의 규제를 대폭 강화했다. AI 생성물임을 표시하지 않거나 거짓으로 표시해 유권자를 속이는 행위는 엄격히 금지된다. 특히 자동화 계정이나 알고리즘을 인위적으로 증폭시켜 특정 후보에 대한 허위 사실을 대규모로 확산시키는 행위가 처벌 대상에 포함됐다.
처벌 규정도 구체적인 수치로 명시됐다. AI를 이용해 당선 목적으로 허위 사실을 공표할 경우 5년 이하의 징역 또는 3천만 원 이하의 벌금형에 처해진다. 낙선 목적의 허위 사실 공표는 처벌 수위가 더 높아 7년 이하의 징역 또는 최대 5천만 원의 벌금이 부과되도록 설계됐다.
온라인 플랫폼 운영자의 책임론도 법안에 담겼다. 일정 규모 이상의 플랫폼 사업자는 자동화 계정 차단과 알고리즘 투명성 확보 등 인위적인 정보 확산을 막기 위한 관리 조치 의무를 진다. 정당한 사유 없이 이를 이행하지 않는 플랫폼에는 3천만 원 이하의 과태료가 부과될 수 있다.
다만 예술적 표현이나 언론 보도의 자율성은 보장했다. 풍자나 패러디 등 전체 맥락상 AI 생성물임을 충분히 알 수 있어 선거 공정성을 해칠 우려가 없는 경우와 언론의 보도 목적 활용은 표시 의무 대상에서 제외된다. 과도한 규제가 창작 활동이나 보도 기능을 위축시킬 수 있다는 지적을 반영한 조치다.
차 의원은 제안 이유를 통해 규제 방식의 패러다임 전환이 필요함을 피력했다. 딥페이크를 이용한 여론 조작 위험은 커지고 있으나, 무조건적인 금지보다는 투명성 확보와 실효적인 유통 관리가 디지털 시대의 선거 공정성을 지키는 데 적합하다는 설명이다.
해당 개정안은 국회 본회의 통과 후 대통령 공포를 거쳐 3개월 뒤부터 시행될 예정이다. 법안이 시행되면 향후 치러질 선거에서 AI 기술을 활용한 후보자 홍보가 합법화되는 동시에, 가짜 뉴스와의 전쟁은 플랫폼과 제작자 모두에게 더 무거운 책임을 묻는 구조로 변하게 된다.
이번 법 개정 추진으로 인해 AI 기술의 선거 개입 경계선이 어디까지 설정될지를 두고 정치권과 기술 업계의 논의는 더욱 치열해질 것으로 보인다.
