인공지능발 허위정보, 선거판 흔들…5·18 왜곡 가짜뉴스 확산에 법망 ‘사각지대’ 우려
[서울=뉴시스] 다가오는 지방선거를 앞두고, 인공지능(AI) 기술이 만들어낸 정교한 허위 정보가 사회관계망서비스(SNS)를 통해 급속도로 퍼지며 유권자들에게 심각한 혼란을 안겨주고 있다. 특히 5·18민주화운동을 왜곡하고 조롱하는 가짜 신문 형태의 콘텐츠는 사회 전반에 걸쳐 디지털 정보에 대한 불신과 불안감을 증폭시키고 있다.
한 시민은 “어떤 것이 실제 뉴스이고 어떤 것이 조작된 것인지 분간하기 어려운 지경에 이르렀다”며, “선거 기간에 이러한 허위 정보가 여론을 조작하고 선동하는 데 악용될 수 있다는 점이 매우 우려스럽다”고 토로했다.
이번 사건은 AI를 이용한 역사 왜곡이 선거 국면의 중대한 변수로 떠오르고 있음을 보여준다. 앞서 특정 커피 브랜드의 마케팅이 과거 인물의 이미지를 연상시킨다는 논란과 함께 전두환 전 대통령의 사진을 합성하거나 5·18을 희화화하는 AI 생성 영상이 온라인에서 확산된 바 있다. 최근에는 한 걸음 더 나아가, 1980년대 신문 형태를 그대로 모방한 허위 지면이 등장해 충격을 주고 있다.
특히 ‘광주일보’의 제호를 도용하여 ‘북한군 광주 투입’, ‘무기고 탈취’와 같은 근거 없는 주장을 담은 AI 합성 이미지는 실제 역사 기록처럼 보이도록 정교하게 제작되었다. 이 가짜 신문에 기재된 1980년 5월 20일이라는 발행일은 당시 전남 지역 언론인들이 신군부의 언론 탄압에 항거하여 제작 거부 및 집단 사직서 제출이라는 초유의 사태를 벌였던 날과 일치하여, 역사 왜곡의 의도가 더욱 짙다는 비판을 받고 있다.
이처럼 심각한 역사 왜곡과 사회적 혼란을 야기한 데 대해 5·18기념재단과 광주일보는 공동으로 광주경찰청에 고소장을 제출했다. 고소 내용은 5·18민주화운동 특별법 위반을 비롯해 정보통신망법상 명예훼손 및 업무방해 혐의 등이다.
시민들 “높은 정교함에 속기 쉬워”…경찰, 50대 유포자 입건
이러한 AI 기반 허위 정보의 확산은 일반 시민들 사이에서도 깊은 우려를 낳고 있다. 부산에 사는 직장인 정승호(33) 씨는 “예전 신문 형태를 잘 모르는 사람이라면, 온라인에 돌아다니는 과거 자료와 흡사해 쉽게 믿고 넘어갈 수 있을 것 같다”며, 선거를 앞두고 상대방 비방 목적의 정보는 일단 의심부터 해야 한다고 강조했다. 서울 송파구에 거주하는 서모(32) 씨 역시 “성인이라면 터무니없는 가짜임을 알 수 있지만, 판단력이 미숙한 10대 청소년들은 충분히 현혹될 수 있다”며, AI 기술 발전으로 가짜 뉴스의 완성도가 지나치게 높아져 별도의 사실 확인 절차가 필수적이라고 지적했다.
경찰은 문제의 허위 정보를 유포한 계정들에 대한 수사를 본격화했다. 경찰청 국가수사본부는 SNS 등을 통해 5·18민주화운동 특별법 위반 소지가 있는 허위 사실을 유포한 것으로 의심되는 37개 계정을 대상으로 입건 전 조사를 진행 중이다. 또한, 현재까지 240여 건의 관련 게시물에 대한 삭제 및 차단을 플랫폼 측에 요청한 상태다.
광주경찰청 사이버범죄수사대는 허위 신문 이미지를 온라인에 올린 50대 여성 A씨를 5·18민주화운동법 위반, 명예훼손, 업무방해 등 여러 혐의로 입건했다. A씨는 경찰 조사에서 “다른 사람이 올린 사진을 가져온 것”이며, “댓글 반응이 궁금해서 올렸다”고 진술한 것으로 전해졌다. 경찰은 A씨가 최초 제작자인지, 공범이 존재하는지 등을 밝히기 위해 압수물을 분석하는 등 추가 수사를 벌이고 있다.
‘고의성 입증’·’최초 제작자 추적’ 난항…해외 플랫폼 협조도 어려워
현행 5·18민주화운동 특별법은 허위사실 유포에 대해 최대 5년 이하의 징역형을 부과할 수 있도록 엄격히 규정하고 있어 처벌 근거는 명확하다. 그러나 정작 수사기관은 법 적용의 난제에 직면해 있다. 특히 유포자 다수가 10대와 20대로, 이들이 온라인에서 단순히 ‘놀이’처럼 콘텐츠를 공유하는 경향이 있어 법적 고의성이나 경각심 없이 이루어진 행위를 어느 수준으로 처벌해야 할지 판단하기 어렵기 때문이다.
또한, 최초 제작자를 찾아내고 ‘고의성’을 입증하는 것 역시 쉽지 않다. 이번 사건 고소를 대리한 정다은 변호사는 “메타 플랫폼의 경우 AI로 만들어진 콘텐츠에 자동으로 마름모 워터마크를 부착하는데, 문제의 이미지에도 이 표시가 확인됐다”며, 이를 바탕으로 유포자들의 고의성을 주장할 수 있다고 설명했다.
하지만 한세대 IT학부 융합보안학과 송봉규 교수는 “최초 제작자를 추적하기 위해서는 해외 플랫폼의 협조와 국제 공조가 필수적이며, 이는 상당한 시간이 소요된다”고 지적했다. 더욱이 워터마크 정보 자체를 지우거나 변조하는 AI 기술까지 등장하고 있어 기술적인 추적의 한계도 명확하다고 덧붙였다.
더욱이 국내 수사기관이 구글, 메타, X(구 트위터) 등 해외 기반의 IT 기업에 계정 정보 제공이나 게시물 삭제를 요청하더라도, 실질적인 협조를 얻기 어려운 것이 현실이다. 이는 미국 빅테크 기업들이 자국의 ‘통신품위법(CDA) 제230조’에 따라 제3자가 게시한 콘텐츠에 대한 면책권을 보장받으며, 이를 ‘표현의 자유’라는 헌법적 가치로 방어하고 있기 때문이다.
서울여자대학교 정보보호학과 김명주 교수는 이처럼 통제 불가능한 AI 허위 정보가 선거 막바지에 확산할 경우, 반박할 시간조차 없어 선거 결과가 뒤바뀌어도 되돌릴 방법이 없다고 경고했다. 김 교수는 “기술적으로 워터마크를 삭제하는 AI까지 등장한 상황에서, 법과 규제만으로는 한계가 명확하다”며, 궁극적으로 “시민들이 스스로 비판적 사고를 통해 정보를 걸러내는 ‘시민 윤리’의 함양만이 선거판을 교란하려는 AI 기반 공작을 막아낼 최후의 방어선이 될 것”이라고 역설했다.
