작가 주: 이 글은 아시아민주주의연구네트워크(ADRN) 워킹페이퍼 Part 2에 수록된 임성학의 「Harnessing AI to Strengthen South Korean Democracy」를 바탕으로 작성했다. 해당 글은 AI가 민주주의에 미치는 위험을 분석하고 정책 대안을 제시하는 연구다.[1]
2026년 6·3 지방선거를 앞두고 중앙선거관리위원회의 딥페이크 대응이 확대됐다. 선관위가 그해 5월 21일까지 딥페이크 관련 게시물에 대해 삭제를 요청한 사례는 9,268건이었다.[2]
AI를 이용한 선거정보 조작에 대응해야 하는 행정적 수요는 점점 커지고 있다. 임성학의 워킹페이퍼는 민주주의를 보호하려면 선거정보의 진위를 확인하는 일과 함께, 시민이 스스로 판단하고 동등하게 정치에 참여할 조건을 살펴봐야 한다는 논지를 펼치고 있다.
AI가 민주주의에 미치는 영향은 두 층위로 나뉜다
워킹페이퍼는 AI의 영향을 절차적 민주주의(procedural democracy)와 실질적 민주주의(substantive democracy)로 구분한다.
절차적 민주주의는 권력을 획득하고 교체하는 규칙에 관한 문제다. 선거가 공정하게 치러지는지, 정치자금이 투명하게 관리되는지, 행정과 법 집행이 공정한지가 여기에 해당한다.
실질적 민주주의는 시민이 그 규칙 안에서 의미 있게 참여할 수 있는지를 묻는다. 다양한 정보를 접하고 독립적으로 판단할 수 있는지, 특정 집단이 차별받지 않는지, 정치 참여에 필요한 경제적·사회적 기반을 갖추고 있는지가 중요하다.
| 구분 | 핵심 질문 | AI와 관련된 주요 위험 | 워킹페이퍼의 대응 제안 |
|---|---|---|---|
| 선거와 제도 | 권력 경쟁이 공정한가 | 딥페이크, 선거정보 조작, 불투명한 정치자금 | 공익적 탐지 인프라, 정치자금 감사, 조기경보 체계 |
| 시민 개인 | 스스로 판단할 수 있는가 | 편향된 정보 노출, AI 판단에 대한 과도한 의존 | 알고리즘 투명성, 독립적 감사, 시민 숙의 |
| 사회 집단 | 동등하게 참여할 수 있는가 | 차별적 자동화, 노동시장 격차 | 사전 인권영향평가, 재교육, 사회안전망 |
이 구분에 따르면 선거일에 투표와 개표가 정상적으로 이루어졌다는 사실만으로 AI와 민주주의의 문제가 모두 해결되지는 않는다. 시민이 어떤 정보를 접하고, 어떤 조건에서 의견을 형성했는지도 함께 살펴야 한다.
딥페이크는 후보자의 평판과 투표 참여를 모두 겨냥할 수 있다
딥페이크(deepfake)는 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다.(공직선거법 제82조의8) 선거에서는 후보자가 하지 않은 말을 한 것처럼 꾸미거나, 실제로 없었던 지지 선언을 만들어 유권자의 판단에 혼란을 줄 수 있다.
투표 참여 자체를 방해하는 방식도 가능하다. AP통신은 2024년 1월 22일, 미국 뉴햄프셔주에서 조 바이든 당시 대통령의 목소리를 모방해 민주당 경선에 투표하지 말라고 권유하는 자동전화가 유포됐다고 보도했다. 주 법무당국은 이를 투표 방해 시도로 보고 조사에 착수한 바 있다.[3]
이 사례가 보여주는 위험은 정보의 내용뿐 아니라 발신자의 신원을 믿게 만드는 방식에 있다. 유권자는 익숙한 정치인의 목소리를 들었다는 이유로 메시지의 신뢰성을 높게 평가할 수 있다.
다만 허위 콘텐츠가 존재했다는 사실과 그것이 실제 투표 행동을 바꿨다는 주장은 구분해야 한다. 영향의 크기를 판단하려면 노출 범위, 유권자의 반응, 정정정보의 도달 여부 등을 별도로 확인해야 한다.
한국의 규제는 기간과 콘텐츠의 성격을 함께 따진다
공직선거법상 딥페이크 규제는 선거운동 목적과 실제 정보와의 구별 가능성을 기준으로 한다. 선거일 전 90일부터 선거일까지는 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 제작·편집·유포·상영·게시하는 방식의 선거운동이 금지된다. 그 밖의 기간에는 해당 콘텐츠가 가상의 정보라는 사실을 정해진 방식으로 표시해야 한다.[4]
따라서 AI를 이용했다는 이유만으로 모든 선거 관련 활동이 같은 규제를 받는다고 이해해서는 안 된다. 콘텐츠가 무엇을 표현하는지, 실제 인물이나 사실로 오인할 가능성이 있는지, 언제 어떤 목적으로 사용하는지를 구분해야 한다.
쟁점은 유권자를 속이는 행위를 효과적으로 막으면서도 정당한 정치적 표현과 참여 기회는 보장해야 한다.
탐지 기술은 판단과 구제 절차를 갖춰야 한다
한국은 AI를 이용해 조작물을 찾아내는 대응도 확대했다. 행정안전부와 국립과학수사연구원은 경진대회에서 선정한 딥페이크 탐지 우수 모델 5개를 중앙선거관리위원회에 제공한다고 밝히기도 했다.[5]
워킹페이퍼는 이러한 기술을 공익적 AI 방어 인프라로 발전시킬 것을 제안한다. 선거관리기관의 탐지 역량과 함께 콘텐츠의 제작·수정 이력을 확인할 수 있는 체계를 갖추고, 선거정보의 이상 징후를 조기에 포착하자는 구상이다.
실제 운영에서는 탐지 결과 이후의 절차가 중요하다. 조작 가능성이 있다는 결과를 누가 검토하는지, 게시자에게 어떤 근거를 알리는지, 잘못된 판단에 어떻게 이의를 제기할 수 있는지가 마련돼야 한다.
정치자금 감독에도 같은 원칙이 적용된다. 워킹페이퍼는 AI로 거래와 회계자료의 이상 패턴을 찾아내는 감사를 제안한다. 다만 비슷한 시점에 비슷한 금액이 기부됐다는 사실만으로 불법을 확정할 수는 없다. AI가 선별한 자료를 사람이 검토하고, 당사자의 설명과 추가 증거를 확인하는 절차가 필요하다.
시민이 접하는 정보와 판단 권한도 민주주의의 문제다
워킹페이퍼가 실질적 민주주의에서 주목하는 첫 번째 문제는 인식 자율성(epistemic autonomy)이다. 이는 시민이 정보의 근거를 따져 보고 스스로 판단할 수 있는 능력을 의미한다.
추천 알고리즘이 기존 관심사와 유사한 정보만 반복해서 보여주면 시민이 다른 관점과 접촉할 기회가 줄어들 수 있다. 이른바 필터버블(filter bubble)의 문제다.
그렇다고 추천 알고리즘이 언제나 정치적 양극화를 일으킨다고 단정할 수는 없다. 플랫폼의 설계, 이용자의 선택, 정치적 환경에 따라 작동 방식이 달라질 수 있다. 점검해야 할 대상은 어떤 정보가 왜 추천되는지, 외부에서 그 영향을 검증할 수 있는지다.
또 다른 문제는 정책 판단을 AI에 과도하게 맡기는 기술관료주의다. 예를 들어 복지 대상자를 선정하는 AI가 효율적인 배분안을 제시하더라도, 누구의 필요를 우선할지는 가치 판단을 포함한다. 워킹페이퍼는 AI의 권고를 검토할 시민 숙의기구와 인간의 최종 판단을 강조한다.
이를 제도로 옮기려면 시민에게 결과를 설명하고, 오류를 정정하며, 담당 기관의 책임을 물을 수 있는 통로가 필요하다.
AI로 인한 불평등은 정치 참여의 격차로 이어질 수 있다
AI가 과거의 채용·평가·행정 데이터를 학습하면 기존의 불평등을 반복할 가능성이 있다. 워킹페이퍼는 공공서비스에 AI를 도입하기 전에 차별과 권리 침해 가능성을 점검하는 사전 인권영향평가를 제안한다.
가령 복지 지원 시스템을 검토한다면 전체 예측 정확도와 함께 특정 연령, 지역, 장애 여부 등에 따라 필요한 지원을 놓치는 비율이 다른지도 확인할 필요가 있다. 평균 성능이 높더라도 특정 집단에 오류가 집중될 수 있기 때문이다.
노동시장 변화도 같은 맥락에서 다뤄진다. 국제노동기구(ILO)와 폴란드 국립연구원(NASK)이 2025년 5월 발표한 연구는 전 세계 고용의 약 4분의 1이 생성형 AI에 잠재적으로 노출돼 있다고 추정했다. 이는 일자리 4분의 1이 사라진다는 예측이 아니다. 연구는 인간의 역할이 남아 있는 업무가 많아 직무의 변화가 광범위하게 나타날 가능성을 강조한다.[6]
민주주의의 관점에서는 변화의 이익과 비용이 누구에게 돌아가는지가 중요하다. 소득과 고용이 불안정해지면 시민이 정치에 관심을 기울이고 조직 활동에 참여할 여유도 줄어들 수 있다. 워킹페이퍼가 인간과 AI의 상호보완적 업무 설계, 재교육, 사회안전망을 민주주의 정책과 연결하는 이유다.
대만 vTaiwan은 시민 숙의를 지원하는 활용 사례다
워킹페이퍼는 AI의 위험 대응과 함께 시민의 토론을 돕는 활용 가능성에도 주목한다. 대표 사례가 대만의 vTaiwan이다. vTaiwan은 온라인 의견 수렴과 대면 협의를 결합하는 공개 숙의 과정이다. 정부, 시민사회, 전문가, 기업과 시민이 참여하며, 의견 수렴 도구인 Pol.is 등을 활용해 쟁점과 합의 가능성을 정리한다.[7]
vTaiwan의 공식 설명에 따르면, 2023년 AI 관련 숙의에서는 쟁점 설정, 전문가 지식 수집, 이해관계자 참여, 온라인 의견 수렴을 거쳐 대면 논의를 진행했다. 합의가 강한 항목은 문서에 반영하고, 논쟁이 남은 문제는 후속 논의 대상으로 구분했다.
한국에 적용할 때에는 도구의 도입과 함께 참여 절차를 설계해야 한다. 자발적으로 접속한 이용자의 의견을 전체 국민의 의견으로 간주할 수는 없다. 참여자의 대표성, 디지털 접근성, 소수 의견의 보존, 정부가 논의 결과에 응답할 의무를 함께 검토할 필요가 있다.
워킹페이퍼가 제안하는 디지털 시민의회도 이러한 조건에서 의미를 갖는다. AI가 만든 정책 권고를 시민이 검토하고, 공공 AI의 운용 방향에 의견을 제시할 수 있어야 한다.
한국의 대응은 무엇을 기준으로 평가해야 하나
워킹페이퍼는 한국이 선거 관련 위험 대응에서는 진전을 보이지만, 시민의 판단권과 사회적 불평등에 관한 대응은 상대적으로 부족하다고 평가한다. 산업 육성과 기술 도입의 속도에 비해 민주적 감독의 제도화가 뒤처져 있다는 진단이다.
이를 바탕으로 향후 정책은 다음 세 가지를 중심으로 평가할 수 있다.
- 선거의 정확성과 공정성
삭제·적발 건수와 함께 대응 시간, 오탐으로 번복된 조치, 이의제기 처리 결과를 확인해야 한다. 빠른 대응과 정당한 표현의 보호를 함께 평가할 필요가 있다. - 공공 AI의 설명과 책임
시민에게 영향을 주는 판단의 근거를 설명하고, 오류를 정정하며, 사람이 재검토할 수 있어야 한다. 특정 집단에 불이익이 집중되는지도 지속적으로 점검해야 한다. - 시민 참여의 실질적 영향력
참여 인원뿐 아니라 누가 배제됐는지, 소수 의견이 어떻게 다뤄졌는지, 정부가 숙의 결과를 정책에 어떻게 반영했는지 확인해야 한다.
AI 거버넌스의 성과는 도입한 시스템이나 설치한 위원회의 수만으로 판단하기 어렵다. 시민이 더 신뢰할 수 있는 정보를 얻고, 불리한 결정에 이의를 제기하며, 공공 의사결정에 영향을 미칠 수 있게 됐는지가 민주적 효과를 판단하는 기준이 되어야 한다.
참고자료
- 임성학, 「Harnessing AI to Strengthen South Korean Democracy」, ADRN 워킹페이퍼 Part 2, pp. 20–34, EAI 이슈브리핑, 2026년 4월 15일.
- 박순봉, 「대중화한 AI, 손쉽게 만들어지는 가짜뉴스·딥페이크…총력전 벌이는 선관위」, 경향신문, 2026년 5월 25일.
- AP통신, 「AI-generated robocall impersonates Biden in an apparent attempt to suppress votes in New Hampshire」, 2024년 1월 22일.
- 중앙선거관리위원회, 딥페이크 영상 등을 이용한 선거운동 관련 안내, 알림·소식.
- 김보경, 「“민주주의 위협” AI 딥페이크 탐지 모델 개발…선관위 활용한다」, 아시아경제, 2026년 3월 10일.
- 국제노동기구(ILO), 「Generative AI and jobs: A 2025 update」, 2025년 5월 20일.
- vTaiwan, 「vTaiwan: rethinking democracy」, 2023년 12월.
