미국 민주당은 오는 11월 중간선거를 앞두고 AI 선거 방해 대응 모의훈련을 실시했다. AI로 만든 광범위한 선거 부정 영상이 소셜미디어에서 확산되는 것이 주요 줄거리였다. 전문가가 조작이라고 밝혀도 극우 언론과 대통령의 주장이 더해져 선거 관계자에 대한 살해 위협과 무장괴한의 투표소 출현으로 이어지는 시나리오도 포함됐다고 한다. 모의훈련이지만 AI발 허위정보가 정치적 선동, 물리적 위협, 행정권의 선거 개입과 결합하는 과정을 현실적으로 보여준다는 점에서 의미가 있어 보인다.[1]
AI가 선거를 위협한다고 하면 흔히 후보자의 얼굴과 목소리를 조작한 딥페이크부터 떠올린다. 사실 최근까지는 그랬다. 딥페이크로 만들어진 허위 조작 선거정보가 유권자 선택을 왜곡하는 문제를 가장 심각하게 봤던 것도 사실이다. 중앙선관위도 그에 초점을 맞춰 2024년 제22대 총선에서 문제 있는 딥페이크 391건을 적발해 삭제를 요청하기도 했다.[2]
그러나 현재 AI 발전 속도는 우리 상상의 범위를 넘어선다. 반도체의 집적도가 약 2년마다 두 배로 증가한다는 무어의 법칙이 기술 발전의 가속도를 보여줬듯, AI 역시 인간의 선형적 예측을 앞지르는 속도로 발전하고 있기 때문이다. 따라서 현재의 AI 발전 속도로 봤을 때 단순히 선거과정에서 딥페이크 가짜 영상만 막는다고 안심해서는 안될 것으로 보이며 딥페이크 넘어 즉 유권자 명부와 신원 확인, 투표 및 개표, 클라우드와 선거정보 안내 등 아직은 눈에 들어오는 곳에 더 근본적인 위협이 도사리고 있지 않을까 생각한다. 흔히 이야기하는 ‘보이지 않는 AI’다.
지난 7월 제네바에서 열린 유엔 ‘AI 거버넌스 글로벌 대화(Global Dialogue on AI Governance)’는 모든 회원국과 다양한 이해관계자가 참여하도록 설계된 유엔 최초의 포괄적 AI 거버넌스 대화 플랫폼이라는 점에서 의미가 있었다. 다만, AI로 인한 안전과 신뢰, 인권을 주로 논의하였고, 선거와 관련해서는 주로 딥페이크 문제로, 그것도 주요의제가 아닌 발언으로만 다뤄진 아쉬움이 있었다.[3]
| 날짜·프로그램 시각 | 세션 | 영상 시점 | 주요 내용 |
|---|---|---|---|
| 7월 6일 08:30–09:30 | 개막식 | 09:32 | 안토니우 구테흐스 UN 사무총장이 AI가 “선거에 영향을 미칠 수 있다”고 경고했습니다. |
| 7월 6일 08:30–09:30 | 개막식 | 33:41 | 안날레나 베어보크 총회의장이 여성과 소녀를 겨냥한 성적 딥페이크 문제를 언급했습니다. |
| 7월 6일 09:30–10:30 | 국제 AI 과학패널 예비보고서 발표 | 1:34:50–1:36:27 | 리타 올루치 오르지가 진짜 정치인의 영상도 가짜로 치부되는 ‘거짓말쟁이의 배당 효과’, 공직자 사칭, 딥페이크로 인한 민주적 공론장 훼손을 설명했습니다. 개막식·과학패널 공식 영상/자막 |
| 7월 6일 15:00–18:00 | 주제별 토론 1: AI의 기회와 영향 | 1:04:07 | 시민사회 측에서 비동의 성적 합성물과 여성에게 집중되는 딥페이크 피해를 제기했습니다. |
| 같은 세션 | 주제별 토론 1 | 약 3:09:32 | 콩고민주공화국 대표가 AI의 위험으로 허위정보와 함께 “선거 과정의 조작”을 명시적으로 언급했습니다. 토론 1 공식 영상/자막 |
| 7월 6일 15:00–18:00 | 주제별 토론 2: AI 격차 해소 | 58:55–59:03 | 러시아과학원 측 발언자가 AI가 사회발전과 딥페이크, 선거에 미치는 영향을 함께 거론하며 국제적 기준과 협력의 필요성을 주장했습니다. 토론 2 공식 영상/자막 |
| 7월 7일 09:00–12:00 | 주제별 토론 3: 안전하고 신뢰할 수 있는 AI | 약 46:00 | 딥페이크를 이용한 성폭력, 자동화된 허위정보, 공통 현실의 붕괴가 민주주의의 정당성을 훼손한다는 지적이 나왔습니다. |
| 같은 세션 | 주제별 토론 3 | 약 1:07–1:10 | 프랑스 대표가 AI를 활용한 허위정보 때문에 선거 과정의 무결성이 위협받고 있다고 발언했습니다. |
| 같은 세션 | 주제별 토론 3 | 1:10:13 | WITNESS의 샘 그레고리가 공인 사칭 딥페이크와 ‘거짓말쟁이의 배당 효과’를 설명하고, 콘텐츠 출처 확인과 정보 무결성 대책을 요구했습니다. |
| 같은 세션 | 주제별 토론 3 | 2:51:23 | 세션 정리에서 정보 무결성, 콘텐츠 출처 추적, 딥페이크 대응 장치의 국제적 상호운용성이 필요하다고 정리했습니다. 토론 3 공식 영상/자막 |
| 7월 7일 09:00–12:00 | 주제별 토론 4: 인권·투명성·책임성·인간의 감독 | 36:51 | 소니아 리빙스턴이 AI가 정보 생태계와 민주적 참여, 특히 ‘선거 무결성’을 위협한다고 설명했습니다. 토론 4 공식 영상/자막 |
하지만 AI와 선거는 단순하게 딥페이크로만 다뤄질 문제는 아니다. 전술하였듯이, 유권자 명부와 신원 확인, 투표 및 개표, 클라우드와 선거정보 안내 등에서 우리의 상상을 넘는 좀 더 근본적인 위협이 나타날 수 있기 때문이다. AI로 인해 선거가 흔들리면 국가의 근간을 이루는 정통성 자체에 문제가 생길 수 있고, 이는 민주주의에 대한 심각한 위협을 결과할 수 있다.
인도의 사례를 보자. 2015년 인도 선거관리위원회는 유권자의 신분증 기록을 국가 신원 데이터베이스인 아드하르(Aadhaar)와 연계하는 프로그램을 시작했는데, 이 프로그램은 선거관리위원회와 같은 독립기관이 아니라 행정부의 통제를 받는 법정기관이 운영했다. 따라서 선거관리위원회만 보유하도록 되어 있던 기록에 행정부가 직접 접근할 수 있게 되었다. 그런데 해당 법정기관은 두 데이터베이스를 교차 대조해 중복 등록된 유권자와 사망한 유권자를 식별하고 삭제 대상으로 표시하도록 머신러닝 알고리즘을 훈련했고 그 과정에서 약 550만 명의 유권자가 명부에서 삭제됐다. 해당 대조 알고리즘의 오류율은 최고 93%에 달하는 것으로 알려졌다. 어떤 자료를 대조했고 왜 특정인을 중복으로 판단했는지, 당사자가 통지받고 이의를 제기할 수 있었는지도 불분명했다. 결함을 지닌 머신러닝 모델이 역설적으로 누가 투표권을 유지할 것인지를 결정하는 데 중요한 역할을 하게 된 것이다.[4]
AI 챗봇에 대한 문제도 우려된다. 미국에서 선거 관련 AI 챗봇의 절반 이상이 부정확한 선거정보를 내놓았다는 보도도 있었다.[5] 이는 영어권 기사 뿐만 아니라 스페인어의 경우에도 마찬가지라고 한다.[6] 선거에서 활용되는 AI챗봇이 다루는 영역이 보통 투표일, 투표소, 선거권 유무, 등록 요건 등이라는 점에서 이는 단순한 오류라기 보다는 참정권의 문제로 발전할 수 있기 때문에 주의가 필요할 것이다.
더 근본적인 우려는 선거에 관한 권한이 공공기관이 완전히 통제하지 못하는 민간으로 점점 이전되고 있다는 점이다. 선거인 명부, 생체인식장치, 신원정보 DB, 선거 관리 프로그램, 클라우드 등 전반적인 온라인 인프라에서 AI 기반 기능이 갈수록 많이 포함되고 있다. 이에 따라 민주주의의 핵심 인프라가 국가기관의 통제 밖에 놓일 수도 있게되는 것이다. 점점 더 많은 민간 AI 서비스 제공업체들이 유권자 등록 및 물류 기획부터 유권자 정보 서비스 및 온라인 모니터링에 이르기까지 핵심 선거 기능을 혁신하고 자동화하겠다는 솔루션을 내세워 선거관리기구(EMB)에 접근하고 있는 상황에 대한 우려도 증가하고 있다.[7]
종합해볼때, 선거 분야에서 AI는 단순히 딥페이크 논의보다는 좀 더 광범위한 논의가 필요할 것으로 보인다. 따라서 추상적이고 일반적인 ‘AI 윤리’ 선언보다는 선거관리기구(EMB)의 현실적 제약과 책임을 고려한 상세한 거버넌스 기준을 마련해야 할 것으로 보인다.
첫째, 선거인 명부, 투표, 개표 등 국민의 참정권에 직간접적으로 영향을 주는 부분은 “AI 고위험 시스템”으로 지정할 필요가 있다. 편의성만 생각하여 AI 도입을 하는 것은 위험하며 목적에 부합하는 범위에서 매우 엄격하게 제한적으로 도입해야 할 것이다.
둘째, AI 결정 전에는 반드시 인간의 최종 확인이 있어야 한다. AI는 인간의 의사결정을 보조할 뿐 대체해서는 안되기 때문에 지속적인 인간의 감독 장치를 구축해야 한다.
셋째, 장애 발생시에도 선거를 진행할 수 있도록 아날로그 대체수단을 사전에 확보해야 한다. 이는 AI 시스템의 기술적 장애나 사이버 공격이 발생하더라도 선거의 무결성을 유지하기 위함이다.
선거관리에 있어 AI의 성능보다 더 중요한 것은 누가 AI를 감독 통제하고, 누가 시스템을 검증하며, 오류 발생을 사전에 방지할 수 있는가 일 것이다. 서두에서 말한 미국 민주당의 모의훈련이 보여주듯 기술적 조작은 현실의 폭력으로 번질 수 있다. 명확한 AI 거버넌스 기준은 혁신의 장애물이 아니라 민주주의를 신뢰하고 유지하는 최소 조건이다. 늦지 않게 준비하는 것이 필요한 시기이다.
참고자료
- 고일환, 「美민주당, 중간선거 앞두고 ‘선거방해’ 모의 훈련」, 연합뉴스, 2026년 8월 10일.
- 이광빈, 「딥페이크, 韓총선엔 미풍…美대선엔 태풍 될 까닭은」, 연합뉴스, 2024년 4월 20일.
- UN, Global Dialogue on AI Governance, 2026.
- Lisa Poggiali and Samson Itodo, 「Why we should all be worried about AI in elections」, Rest of World, 2026. 8. 12.
- Sareen Habeshian, 「AI chatbots provide inaccurate election information」, Axios, 2024. 3. 19.
- Gisela Salomon and Garance Burkeap, 「Voting rights groups worry AI models are generating inaccurate and misleading responses in Spanish」, 2024. 10. 31.
- International IDEA, 「What Have We Learned About AI in Elections?」, 2025. 11. 27.
