작가 주: 아래 내용은 국제민주주의·선거지원기구(International IDEA)와 남아프리카개발공동체 선거위원회포럼(ECF-SADC)의 「남아프리카 지역 선거 과정에서 인공지능의 책임 있는 통합 강화」를 중심으로 정리한 글이다.[1]
인공지능(AI)은 선거인명부의 중복 정보를 찾고, 투표소에 필요한 인력과 물자를 예측하며, 여러 언어로 유권자의 질문에 답하는 데 활용될 수 있다. 동시에 후보자의 목소리를 모방한 가짜 음성이나 선거관리기관을 사칭한 안내를 대량으로 만들어 선거에 대한 신뢰를 훼손할 수도 있다.
보고서는 이러한 양면성을 선거관리기관의 책임이라는 관점에서 다룬다. AI의 성능뿐 아니라 개인정보 보호, 판단의 책임, 외부 업체에 대한 의존, 디지털 접근성까지 함께 검토해야 한다는 것이다.
다만 보고서의 권고를 남아프리카 국가들이 이미 공동으로 시행하는 제도로 이해해서는 안 된다. 여러 국가의 사례와 기존 연구를 바탕으로 앞으로 갖추어야 할 운영 기준을 제시한 자료이며, AI 도입의 효과를 동일한 지표로 측정한 실증연구는 아니다.
선거에서 AI는 어디에 활용될 수 있는가
보고서가 다루는 선거 기술은 생성형 AI에 한정되지 않는다. 생체정보를 이용한 신원 확인, 데이터 분석, 이상 징후 탐지, 자동화된 안내 서비스 등 선거 주기 전반의 활용을 포함한다.
주요 활용 가능성과 필요한 조건을 정리하면 다음과 같다.
| 활용 영역 | 기대할 수 있는 기능 | 함께 확인해야 할 조건 |
|---|---|---|
| 선거인명부 관리 | 중복 등록과 비정상적인 기록 탐지 | 정상적인 유권자가 잘못 제외되지 않도록 사람의 확인과 정정 절차 마련 |
| 투표소·물류 계획 | 투표 참여와 인력·물자 수요 예측 | 과거 자료의 편향과 지역별 여건 반영 |
| 유권자 안내 | 다국어 챗봇, 번역, 음성 안내 | 안내의 정확성, 지역 언어 검수, 장애인 접근성 |
| 정보환경 대응 | 딥페이크와 조직적인 허위정보 탐지 지원 | 탐지 결과의 검증과 신속한 사실 안내 |
| 사이버보안 | 비정상적인 접속과 공격 징후 탐지 | 독립적인 보안 점검과 장애 시 대체 절차 |
이러한 기능은 선거관리 업무를 지원할 수 있지만, 오류를 자동으로 없애는 것은 아니다. 부정확한 자료를 바탕으로 시스템을 구축하면 기존의 누락이 더 빠르고 넓게 반복될 수 있다.
또한 생체인증, 전자적 결과 전송, 전자투표, AI 활용은 서로 구분해야 한다. 선거 과정에 디지털 기술이 사용되었다는 사실만으로 모든 기능이 AI에 기반한다고 볼 수 없으며, AI 도입이 곧 인터넷 투표 도입을 뜻하는 것도 아니다.
실제 사례와 기대 효과는 구분해야 한다
보고서는 남아프리카공화국 선거관리위원회가 2024년 선거에서 자동 응답 챗봇을 운영하고, 기술 플랫폼 및 시민사회와 협력해 선거 관련 허위정보에 대응한 사례를 소개한다. 남아프리카 밖의 케냐·가나·나이지리아 사례도 비교 자료로 활용한다.
이 사례들은 디지털 도구가 유권자 안내와 정보 검증에 활용될 수 있음을 보여준다. 다만 서비스가 운영되었다는 사실과 그 서비스가 투표율이나 선거 신뢰를 얼마나 높였는지는 별개의 문제다.
선거관리기관이 내부 업무에 AI를 직접 도입하지 않더라도 대응은 필요하다. 정당, 후보자, 유권자, 외부 업체가 이미 AI를 활용할 수 있기 때문이다. 선거관리기관은 자체 시스템의 관리와 선거를 둘러싼 정보환경의 변화를 함께 살펴야 한다.
딥페이크는 진짜 정보에 대한 신뢰까지 약화시킨다
AI가 선거에 미치는 가장 눈에 띄는 위험은 허위정보의 제작 비용을 낮추고 확산 속도를 높인다는 점이다. 후보자가 하지 않은 발언을 한 것처럼 꾸미거나 투표 방법과 결과에 관한 거짓 정보를 대량으로 유포할 수 있다.
보고서는 여기서 한 단계 더 나아가 ‘거짓말쟁이의 배당’이라는 문제를 지적한다. 가짜 영상과 음성이 흔해지면 실제로 존재하는 기록도 “AI로 만든 것”이라는 이유로 부정할 여지가 커진다는 것이다.
따라서 대응은 가짜 콘텐츠를 찾아내는 작업만으로 끝나기 어렵다. 유권자가 공식 정보를 확인할 수 있는 경로를 분명히 하고, 잘못된 안내가 퍼졌을 때 빠르게 정정하며, 언론·시민사회·사실검증기관과 협력하는 체계가 필요하다.
정치적 긴장이 높은 환경에서는 투표 절차나 선거 결과에 관한 허위정보가 선거관리기관의 정당성을 흔들고 폭력으로 이어질 가능성도 있다. 보고서는 이를 기술적 오류를 넘어 민주적 안정과 관련된 위험으로 평가한다.
정교한 분석이 개인정보 침해와 배제로 이어질 수 있다
AI는 유권자의 지역, 관심사, 온라인 행동 등을 분석해 집단별 메시지를 전달하는 데 활용될 수 있다. 이러한 방식은 필요한 정보를 효과적으로 전달할 가능성이 있지만, 개인정보의 과도한 수집이나 정치적 조작에 이용될 위험도 있다.
서로 다른 집단에 상반된 메시지를 전달하면 공통의 사실과 쟁점을 놓고 토론하기도 어려워진다. 디지털 광고의 지출 경로가 복잡해지면 선거자금의 투명성과 추적 가능성도 새로운 과제가 된다.
행정 분야에서는 알고리즘의 편향이 직접적인 권리 침해로 이어질 수 있다. 생체인증 시스템이 특정 연령이나 피부색의 유권자를 더 자주 잘못 판별하거나, 지역 언어를 제대로 처리하지 못하는 안내 도구가 일부 주민에게 부정확한 정보를 제공할 수 있기 때문이다.
이 때문에 전체 평균 정확도만 확인해서는 충분하지 않다. 보고서는 다양한 인구집단을 대상으로 성능을 검증하고, 지역 언어와 취약계층의 이용 조건을 반영해야 한다고 권고한다.
유권자 권리에 영향을 주는 판단은 사람이 확인해야 한다
보고서의 중요한 원칙은 사람이 최종 판단 권한을 유지하는 감독 체계, 즉 ‘Human-in-the-Loop’다.
AI가 중복 등록이나 후보자 추천 서명의 문제를 찾아내더라도, 그 표시가 곧 유권자 제외나 후보자 자격 박탈로 이어져서는 안 된다. 담당자가 자료를 검토하고 판단을 확인하며, 그 결정에 책임을 질 수 있어야 한다.
다만 사람의 감독 방식은 업무의 위험도에 따라 달라진다. 보고서는 모든 AI 기능에 동일한 사전 승인 절차를 적용하지 않는다.
선거인명부나 후보자 자격처럼 권리에 직접 영향을 미치는 업무에서는 결정 전에 사람이 확인해야 한다. 반면 실시간 안내 챗봇은 모든 답변을 미리 승인하기 어렵기 때문에, 검증된 자료와 오류 방지 장치를 갖추고 운영 중 점검과 사후 정정을 병행하는 방식을 제시한다.
유권자와 정당이 자동화된 판단에 이의를 제기할 수 있는 신속하고 투명한 절차도 필요하다. 사람의 감독은 형식적인 승인에 그치지 않고, 잘못된 판단을 실제로 수정할 수 있는 권한과 연결되어야 한다.
데이터 주권은 안전한 운영 능력과 함께 확보해야 한다
선거인명부와 생체정보는 민감한 자료다. 보고서는 이러한 정보를 누가 보관하고 처리하며 접근할 수 있는지를 선거관리기관의 독립성과 국가의 데이터 주권에 관련된 문제로 본다.
이에 따라 민감한 선거 데이터를 국가가 관리하거나 규제하는 국내 서버에 보관하는 방향을 강조한다. 그러나 본문에서는 국내 저장 자체가 안전을 보장하지는 않는다는 조건도 함께 제시한다.
국내 시설의 보안 역량이 부족하거나 데이터가 한곳에 집중되어 충분한 백업과 재해복구 체계를 갖추지 못하면, 지나치게 경직된 현지화 요구가 오히려 위험을 키울 수 있다는 것이다.
중요한 것은 데이터의 위치와 함께 실제 통제 능력을 확보하는 일이다. 필요한 정보만 수집하고, 접근 권한과 보관 기준을 정하며, 장애나 공격이 발생해도 복구할 수 있어야 한다.
외부 업체에 대한 의존도 같은 맥락에서 검토해야 한다. 선거관리기관이 시스템의 작동 원리와 한계를 이해하지 못하면 문제의 원인을 파악하거나 독립적으로 운영하기 어렵다. 보고서는 조달 계약에 시스템 검증에 필요한 접근과 직원 교육·기술 이전을 포함할 것을 권고한다.
종이 백업과 비디지털 서비스는 서로 다른 역할을 한다
보고서는 디지털 시스템이 중단되더라도 투표와 집계가 계속될 수 있도록 수작업과 종이 기반 백업을 유지해야 한다고 강조한다. 선거일 전에 독립적인 시스템 감사와 침투시험을 실시하는 것도 주요 권고다.
이는 시스템 장애에 대비하는 조치다. 이와 별도로, 디지털 도구를 이용하기 어려운 유권자에게 필수 선거 서비스를 제공하는 비디지털 경로도 필요하다.
다국어 챗봇과 음성 안내는 접근성을 높일 수 있지만, 인터넷 연결이나 기기, 이용 능력이 부족한 사람에게는 도움이 제한된다. 보고서는 낮은 통신 대역폭에서도 사용할 수 있는 도구와 함께 필수 서비스의 비디지털 대안을 보장할 것을 제안한다.
따라서 AI 서비스의 평가는 이용자 수나 처리 속도만으로 이루어져서는 안 된다. 새로운 도구가 누구에게 도움이 되고, 누구를 배제할 가능성이 있는지도 확인해야 한다.
책임 있는 도입을 위해 필요한 다섯 가지 과제
보고서의 정책 권고는 선거관리기관의 내부 역량과 지역 협력을 함께 강화하는 방향으로 정리할 수 있다.
- 도입 전에 책임과 운영 기준을 정한다.
조달, 데이터 소유권, 오류 발생 시 책임, 사람의 감독, 감사와 이의제기 절차를 기관의 AI 운영 체계에 포함한다. - 보안과 복구 능력을 검증한다.
암호화, 침투시험, 독립적인 시스템 감사, 종이 기반 백업을 갖추고 선거일 전에 충분히 점검한다. - 직원과 기관의 역량을 축적한다.
AI 이해, 개인정보 관리, 사이버보안 교육을 지속하고, 외부 업체의 지원이 끝난 뒤에도 시스템을 관리할 수 있도록 한다. - 국경을 넘는 위험에 공동 대응한다.
지역 차원의 최소 기준, 위험 경보와 사례 공유, 공동 사이버보안 훈련을 통해 국가별 역량 차이를 보완한다. - 도입 효과와 권리 침해 가능성을 함께 평가한다.
다국어·장애인 접근성과 비디지털 대안을 확보하고, 도입 전에 디지털 포용과 인권에 미칠 영향을 검토한다.
이 권고들은 기술을 구매하는 일만으로 책임 있는 도입이 완성되지 않는다는 점을 보여준다. 이를 이해하고 검증할 인력, 독립적인 감독, 지속적인 예산과 시민의 권리구제 절차가 함께 필요하다.
AI 도입의 성과는 선거의 신뢰로 평가해야 한다
보고서는 AI가 선거관리의 효율성·포용성·투명성·보안을 높일 가능성을 인정한다. 그러나 실제 성과는 각국의 법적 기반, 행정 역량, 데이터 품질, 통신환경과 운영 방식에 따라 달라진다.
한국의 선거행정에 적용할 때도 남아프리카의 여건과 제도를 그대로 옮기기는 어렵다. 다만 보고서가 제시하는 질문은 국내의 AI 활용을 검토하는 데도 참고할 수 있다. 자동화된 판단을 누가 검증하는지, 오류를 어떻게 고치는지, 시민이 그 절차를 이해하고 이의를 제기할 수 있는지에 관한 질문이다.
선거에서 AI의 가치는 처리 속도와 비용 절감뿐 아니라 유권자의 권리와 신뢰를 얼마나 지키는지로 평가할 필요가 있다. 정상적인 유권자가 배제되지 않고, 시스템 장애에도 선거가 계속되며, 결과에 영향을 미치는 판단을 설명하고 검증할 수 있어야 책임 있는 활용이라고 할 수 있다.
참고자료
