팔로워 8만 명 모은 미국인, 알고 보니 전부 AI였다.
인공지능(AI) 에이전트가 가짜 계정을 스스로 만들고 여론까지 조작하는 사례가 해외에서 잇따라 확인되면서, 국내에서도 유사한 위협에 대한 대응 태세를 점검해야 한다는 목소리가 커지고 있다.
뉴욕타임스(NYT)는 최근 미 당국자와 보안 전문가를 인용해 이란과 중국의 국가 세력, 이스라엘 기업들이 AI 에이전트를 활용해 소셜미디어에서 사실상 '자율형 여론 조작'에 나섰다고 보도했다. 이들은 중국산 오픈소스 AI 모델로 특정 과업을 스스로 수행하는 에이전트를 만들었고, 수백 개의 에이전트가 인스타그램과 페이스북, X, 틱톡 등에서 가짜 계정을 자율적으로 생성한 뒤 정치·시사 이슈에 관한 허위 게시물을 빠르게 유포했다.
이란 쪽 캠페인은 미국 대중을 정조준해 평범한 미국인으로 위장한 계정을 만들었고, 기자와 정치인을 태그해 밈과 정치적 의견을 퍼뜨리며 올해 상반기에만 팔로워 약 8 만 명을 모았다.
메타도 AI를 동원한 이란의 선전 공장을 지난달 말 차단했다고 밝혔으며, 당국자들은 계정 생성 부터 메시지 조율까지 전 과정을 AI 에이전트가 전담한 것은 사실상 최초 사례라고 평가했다. 프리덤하우스 역시 AI 기반 도구가 정치·사회 이슈 정보를 왜곡하는 데 쓰인 국가를 16곳 확인한 바 있어, 이번 사례는 그 연장선으로 풀이된다.
6·3 지방선거를 앞두고는 AI로 만든 가짜 영상에 실제 목소리를 입힌 허위 콘텐츠가 유포되며 우려가 커졌고, 정부 당국자는 딥페이크 등 선거법 위반 사례가 과거보다 약 50% 증가했다고 밝히기도 했다.
이에 정부는 범정부 차원의 대응 체계를 가동했다. 김민석 국무총리는 가짜뉴스를 ‘민주주의의 공적’으로 규정하며 무관용 원칙을 천명했고, 방송미디어통신위원회가 컨트롤타워를 맡은 가운데 경찰과 검찰은 선거전담수사반을 꾸려 AI 가짜뉴스 유포를 공무원 선거개입, 금권선거와 함께 3대 중점 단속 대상으로 정했다. 공직선거법상 선거일 90일 전부터는 AI 생성 표시 의무와 관계없이 AI를 활용한 선거운동 자체가 불법이며, 이 시기 이후 딥페이크 영상은 표시 여부를 불문하고 처벌 대상이 된다. 해외 서버를 이용한 범죄도 국제 사법 공조로 끝까지 추적하겠다는 방침이다.
기술적 대응도 병행된다. 중앙선거관리위원회는 440여 명 규모 특별대응팀을 구성해 온라인 모니터링을 진행하는 한편, 국립과학수사연구원 및 한국전자기술연구원과 함께 딥페이크 식별 프로그램 ‘아이기스’를 공동 개발해 가짜 영상을 식별하고 있다. 경미한 사안은 삭제를 요청하고, 중대한 선거범죄는 고발까지 이어지는 모니터링 원칙이 적용된다. 선관위 혹은 신속한 삭제를 통한 조기 차단을 강조하면서도, 표현의 자유와 AI 선거운동의 순기능을 함께 고려한 규제 현실화가 필요하다는 입장도 밝혔다.
국제적으로는 주요 AI 기업 20곳이 83개국 선거를 방해하는 AI 콘텐츠를 막기 위한 7대 규약에 합의했다. 여기에는 기만적 AI 선거 콘텐츠 생성 위험을 제한하는 예방 조치, 콘텐츠 출처 표기, 플랫폼 간 협력을 통한 탐지, 사건 발생 시 신속하고 균형 잡힌 대응 등이 담겼다. 해외에서 AI 에이전트가 가짜 계정 생성과 여론 조작을 자율 수행하는 수준까지 나아간 만큼, 국내 대응 체계도 선거 국면을 넘어 상시적 위험에 대비하는 방향으로 고도화될 필요가 있다는 지적이 나온다. 챌비온뉴스 ※ 본 콘텐츠는 참고 자료를 기반으로 작성되었으며, 무단 전재·복제·배포를 금합니다.
댓글