[AI 시대의 인지전-2] 젤렌스키를 사칭한 가짜 항복 영상은 왜 실패했나

[보안뉴스= 유도진 극동대학교 해킹보안학과 교수] 러시아의 우크라이나 침공이 개시된 지 약 3주가 지난 2022년 3월 16일, 볼로디미르 젤렌스키 우크라이나 대통령이 패배를 인정하는 것처럼 꾸민 영상이 온라인에 등장했다. 화면 속 인물은 돈바스를 되찾으려던 시도가 실패해 상황이 더 악화됐다며, 우크라이나 장병들에게 무기를 내려놓고 가족에게 돌아가라고 말했다. 젤렌스키의 얼굴과 음성을 AI로 합성한 딥페이크였다. 같은 날 우크라이나의 전국 단위 민영 뉴스채널 ‘우크라이나24’는 방송 화면 하단의 뉴스 자막 송출 체계와 같은 미디어그룹이 운영하던 뉴스 사이트 ‘세고드냐’가 외부 침해를 당했다고 밝혔다. 방송에는 젤렌스키가 항복했다는 허위 자막이 흘렀고, 세고드냐에는 딥페이크가 게시됐다. 허위 항복 메시지는 소셜미디어를 넘어 시민들이 전쟁 소식을 확인하던 언론사의 정보 채널을 타고 퍼졌다. 딥페이크에는 조작 흔적이 뚜렷했다. 화면 속 머리는 몸에 비해 지나치게 컸고, 머리와 몸의 조명과 각도도 맞지 않았다. 영국 스카이뉴스도 목소리 역시 젤렌스키의 실제 음성보다 낮고 느렸다고 전했다. 발언 내용도 도무지 설득력이 떨어졌다. 침공 초기 그는 수도 키이우에 남아 직접 촬영한 영상을 잇달아 공개하며 저항 의지를 밝혔다. 그런 인물이 아무런 전조 없이 패배를 인정하고 장병들에게 무장 해제를 권고한다는 설정은 앞서 보여준 태도와 맞지 않았다. 그러나 실패 원인을 낮은 완성도에서만 찾으면 인지전 방어를 합성물 탐지의 문제로 좁히게 된다. 앞서 연재 1부 ‘가짜뉴스만 찾다가는 인지전을 놓친다’에서는 인지전이 정보의 진위를 가리는 데 그치지 않고, 사람과 조직의 판단과 행동을 어떻게 바꾸는지까지 살펴야 한다고 했다. 이번처럼 국가 지도자를 사칭해 조직의 행동을 요구하는 메시지를, 이 글에서는 ‘도달, 신뢰, 권한, 행동’의 네 단계로 나눠 본다. 이 글의 성패 기준은 확산 여부가 아니라 항복 메시지가 군의 조직적 행동으로 전환됐는 지다. 젤렌스키 사례를 이 네 단계에 대입하면 허위 항복 메시지가 어디에서 힘을 잃었는지 구분할 수 있다. 유포 전 예고된 딥페이크 딥페이크가 유포되기 정확히 2주 전인 2022년 3월 2일, 우크라이나 문화정보정책부 산하 전략소통 및 정보보안센터는 젤렌스키의 항복 발표를 가장한 딥페이크가 등장할 수 있다고 경고했다. 이 센터는 정부와 시민사회의 가짜뉴스 대응을 연계하고, 러시아발 정보 공격 등 외부 위협에 대응하는 전략소통을 수행한다. 센터는 젤렌스키라는 사칭 대상과 항복 발표라는 허위 메시지, 국민의 공포와 혼란 및 불신을 키우고 군의 후퇴를 유도하려는 목적을 구체적으로 제시했다. 인지전의 관점에서 사칭 대상과 허위 메시지, 유도하려는 효과를 하나의 위협 시나리오로 묶은 셈이다. 2주 뒤 등장한 딥페이크는 사칭 대상과 핵심 메시지에서 예고와 거의 일치했고, 장병의 행동 변화를 노리는 방향도 같았다. 이 경고는 딥페이크가 등장했을 때 무엇부터 의심하고 확인해야 하는지를 미리 제시했다. 항복 발표를 먼저 사실로 받아들이고 반박을 찾는 대신, 이미 예고된 조작인지부터 확인하도록 기준을 제공한 것이다. ‘가짜뉴스를 조심하라’는 일반적인 교육과 달리 사칭 대상과 허위 메시지, 예상되는 효과를 특정해 추상적인 주의를 구체적인 확인 행동으로 바꿨다. 이 같은 사전 경고는 허위 항복 메시지의 기습성을 낮추는 데 기여한 것으로 평가된다. 같은 해 11월 미국 국립과학원회보(PNAS)에 발표된 세계 지도자 딥페이크 판별 연구도 연구 배경에서, 조악한 화면과 음성 및 우크라이나 측의 사전 경고가 딥페이크를 가려내는 데 기여했다고 설명했다. 출처와 발언, 유통 경로에서 이어진 대응 딥페이크가 공개되자 우크라이나24는 방송 자막과 세고드냐 사이트의 침해 사실을 알렸다. 젤렌스키는 공식 소셜미디어 계정에서 항복설을 직접 부인했다. 메타는 페이스북과 인스타그램 등 자사 플랫폼에서 해당 딥페이크를 삭제하고 타 플랫폼에게도 관련 사실을 알렸다. 유튜브 역시 업로드 영상을 삭제했고, 당시 X는 기만적 합성매체 정책을 위반한 게시물에 조치를 취했다. 결과적으로 출처와 발언 당사자, 유통 경로에서 각각 대응이 이어진 것이다. 이 사건에서 도출할 수 있는 또 하나의 방어 원리는 권한 확인이다. 우크라이나 대통령은 헌법에 따라 우크라이나 군의 통수권자를 맡는다. 그러나 공개된 대통령 영상이 곧바로 군의 작전 지시가 되는 것은 아니다. 부대를 움직이는 지시는 발신자와 권한이 지휘계통에서 확인돼야 한다. 딥페이크는 젤렌스키의 얼굴과 목소리를 흉내 냈지만 그 권한까지 대신할 수는 없었다. 앞서 제시한 네 단계로 보면 딥페이크는 온라인과 언론사의 정보 채널에 ‘도달’했다. 그러나 낮은 완성도와 젤렌스키의 기존 행보에 맞지 않는 내용, 사전 경고와 신속한 반박은 ‘신뢰’를 떨어뜨렸다. 딥페이크 자체는 정식 군 지휘계통을 통해 전달된 지시가 아니었으므로 작전명령으로서의 ‘권한’을 갖지 못했다. 이 사례는 메시지가 널리 퍼지는 것과 조직의 ‘행동’을 바꾸는 것이 서로 다른 문제임을 보여준다. 행동 유도에 성공하지 못한 딥페이크도 정보 환경의 신뢰를 해칠 수 있다. 딥페이크가 널리 알려질수록 실제 발언 당사자가 진짜 영상까지 조작이라고 부인해 책임을 피하기 쉬워진다. 체스니와 시트론은 진짜 증거를 가짜라고 몰아 책임을 회피하는 이러한 이익을 ‘거짓말쟁이의 배당’이라고 칭했다. 검증은 결정 시한 안에 끝나야 한다 한반도 및 주변국에서 군사적 위기 상황을 가정해 보자. 젤렌스키 사례와 같은 공개형 사칭뿐 아니라 제한된 인원이나 조직 내부를 노린 공격도 함께 고민해야 한다 대통령이나 국방장관, 합참의장 등 최고위 인사를 사칭한 딥페이크는 휴전 합의나 동원 연기 같은 허위 발표로 국민과 정부기관의 판단을 흔들 수 있다. 반면 군단장이나 사단장 등 작전부대 지휘관을 사칭한 음성이나 영상이 탈취된 업무 계정이나 내부 연락 채널을 통해 전달된다면, 전투 중지나 부대 이동 같은 구체적인 군사행동을 초래할 수 있다. 사칭 공격의 위험은 해당 인물이 대중에게 얼마나 유명한가에 달려 있지 않다. 작전부대 지휘관은 일반 국민에게…