"미국 AI는 과도한 가드레일로 무용지물"…허깅페이스, 'GLM-5.2'로 해킹 사건 분석

미국 AI 기업들이 안전성을 위해 도입한 강력한 '가드레일(Guardrails)'이 실제 사이버보안 현장에서는 오히려 발목을 잡는 역설적인 상황이 벌어졌다. 허깅페이스는 22일(현지시간) 오픈AI의 자율 AI 에이전트가 회사 시스템에 침입한 사건을 분석하는 과정에서 미국의 최신 AI 모델들이 보안 관련 작업을 거부했고, 결국 중국 지푸AI(Z.AI)의 오픈소스 모델 'GLM-5.2'가 사고 원인 규명에 활용했다고 밝혔다. 미국 AI 기업들이 사이버 보안 관련 기능을 엄격히 제한하면서 정작 보안 전문가들이 중국 오픈소스 AI를 사용할 수밖에 없는 상황이 벌어지고 있다는 지적이다. 이번 논란은 오픈AI가 최근 내부 평가에서 'GPT-5.6 솔'과 그보다 더 강력한 미공개 모델이 사이버 보안 벤치마크 '익스플로잇짐(ExploitGym)'을 수행하던 중 허깅페이스 서버를 자율적으로 침해한 사실을 공개하면서 시작됐다. 오픈AI에 따르면, 모델들은 격리된 샌드박스 환경에서 미국 UC 버클리 연구진이 개발한 익스플로잇짐 과제를 수행하던 중 허깅페이스에 관련 정보가 저장돼 있다고 추론했다. 이어 평가를 유리하게 만들기 위해 스스로 시스템에 침투해 비공개 정보를 확보하는 데 성공했다. 오픈AI는 이를 "전례 없는 사이버 사고"라고 규정했다. 문제는 사고 이후의 대응 과정이었다. 허깅페이스는 침해 분석 과정에서 미국 최첨단 AI 모델들이 보안 관련 요청을 잇달아 거부하면서 결국 GLM-5.2를 활용했다고 밝혔다. 허깅페이스에 따르면, 미국 AI 모델들은 방어 목적의 보안 분석과 공격 목적의 해킹을 명확하게 구분하지 못해 분석 작업을 수행하지 않았다. 앤트로픽의 최신 모델 '페이블 5'는 사이버 보안 관련 질의를 구형 모델로 우회 처리하고, 오픈AI의 'GPT-5.6 솔'은 해킹 관련 작업을 차단하는 안전장치를 적용하고 있는 것으로 알려졌다. 클레망 들랑그 허깅페이스 공동창업자는 "비밀주의는 답이 아니라는 사실을 모두 배우고 있다"라며 "선별된 일부가 아니라 모든 방어 전문가들이 제한 없는 강력한 AI 모델, 특히 오픈소스 모델을 사용할 수 있어야 한다"고 주장했다. So proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed. Also massively grateful to @Zai_org: they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our… https://t.co/T2Inng5Nz1 — clem (@ClementDelangue) July 22, 2026 AI 업계에서는 방어 목적의 보안 연구와 실제 공격을 기술적으로 구분하기 매우 어렵다는 점이 핵심 문제로 지적된다. 최근 AI를 이용한 사이버 공격 사례에서는 공격자들이 AI 모델을 속여 자신들의 행위를 정상적인 보안 점검으로 인식하게 만드는 사례도 나타나고 있다. 이 때문에 미국 AI 기업들은 안전장치를 쉽게 완화하지 못하고 있다. 하지만 보안 전문가들은 이러한 제한이 실제 방어 역량을 약화하는 역효과를 낳고 있다고 주장한다. 영국 킹스칼리지 런던 전쟁연구학부의 루카시 올레이닉 선임연구원은 "합법적인 방어자는 제약받지만, 공격자는 성능이 뛰어난 모델을 계속 활용할 수 있는 상황은 비대칭적인 불리함을 만든다"라며 "가드레일이 없는 오픈소스 모델의 성능이 향상될수록 이러한 격차는 더 커질 것"이라고 분석했다. 이번 사건은 중국 오픈소스 AI의 영향력 확대에도 힘을 실어주고 있다. 지난달 공개된 GLM-5.2는 코딩과 AI 에이전트 분야에서 오픈AI와 앤트로픽에 근접한 성능을 상대적으로 낮은 비용으로 제공한다는 평가를 받으며 실리콘밸리에서도 빠르게 채택이 늘고 있다. 개발자 플랫폼 오픈라우터에서는 GLM-5.2의 사용량이 빠르게 증가하고 있으며, 스노우플레이크의 스리다르 라마스와미 CEO와 벤처투자자 마크 안드리센 등도 긍정적인 평가를 내놓았다. 중국 정부도 오픈소스 AI를 미국 AI 산업에 대응하는 핵심 전략으로 내세우고 있다. 중국 관영매체들은 이를 미국이 구축하려는 'AI 철의 장막'에 맞서는 대안으로 적극 홍보하고 있다. 반면 일부 전문가들은 이번 사건이 미국 AI 기업의 안전장치를 무조건 완화해야 한다는 근거가 되어서는 안 된다고 경고한다. 투자회사 로버트 W. 베어드의 슈레닉 코타리 애널리스트는 "미국 최첨단 AI 모델의 사이버 보안 가드레일이 경쟁사에 기회를 제공하는 것은 사실이지만 해법은 이를 없애는 것이 아니다"라며 "오픈AI와 앤트로픽, 구글은 일률적인 거부 방식 대신 신뢰할 수 있는 사용자에게 필요한 기능을 통제된 방식으로 제공하는 접근 구조를 다시 설계해야 한다"라고 제안했다. 오픈AI는 이번 논란과 관련해 허깅페이스를 자사의 신뢰 접근 프로그램(Trusted Access Program)에 포함해 보안팀이 모델 기능을 활용해 방어 체계를 강화할 수 있도록 지원하고 있다고 밝혔다. 박찬 기자 cpark@aitimes.com