허깅페이스, 외부 AI 에이전트에 뚫렸다..."내부 자격증명 유출 사고 발생"

세계 최대 오픈소스 AI 플랫폼인 허깅페이스가 사이버 공격으로 내부 데이터셋과 서비스 자격 증명(credentials)이 유출되는 보안 사고를 겪었다. 허깅페이스는 지난 16일(현지시간) 보안 침해 사실을 공개하고 현재 고객 및 파트너 데이터까지 유출됐는지는 추가 조사를 진행하고 있다고 밝혔다. 이에 따르면, 공격자는 플랫폼에 업로드한 데이터셋에 악성 코드를 심어 서버의 보안 취약점을 악용했다. 이 악성 코드가 서버에서 실행되면서 권한 상승(Privilege Escalation)에 성공했고, 이를 통해 허깅페이스 내부 시스템 전반으로 접근 권한을 확대했다. 이번 공격으로 내부 데이터셋과 서비스 운영에 사용되는 자격 증명이 유출된 것으로 확인됐다. 허깅페이스는 이미 해당 자격 증명을 모두 폐기하고 새로 발급했으며, 사용자들에게도 플랫폼에 저장된 API 키와 접근 키를 교체하고 계정에서 의심스러운 활동이 있었는지 확인할 것을 권고했다. 허깅페이스는 공격에 악용된 취약점은 이미 수정했다고 설명했다. 특히, 이번 공격이 기존 해커 조직과는 다른 형태였다고 밝혔다. "외부 AI 에이전트가 수천개의 단기 샌드박스를 오가며 수많은 개별 작업을 수행했고, 공개 서비스에 자체적으로 이동하는 명령·제어(Command and Control) 체계를 구축했다"라고 설명했다. 다만 이 같은 AI 에이전트 공격 방식에 대한 구체적인 기술적 증거나 분석 결과는 공개하지 않았다. 허깅페이스는 자체 이상 탐지 시스템이 공격을 처음 발견했으며, 서버 로그 분석에도 AI를 적극 활용했다고 밝혔다. 사고 분석 과정에서 상용 최첨단 AI 모델을 먼저 사용하려 했지만, 모델의 보안 관련 가드레일에 막혀 충분한 분석을 수행하지 못했다고도 밝혔다. 이에 따라 허깅페이스는 자체 로컬 대형언어모델(LLM)로 분석을 전환했다. 대신 자체 모델을 사용해 민감한 공격 로그를 외부 AI 서비스에 업로드하지 않아도 되는 장점도 있었다고 덧붙였다. 최근 보안 연구자들은 일부 최첨단 AI 모델이 사이버 보안 관련 질문을 과도하게 제한해 실제 방어와 사고 대응에도 활용하기 어렵다는 점을 지속적으로 지적해 왔다. 특히 앤트로픽의 모델은 방어 목적의 보안 분석도 제한하는 비판을 받아왔다. 허깅페이스는 현재 수사기관에 이번 사건을 신고했으며, 외부 디지털 포렌식 전문업체와 침해 원인과 피해 범위를 조사하고 시스템 전반에 대한 보안 점검을 진행하고 있다고 밝혔다. 다만 이번 사고 이전에 별도의 종합 보안 감사를 실시했는지는 밝히지 않았다. 박찬 기자 cpark@aitimes.com