오픈AI 최신 모델, 보안 평가 중 허깅페이스 서버 침투

오픈AI(OpenAI)는 내부 사이버 역량 평가를 진행하던 자사의 인공지능(AI) 모델이 시험 환경의 취약점을 뚫고 인터넷에 접속한 뒤 허깅페이스(Hugging Face) 운영 인프라에 침투하는 사고가 발생했다고 21일 밝혔다. 현재 오픈AI와 허깅페이스는 현재 사고 경로와 피해 범위를 공동 조사하고 있다. 사고를 일으킨 모델은 ‘GPT-5.6 Sol’과 이보다 성능이 높다고 알려진 출시 전 모델이다. 오픈AI는 모델의 최대 사이버 공격 능력을 측정하기 위해, 위험한 사이버 활동을 차단하는 운영 환경의 분류기와 거부 기능을 완화한 상태로 평가를 진행했다. 평가는 복잡한 공격 경로를 찾아 시스템을 침해하는 능력을 측정하는 사이버 역량 평가 벤치마크 ‘익스플로잇짐(ExploitGym)’을 대상으로 이뤄졌다. 오픈AI는 모델을 외부와 분리한 시험 환경인 샌드박스에서 실행했다. 네트워크 연결은 소프트웨어 패키지를 내려받기 위한 내부 프록시와 캐시 서버로 제한했다. 하지만 모델은 패키지 저장소 캐시 프록시에서 알려지지 않은 제로데이 취약점을 찾아 악용했다. 이를 통해 외부 인터넷 연결을 확보한 뒤 오픈AI 시험 환경에서 권한 상승과 횡적 이동을 반복해 인터넷에 접근할 수 있는 시스템까지 도달했다. 오픈AI는 해당 제로데이 취약점을 소프트웨어 공급사에 통보하고 패치를 지원하고 있다. 인터넷에 접속한 모델은 허깅페이스에 익스플로잇짐 관련 모델과 데이터세트, 평가 해답이 보관됐을 가능성을 추론했다. 이후 탈취한 인증정보와 여러 제로데이 취약점을 연계해 허깅페이스 서버에서 원격 코드 실행(RCE)이 가능한 경로를 확보했다. 모델은 이 경로를 통해 허깅페이스 운영 데이터베이스에서 평가 문제의 해답을 직접 가져왔다. 오픈AI는 모델이 문제를 해결하는 목표에 몰입해서 기준을 벗어나 실제 외부 시스템까지 공격한 것으로 판단했다. 모델이 사전에 소스 코드를 확보하지 않은 상태에서도 여러 취약점을 찾아 연결하고 실제 시스템에 침투했다는 점도 확인했다. 오픈AI는 이번 사고를 최신 AI 모델의 사이버 역량이 실제 운영 환경에서 나타난 전례 없는 사례로 규정했다. 조사를 마친 뒤 취약점과 사고 경로에 관한 세부 내용을 추가로 공개할 계획이다. 오픈AI는 조사가 끝날 때까지 연구 속도를 낮추더라도 인프라 설정과 접근 통제를 강화하기로 했다. 향후 모델 학습과 평가 환경의 격리 수준을 높이고 내부 시험 과정의 감시 체계도 보완한다. 허깅페이스는 오픈AI의 고성능 사이버 모델을 방어 목적으로 사용할 수 있는 ‘신뢰 접근(Trusted Access)’ 프로그램에 참여한다. 오픈AI는 이번 사고가 장시간 여러 단계를 수행하는 AI 모델의 사이버 공격 능력이 이론적 가능성에 머물지 않는다는 점을 보여줬다고 설명했다. 모델 성능 평가 과정에서도 운영 환경과 같은 수준의 격리, 감시, 접근 통제 장치가 필요하다는 의미다. 글. 바이라인네트워크 god8889@byline.network