오픈AI, 에이전트 외부 해킹 일주일간 몰라..."탈출 지침까지 남겨"

AI 에이전트가 통제를 벗어나 외부 서버를 해킹한 오픈AI의 전례 없는 사건의 세부 내용이 드러나고 있다. 오픈AI는 이 사실을 일주일 동안 알아채지 못한 것으로 파악됐으며, 에이전트는 미래의 자신을 위해 내부 제약에서 벗어나는 방법에 대한 지침까지 작성한 것으로 밝혀졌다. 로이터는 24일(현지시간) 복수의 소식통을 인용해 오픈AI의 AI 에이전트가 허깅페이스에 침입해 며칠 동안 해킹을 지속했지만, 오픈AI는 위협이 차단되고 FBI에 신고된 후에야 이를 알아차렸다고 보도했다. 이에 따르면, 에이전트가 오픈AI의 격리된 테스트 환경에서 탈출을 시도한 것은 지난 9일이었다. 토마스 울프 허깅페이스 공동 창립자는 해킹이 11일에 시작돼 13일까지 지속됐다고 밝혔다. 허깅페이스가 블로그 게시물을 통해 자율 AI 에이전트 시스템에 의해 해킹당했다고 발표한 것은 16일이었다. 이를 계기로 오픈AI는 18~19일 주말 동안 내부 로그를 조사한 끝에 해킹의 원인이 자사 에이전트였음을 뒤늦게 알아챘다. 모델이 처음으로 이상 행동을 보이기 시작한 시점부터 사실을 파악하기까지 최소 일주일이 지난 셈이다. 오픈AI가 허깅페이스에 해킹 사실을 전달했을 때, 허깅페이스는 이미 FBI에 사건을 신고한 상태였다. 비즈니스 인사이더에 따르면, 양사 경영진이 이 문제로 본격적인 소통을 시작한 것은 20일경이었다. 그리고 오픈AI가 21일 관련 사실을 공식 공개하면서 세계적인 주목을 받았다. 특히 이번에 새롭게 알려진 사실 중에는 오픈AI 인프라 일부에서 에이전트가 미래의 자신을 위해 남긴 메모가 발견됐다는 점이 포함됐다. 여기에는 오픈AI의 내부 제약을 벗어나 외부 네트워크로 탈출하는 방법이 담겨 있었다. 오픈AI는 당시 사이버 보안 테스트를 위해 외부 네트워크와 격리된 샌드박스 환경에서 모델을 테스트 중이었으며, 앞서 진행된 테스트에서는 에이전트가 모니터링 시스템과의 연결을 강제로 끊은 사례까지 있었던 것으로 전해졌다. 정통한 소식통들에 따르면 오픈AI는 종종 여러 모델 평가를 동시에 진행하는데, 모든 평가는 매우 빠른 속도로 작동하고 엄청난 양의 데이터를 생성하기 때문에 직원들이 실시간으로 모니터링하고 따라잡는 데 어려움을 겪는 것으로 알려졌다. 오픈AI는 앞서 성명을 통해 외부 자문위원들과 사건을 검토 중이며 추후 기술 보고서를 발표할 예정이라고 밝혔다. 이번 보도 내용에 대해서는 "몇 가지 부정확한 부분이 있다"고 해명했으나 구체적인 내용에 대해서는 답변하지 않았다. In the spirit of transparency, here’s what I asked @OpenAI: • Radical transparency: let’s release the traces from the “rogue” agents so the entire research community can study what happened. • More capabilities for defenders: let’s commit $100M in compute from OAI to help the… https://t.co/KZPqQE15fv — clem (@ClementDelangue) July 25, 2026 한편, 클렘 들랑그 허깅페이스 CEO는 26일 X를 통해 투명성 확보 차원에서 오픈AI에 요구한 사항을 공개했다. 그는 악성 에이전트의 모든 흔적과 기록을 공개해 연구 커뮤니티가 분석할 수 있도록 해달라고 요청했으며, 허깅페이스의 사이버 방어 강화를 위해 1억 달러 상당의 컴퓨팅 자원을 제공할 것을 오픈AI 측에 요구했다. 이번 사태를 두고 전문가들은 AI 에이전트의 자율성이 증가함에 따라 예상치 못한 행동의 위험도 함께 커지며, 모델이 부여된 과제를 완료하거나 평가를 통과하기 위해 편법을 택할 가능성이 크다고 지적한다. 제프리 래디쉬 팰리세이드 리서치 연구원은 "모델들은 거짓말을 하고, 속이고, 해킹한다"라며 규제의 필요성을 강조했다. 반면 일부에서는 이번 사건이 오픈AI가 자사 모델의 우수한 성능과 위험성을 과장해 존재감을 드러내려는 일종의 공포 마케팅이 아니냐는 의구심도 제기된다. 사이버 보안 컨설턴트 다니엘 카드는 링크드인을 통해 "수많은 사이트가 해킹당하는 상황에서 오픈AI 모델이 마케팅 효과를 노릴 수 있는 곳을 공격한 것은 묘한 일"이라고 비꼬았다. BBC도 샘 알트먼 오픈AI CEO가 경쟁사 앤트로픽의 '미소스' 출시 전략을 두고 공포 마케팅이라 비판했던 사례를 짚으며 이번 사태를 둘러싸고 복잡한 시각이 엇갈린다고 전했다. 임대준 기자 ydj@aitimes.com