오픈AI 최신 모델, 통제 뚫고 스스로 해킹…“전례 없는 사이버 공격”

인공지능(AI)이 통제된 실험 환경을 벗어나 스스로 외부 사이트를 해킹하는 초유의 사건이 발생했다. 이 사건을 겪은 오픈AI는 이를 “최첨단 사이버 공격 기법이 동원된 전례 없는 사고”로 규정하고 사건 경위 조사에 나섰다. 오픈AI는 'GPT-5.6 솔'과 일부 미공개 AI 모델이 내부 벤치마크 테스트 도중 오픈소스 AI 공유 플랫폼 '허깅페이스'를 해킹한 사실을 확인했다고 21일(현지시간) 밝혔다. 사고는 AI 모델의 사이버 공격 역량에 대한 내부 평가 중에 발생했다. 외부 인터넷과 격리된 샌드박스 환경에서 테스트가 진행됐지만, AI 모델은 알려지지 않은 보안 취약점인 제로데이를 이용해 통제 망을 뚫고 인터넷에 접속한 것으로 나타났다. 이후 보안 벤치마크인 '익스플로잇짐'의 평가용 문제에 대한 해답을 얻기 위해 허깅페이스를 해킹한 것으로 분석된다. 오픈AI는 “모든 정황을 종합할 때 해당 모델들은 익스플로잇짐에 대한 해법을 찾는 데 지나치게 집중해 극단적인 방법을 사용한 것으로 보인다”고 풀이했다. 이번 사건은 AI가 스스로 취약점을 찾고 실제 시스템을 공격할 수 있다는 사이버 보안 위협이 현실화한 사례로 평가된다. 오픈AI와 허깅페이스는 현재 공동 조사에 나서 관련 취약점을 보완하고 있다. 조사가 완료되는 대로 결과를 공개한다는 방침이다. 클렘 델랑그 허깅페이스 최고경영자(CEO)는 “이번 사건은 전례 없는 사례로 AI 안전 문제는 어느 한 회사가 비밀리에 해결할 수 없다는 것을 보여준다”면서 “개방적이고 협력적인 방식으로 해결되어야 한다”고 강조했다. 오픈AI 측은 “허깅페이스와 협력해 현 상황을 면밀히 조사하는 한편, 내부에서 사용하는 제3자 소프트웨어에서 발견된 제로데이 취약점을 해당 업체에 알리고 신속한 보완 패치를 지원하고 있다”면서 “모델 학습 및 평가 과정의 보호 체계를 강화하고 인프라 전반에도 더욱 엄격한 통제를 적용하고 있다”고 덧붙였다. 정현정 기자 iam@etnews.com