[뉴스줌인] 목표 달성 위해 해킹 감행한 AI…샌드박스마저 뚫었다

오픈AI의 최신 인공지능(AI) 모델이 내부 평가 도중 통제 환경을 벗어나 외부 시스템(허깅페이스)을 해킹하면서 AI 위협이 현실화됐다는 경고의 목소리가 나온다. 주어진 목적을 달성하기 위해 개발자가 허용하지 않은 수단까지 선택한다는 점이 실제 사례로 확인됐기 때문이다. 오픈AI 'GPT-5.6 솔'과 일부 미공개 AI 모델은 샌드박스 환경 테스트에서 미공개(제로데이) 취약점을 이용해 개발자의 통제를 무력화, 인터넷에 접속한 뒤 개방형(오픈소스) AI 공유 플랫폼 '허깅페이스'를 해킹한 것으로 파악됐다. 샌드박스는 AI 모델이나 프로그램을 실제 운영 환경과 분리해 테스트하는 통제 공간이다. 외부 인터넷과 주요 업무 시스템의 연결을 차단해 모델이 오작동하거나 공격적인 행동을 하더라도 피해가 밖으로 번지지 않도록 하는 장치다. 하지만 오픈AI의 AI 모델들은 보안 평가 문제의 해답을 찾는 과정에서 샌드박스의 제한을 우회했다. 외부 접속 경로를 탐색하고 미공개 취약점을 이용해 인터넷에 연결한 뒤 허깅페이스 시스템에 접근했다. 목표를 정상적인 방식으로 해결하는 대신 통제망을 뚫고 외부에서 답을 찾는 방법을 택한 것이다. 양사는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다. 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이와 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보인다. 이는 목표 달성을 위해 AI가 제한 조건을 장애물로 인식하고 예상하지 못한 우회 경로를 찾아낼 수 있다는 점을 보여준다. AI 성능이 빠르게 개선됨에 따라 보안 취약점 기반의 새로운 침투 방법을 만들어낼 가능성이 커질 수도 있다. 오픈AI는 테스트를 위해 안전장치가 일부 완화된 상태에서 사고가 발생했다면서, 향후 연구속도가 늦어지더라도 안전을 위해 모니터링, 접근제어 등 안전장치를 대폭 강화하겠다고 밝혔다. 전문가들도 AI 개발에 있어 샌드박스가 완벽한 안전 장치가 아니라고 지적했다. 자율성과 실행력이 높아질수록 기업은 AI를 단순한 업무 도구가 아닌 새로운 보안 통제 대상으로 관리해야 한다는 진단이다. 샌드박스 내부에서 발생하는 네트워크 요청과 외부 접속 시도, 권한 변경, 인증 정보 사용, 내부 시스템 간 이동을 실시간으로 감시해야 한다는 것이다. 또 AI에 최소 권한만 부여하고 중요 작업에는 사람의 승인 절차를 적용하는 한편, 실행 이력과 이상행위를 지속적으로 점검해야 한다고 조언했다. 특히 AI 기반 공격속도와 자동화 수준에 대응하려면 엔드포인트·네트워크·클라우드 전반의 데이터를 통합 분석하고, XDR·SOAR 등을 활용해 탐지부터 대응까지 신속하게 연계하는 체계를 갖추는 것이 중요하다고 설명했다. 정현정 기자 iam@etnews.com, 박진형 기자 jin@etnews.com