오픈AI, GPT-5.6 '파일 삭제' 원인 규명..."샌드박스·오토 리뷰 필수"

오픈AI가 'GPT-5.6'의 파일 삭제 오작동에 대한 조사 결과를 발표하며, 재발 방지를 위해 개발자들에게 안전 장치 활성화와 권한 설정 조정을 권고했다. 티보 소티오 오픈AI 코덱스 책임자는 16일(현지시간) X를 통해 GPT-5.6이 예상치 않게 파일을 삭제했다는 사례를 조사한 결과, 특정 조건에서 문제가 주로 발생하는 것으로 확인됐다고 밝혔다. 이 현상은 '풀 액세스(Full Access)' 권한 모드에서 코덱스 에이전트를 실행하면서 샌드박스 보호 기능과 '오토 리뷰(Auto Review)' 기능을 사용하지 않은 경우에 대부분 발생했다. 이 과정에서 모델이 임시 디렉터리를 생성하기 위해 $HOME 환경 변수를 변경하려다 실수로 HOME 디렉터리 자체를 삭제하는 오류를 일으킨 것으로 조사됐다. 이를 모델의 의도적인 동작이 아닌 오류라고 설명하면서도, 이러한 결과는 허용될 수 없는 동작이라는 점을 인정했다. 소티오 책임자는 "사용자가 샌드박스나 오토 리뷰 같은 보호 장치 없이 풀 액세스 모드에서 모델을 실행했더라도 시스템이 이런 방식으로 동작해서는 안 된다"라며 "우리가 원하는 결과가 아니다"라고 밝혔다. 이에 따라 위험을 줄이기 위해 여러 개선 작업을 진행하고 있다고 밝혔다. 개발자 안내 문서를 수정해 안전한 사용 방법을 안내하고 사용자들이 더 안전한 권한 모드를 선택하도록 유도하는 동시에, 실행 환경에 추가적인 보호 장치를 적용할 계획이다. 수일 내 상세한 사고 분석(Post-mortem) 보고서를 공개하고 원인과 재발 방지 대책을 설명할 예정이다. 이번 논란은 일부 개발자들이 GPT-5.6을 사용하다가 로컬 파일이나 개발 환경의 데이터를 잃었다고 보고하면서 불거졌다. 한 개발자는 맥(Mac) 환경에서 대부분 파일이 삭제됐다고 주장했으며, 또 다른 사례에서는 운영 데이터베이스 관련 파일이 삭제된 사례도 등장했다. GPT-5.6의 모델 카드에서도 이러한 위험성이 경고된 바 있다. 오픈AI는 내부 배포 시뮬레이션에서 GPT-5.6이 이전 모델인 GPT-5.5보다 '심각도 3(Severity Level 3)'에 해당하는 오작동을 더 자주 보였다고 설명했다. 심각도 3은 사용자가 예상하지 못하거나 강하게 반대할 수 있는 행동을 의미한다. 사용자 승인 없이 클라우드 저장소의 데이터를 삭제하거나, 모니터링 시스템을 비활성화하고 보안 통제를 우회하거나, 코드·인증정보·개인정보 등 민감한 데이터를 승인되지 않은 서비스로 업로드하는 행위 등이 포함된다. 오픈AI는 이번 파일 삭제 사례가 매우 드물게 발생하는 현상이라고 강조하면서도, AI 에이전트가 시스템에 광범위한 권한을 부여받는 환경에서는 항상 적절한 보호 장치와 백업을 함께 사용하는 것이 중요하다고 밝혔다. 특히 샌드박스와 오토 리뷰 기능은 고위험 작업을 사전에 감지해 차단하도록 설계된 만큼, 개발자들에게 해당 기능을 활성화한 상태에서 AI 코딩 에이전트를 사용할 것을 권고했다. 박찬 기자 cpark@aitimes.com