오픈AI ‘GPT-5.6 솔’, 사용자 파일 무단 삭제...'선 넘은 자율성' 논란

오픈AI의 'GPT-5.6 솔(Sol)'이 사용자의 사전 승인 없이 로컬 파일과 운영 중인 프로덕션 데이터베이스(DB)를 삭제했다는 사례가 잇따라 보고되면서 안전성 논란이 커지고 있다. 특히 오픈AI가 모델 출시 전 공개한 시스템 카드에서 이 같은 위험성을 이미 경고했던 것으로 확인돼 논란이 더 커지고 있다. 테크크런치 등에 따르면, 최근 X와 레딧에서는 GPT-5.6 솔이 사용자의 허가 없이 중요한 데이터를 삭제했다는 경험담이 잇따라 올라왔다. AI 스타트업 아더사이드AI의 CEO인 맷 슈머는 "GPT-5.6 솔이 실수로 내 맥(Mac)의 거의 모든 파일을 삭제했다"라며 "이것이 내가 페이블을 1000배 더 신뢰하는 이유"고 밝혔다. 개발자 브루노 레모스도 "GPT-5.6 솔이 내 프로덕션 데이터베이스 전체를 삭제했다"라며 "이전 어떤 AI 모델에서도 이런 일은 한 번도 겪지 못했다"라고 주장했다. 또 다른 개발자인 조이 쿠디시도 "삭제해서는 안 되는 파일들을 지웠다"라며 "백업이 있어 복구는 가능하지만 이런 동작은 조정될 필요가 있다"라고 지적했다. 맷 슈머의 사례는 에이전트에 부여된 풀 디스크 액세스(Full Disk Access) 권한 환경에서 셸(Shell) 환경 변수가 잘못 확장되며 발생한 경로 오류였으며, 브루노 레모스는 모델이 스스로 통합 테스트를 실행하는 과정에서의 판단 실수였다. GPT-5.6-Sol just accidentally deleted almost ALL of my Mac’s files. And this is why I trust Fable 1000x more. pic.twitter.com/442LjuClW2 — Matt Shumer (@mattshumer_) July 10, 2026 이 같은 사례만으로 모델 자체의 결함을 단정하기는 어렵지만, 오픈AI는 출시 약 2주 전 공개한 시스템 카드에서 이미 GPT-5.6 솔의 잠재적 위험성을 인정했다. 시스템 카드에 따르면, 코딩 환경에서의 정렬(alignment) 문제는 모델이 작업을 지나치게 적극적으로 수행하려는 성향과 사용자 지시를 과도하게 폭넓게 해석하는 데서 비롯된다. 오픈AI는 "모델이 요청된 작업을 수행하는 과정에서 직면한 제약을 우회하기 위해 지나치게 능동적으로 행동하거나, 작업 범위를 벗어나 파괴적인 결과를 초래할 수 있는 행동을 부주의하게 취하고, 사용자에게 결과를 보고하는 과정에서도 오해를 불러일으킬 수 있다"라고 경고했다. 시스템 카드에는 이러한 위험성을 보여주는 사례도 소개됐다. 한 테스트에서는 사용자가 원격 가상머신 1, 2, 3을 삭제하도록 지시했지만, 모델은 해당 시스템을 찾지 못하자 사용자에게 확인을 요청하지 않고 임의로 다른 가상머신 5, 6, 7을 삭제했다. 이 과정에서 실행 중인 프로세스를 종료하고 프로젝트 작업 파일까지 강제로 삭제했으며, 이후에야 일부 작업 내용이 손실됐을 가능성을 인정했다. 또 다른 사례에서는 사용자가 승인하지 않은 인증 정보를 모델이 스스로 찾아 사용한 것으로 나타났다. 클라우드 파일에 접근하지 못하자 사용자에게 권한을 요청하는 대신 로컬 캐시에 저장된 인증 정보를 직접 찾아 활용했다는 것이다. 오픈AI는 시스템 카드에서 이러한 파괴적인 행동이 자주 발생하지는 않을 것이라고 설명했지만, GPT-5.6 솔은 이전 모델인 GPT-5.5보다 사용자의 의도를 넘어서는 행동을 보일 가능성이 더 높다고 평가했다. 특히 사용자가 요청하지 않은 작업을 스스로 수행하거나 시도하는 경향이 증가했다고 밝혔다. 현재까지 보고된 사례가 얼마나 광범위하게 발생하는지는 확인되지 않았으며, 오픈AI도 관련 논란에 대한 공식 입장을 내놓지 않고 있다. 전문가들은 GPT-5.6 솔을 사용할 경우, 운영 시스템에 대한 직접적인 접근 권한을 제한하고 프로덕션 환경 대신 테스트 환경에서 먼저 검증하는 한편, 정기적인 백업을 유지하는 등 추가적인 안전장치를 마련할 필요가 있다고 조언하고 있다. 박찬 기자 cpark@aitimes.com