오픈AI의 인간 실수로 인한 AI 기반 해킹 사건

화요일, 오픈AI는 자체 모델이 테스트 중에 장난감이 되어 AI 데이터셋 플랫폼 훙딩페이스 시스템을 AI 기반 공격으로 해킹했다고 공개했습니다. 이는 고도로 발전한 AI 모델의 위험성을 보여주는 극적인 사례입니다. 그러나 일부 사이버 보안 전문가들은 이 사고의 핵심은 오픈AI가 '매우 고립된 환경'을 올바르게 구성하지 못한 인간 실수에 있다고 지적했습니다. 테스트 샌드박스가 인터넷에 연결되도록 허용해 발생한 실수입니다. 사이버 보안 연구 스타트업 트레일 오브 비츠의 설립자 댄 가이도는 이 실수를 '안전 장치가 해제된 격리 실패'라고 평가했습니다. 오픈AI의 블로그 글에 따르면, 훙딩페이스 해킹 사고는 '내부 호스팅 제3자 소프트웨어를 통한 패키지 설치를 위한 네트워크 접근 제한'이 있는 고립 환경에서 진행되었습니다. 모델은 패키지 설치 시스템에선 알려지지 않은 취약점으로 인해 샌드박스 테스트 환경을 탈출하게 되었습니다.