[그게 뭔가요] 국가 ‘인공지능정보보호최고책임자(CAISO)’, 필요한가?

인공지능(AI)을 어디에 활용할지 고민하는 조직은 점점 늘고 있다. 하지만 조직이 사용하는 AI 모델이 안전한지 누가 검증해야 하는지는 분명하지 않다. 보안 취약점이나 오작동이 발견됐을 때 사용을 중단하고 대응을 조율할 책임도 마찬가지다. 이 문제를 국가 차원에서 다뤄야 한다는 제안이 최근 국내 보안 분야에서 나왔다. 지난 8일 열린 제15회 정보보호의 날 기념식에서 이상근 고려대학교 스마트보안학과 교수는 국가 차원의 ‘인공지능정보보호최고책임자(CAISO)’가 필요하다고 말했다. 코딩과 취약점 분석 능력을 갖춘 프런티어 AI 모델이 사이버 공격과 방어 방식을 바꾸고 있는 만큼, 국가 AI 보안을 총괄하고 민·관 대응을 조정할 컨트롤타워가 필요하다는 주장이다. 그가 제안한 CAISO는 어떤 역할일까? 기업과 정부에 이미 정보보호최고책임자(CISO)가 있는데, 과연 별도의 책임자가 필요한 것일까? CAISO, AI를 ‘써도 되는지’ 살피는 총 책임자 CAISO는 조직이 사용하는 AI 모델과 서비스의 보안 위험을 관리하는 책임자 개념이다. AI를 어디에 도입할지 결정하기보다 해당 AI를 안전하게 사용할 수 있는지 점검하고, 문제가 확인됐을 때 대응을 조정하는 역할에 가깝다. AI가 처리하는 데이터는 안전한지, 공격자가 모델의 보호장치를 우회할 수 있는지, AI 에이전트에 필요한 범위보다 많은 권한을 주지는 않았는지 등을 살핀다. 위험이 확인되면 개발자와 보안 담당자, 정책 부서 사이에서 사용 범위와 대응 방안을 조율한다. CAISO는 아직 보편적으로 정착한 직책은 아니다. 보안 전문가 마린 이베지치는 2023년 9월 포스트퀀텀닷컴 기고에서 AI 보안을 전담할 책임자로 CAISO를 제안했다. 이베지치는 기존 사이버보안과 AI 보안이 서로 다른 위험을 다룬다고 설명했다. 기존 사이버보안은 외부 공격과 무단 접근으로부터 서버와 네트워크, 계정 등을 보호하는 데 초점을 맞춘다. AI 보안은 여기에 데이터 오염과 모델 변조, 적대적 공격, 모델 편향 같은 AI 고유의 위험을 함께 살펴야 한다. 일반 소프트웨어와 달리 AI 모델은 새로운 데이터를 바탕으로 동작이 달라질 수도 있다. 배포 전 점검만으로 끝내지 않고 운영 과정에서 행동 변화를 계속 확인해야 한다는 의미다. 이베지치는 AI 모델 보안과 공급망, 데이터 보호, 규제 준수, 배포 후 점검을 잇는 역할로 CAISO를 제시했다. 기존 CIO, CISO와 명확한 업무 경계 설정, 역할 정의 필요 CAISO의 업무는 기존 CISO와 상당 부분 겹친다. AI 모델도 기업의 네트워크와 클라우드, 계정, 데이터를 이용하기 때문이다. 별도 임원 직책을 만들 경우 최고기술책임자(CTO), 최고정보책임자(CIO), 데이터 조직과의 업무 경계를 다시 정해야 한다. CAISO를 제안한 이베지치도 이런 문제를 인정했다. 그는 CAISO 도입 과정에서 기존 임원들과의 역할 구분, 보고 체계, 예산 배정, AI와 보안을 함께 이해하는 전문인력 확보가 과제가 될 것으로 봤다. CAISO가 처음부터 독립된 임원이 되기보다 CISO에게 보고하는 역할로 출발할 가능성도 제시했다. CAISO라는 직책을 새로 두는 것과 AI 보안 책임을 명확히 하는 것은 다른 문제다. 기업은 기존 CISO 조직에 AI 보안 업무를 맡기거나 별도 담당자를 둘 수 있다. 어떤 형태를 선택하든 AI의 사용을 제한할 권한과 사고 대응 책임을 어디에 둘 것인지가 논의 대상이다. 국가 차원의 ‘AI 보안 컨트롤타워’ 역할에 적합하다는 제안 이상근 교수는 CAISO를 개별 기업의 임원보다 국가 AI 보안을 조정하는 책임자로 제안했다. 그는 프런티어 AI 모델을 활용하면 취약점 탐색과 공격 코드 작성 등 사이버 공격 과정이 빠르게 자동화될 수 있다고 봤다. 공격과 방어에 AI가 동시에 투입되는 상황에서 개별 기업의 대응만으로는 한계가 있다는 설명이다. 이에 국가가 AI 보안 정책을 총괄하고 기업·연구기관과의 협력을 조정할 체계가 필요하다고 주장했다. 이 제안은 최근 소버린 AI, 즉 AI 주권 논의와도 연결된다. 국회입법조사처는 미국의 미토스 수출 통제 사례를 분석하며 고성능 AI 모델이 정부 통제를 받을 수 있는 전략자산으로 바뀌고 있다고 평가했다. 국내 모델을 개발하는 것 뿐 아니라 모델의 위험을 평가하고 보안 문제에 대응할 독자 역량과 거버넌스도 갖춰야 한다고 제안했다. 국가 CAISO는 이런 기능을 한 곳에서 조정하자는 구상 가운데 하나다. 다만 현재 국내에서 제도화된 직책은 아니다. 기존 정부 부처와 기관의 역할을 조정할지, 새로운 책임자를 둘지도 정해지지 않았다. 미국도 CAISO라는 직책을 만들지는 않았지만 국가 단위의 AI 보안 기능을 강화하고 있다. 미국 하원의 과학·우주·기술위원회는 지난 6월 25일 ‘AI 보안·혁신법안’을 찬성 29표, 반대 0표로 가결해 하원에 보고했다. 법안은 미국 국립표준기술연구소(NIST)에 ‘AI 보안·혁신센터(CAISI)’를 두고 AI 위험 평가와 정부·산업계 협력을 맡기도록 했다. 함께 상임위원회를 통과한 ‘AI 결함 보고·보안 강화법안’은 NIST가 사이버보안·인프라보안청(CISA)과 협력해 AI 취약점과 실패, 오용 사례를 자발적으로 신고하고 추적하는 체계를 마련하도록 했다. 국가 AI 결함 데이터베이스 구축도 법안에 포함됐다. 미국의 CAISI는 CAISO와 같은 직책은 아니다. 다만 AI 모델의 보안성을 평가하고 관련 정보를 모으며 정부와 산업계의 대응을 조정한다는 점에서 이상근 교수가 제안한 국가 CAISO와 일부 기능이 닮아있다. CAISO는 기업은 물론 국가 차원에서 막대한 투자가 벌어지는 AI, 날로 심각성이 커지는 AI 보안 위협과 위험이 날로 커지는 상황에서 권한을 갖고 책임 지는 컨트롤타워의 필요성에서 제기된 직책이다. 아직은 국가 CAISO가 별도 직책으로 필요한지, 기존 기관의 기능을 조정하는 방식이 적절한지 논의가 필요하다. AI가 정부 업무와 기반시설에 폭넓게 적용될수록 이를 평가하고 통제할 국가 책임체계를 둘러싼 논의는 앞으로 계속될 전망이다. 글. 바이라인네트워크 god8889@byline.netwo…