엔비디아, 개방형 AI 보안 연합 출범…네이버·SK텔레콤 참여

엔비디아(NVIDIA)가 인공지능(AI) 시대에 소프트웨어와 AI 에이전트를 보호할 개방형 보안 기술을 공동 개발하는 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’를 출범했다고 27일(현지시간) 밝혔다. 네이버와 SK텔레콤을 포함한 37개 기업·기관이 창립 회원으로 참여한다. 참여 기업과 기관은 엔비디아를 비롯해 어도비, 시스코, 클라우드플레어, 크라우드스트라이크, 델 테크놀로지스, 허깅페이스, IBM, 리눅스재단, 마이크로소프트, 팔로알토네트웍스, 레드햇, 세일즈포스, SAP, 서비스나우, 지멘스, 네이버, SK텔레콤 등이다. 이들은 AI 모델과 데이터, 에이전트 실행체계, 취약점 분석 도구를 공개하고 공동으로 개선할 계획이다. 소프트웨어 취약점을 발견·검증·공개하고 패치하는 기술도 개발한다. 엔비디아는 사이버보안 분야에서 개방형 모델과 실행체계가 필요하다고 주장했다. 방어자가 모델과 도구의 작동 방식을 직접 확인하고 조직 환경에 맞게 수정할 수 있기 때문이다. 기업이나 국가가 자체 기반시설에서 모델을 운영하면 민감한 데이터를 외부 서비스에 보내지 않고도 보안 업무를 수행할 수 있다는 설명이다. 다만 엔비디아는 개방형 모델이 공격에 악용되거나 안전장치가 제거될 가능성도 인정했다. 이를 막으려면 모델 공개를 제한하기보다 안전장치와 악용 금지 규칙, 성능·위험 평가, 취약점 신속 조치를 함께 적용해야 한다고 강조했다. 폐쇄형 모델과 개방형 모델을 업무에 따라 함께 사용해야 한다는 입장이다. 엔비디아는 이번 연합에 AI 모델과 모델 가중치, 학습·평가 데이터, 에이전트 실행체계 연구 결과를 제공한다. 모델 가중치는 AI가 입력을 처리하고 결과를 생성하는 방식을 결정하는 학습값이다. 엔비디아는 오픈소스 연구 프로젝트 ‘엔비디아 랩스 객체지향 에이전트(NVIDIA Labs Object-Oriented Agent·NOOA)’도 공개했다. NOOA는 AI 모델이 외부 도구를 사용하고 작업을 수행하도록 연결하는 에이전트 실행체계를 연구하기 위한 프레임워크다. 개발자는 이를 활용해 AI 에이전트의 행동을 시험하고 작업 과정을 추적·감사할 수 있다. 참여사들도 기존 보안 기술을 연합에 제공한다. 허깅페이스는 AI 모델 가중치를 원격 코드 실행 위험 없이 저장할 수 있도록 설계한 ‘Safetensors’를 제공했다. IBM과 레드햇은 디지털 서명을 적용한 오픈소스 패치 기술 ‘라이트웰(Lightwell)’을 개발하고 있다. 마이크로소프트는 여러 AI 모델과 에이전트를 조율해 실제 악용할 수 있는 취약점을 탐색하고 검증하는 ‘MDASH’를 제공한다. 연합 참여사들은 에이전트 신원 확인과 작업 격리, 안전한 모델 저장 형식, 여러 모델을 이용한 취약점 분석, 안전한 소프트웨어 개발 절차도 공동 연구한다. 엔비디아는 연합 출범 배경으로 최근 발생한 허깅페이스 보안사고를 들었다. 엔비디아에 따르면 허깅페이스는 침해사고를 조사하는 과정에서 상용 AI의 안전장치로 포렌식 분석이 차단당하자 개방형 모델 ‘GLM-5.2’를 자체 기반시설에서 실행했다. 허깅페이스는 이 모델로 1만7000건이 넘는 행위를 분석해 침해 범위를 확인하고 대응했다. 엔비디아는 정부와 기업이 AI 방어를 위한 공동 데이터세트와 평가체계, 공격 시뮬레이터, 레드팀 도구에 투자해야 한다고 제안했다. 개방형 프런티어 AI를 일괄 제한하면 방어 역량이 약해지고 소수의 폐쇄형 서비스 제공업체에 대한 의존도가 높아질 수 있다고 강조했다. 글. 바이라인네트워크 god8889@byline.network