AI 거센 물결, 안전은?... 시대가 부른 보안 스타트업들 ‘진격’

[보안뉴스 강현주 기자] AI의 비약적인 발전은 전세계 산업과 일상의 변화를 거센 속도로 이끌고 있다. 다양한 분야에서 AI로 생산성을 크게 높이고 있으며, 고도의 전문 기술이 없어도 AI로 아이디어를 실현할 수 있는 시대가 왔다. 하지만 악의적 이용자들의 의도 역시 AI를 통해 쉽게 실현될 수 있다는 그림자가 존재한다. AI는 사이버 공격의 효율을 비약적으로 높인다. 또 제대로 통제되지 않은 AI는 인간에게 물리적 해악을 끼칠 수도 있다. 이에 AI 보안과 안전한 사용을 돕는 보안 스타트업들이 시대의 요구에 부합하며 급성장하며 두각을 나타내고 있다. 정부도 ‘AI 3강’ 도약을 추진하면서, 그 전체가 되는 보안과 안전 관련 다수의 관련 사업들을 펼쳐왔다. 이에 부합하는 역량을 지닌 보안 스타트업들이 사업을 속속 수주하며 시장의 이목을 끈다. 에임인텔리전스 “레드티밍 발견 공격 패턴 가드레일 반영 통합 체계” AI 보안 기업 에임인텔리전스(AIM Intelligence)는 설립 2년이라는 짧은 시간 만에 AI 보안 관련 다수의 정부 및 금융권 사업을 수주하며 가파른 성장세를 그리고 있다. 에임인텔리전스는 유상윤 대표, 박하언 CTO, 이의준 CPO, 김하늘 CFO가 AI 시대의 도래를 예고하며 그 안전에 대한 수요를 읽고 공동 창업한 스타트업이다. 생성형 AI와 AI 에이전트, 피지컬 AI 등을 안전하게 통제하기 위해 취약점을 진단하는 레드티밍 플랫폼 ‘스트링거’(Stinger)와 위험 행동을 실시간 방어하는 가드레일 ‘스타포트’(Starfort)을 제공한다. 에임인텔리전스는 과기정통부와 한국인터넷진흥원(KISA)의 ‘AI 레드팀 모의해킹 수행 및 취약점 발굴 사업’에 선정됐다. 국내 AI 모델과 서비스를 대상으로 레드팀 모의해킹을 실시해 취약점을 발굴하고, 보완조치와 이행점검까지 지원하는 사업이다. 에임인텔리전스는 AI 특화 공격 방법론과 시나리오 설계, 스트링거 기반 자동화 공격, 수동 검증과 취약점 분석을 담당한다. NSHC, 셀렉트스타 등도 이 사업에 함께 선정됐다. 또 한국전자통신연구원(ETRI)와 인공지능안전연구소(AISI)의 ‘AI 안전성 벤치마크 구축 및 글로벌 레드팀 챌린지’, 한국신용정보원과 크라우드웍스의 ‘금융 AI 모델 신뢰성 평가’ 등 다수 기관의 사업 수주에 잇따라 성공했다. 또 피지컬 AI 사업 중인 국내 대기업에 가드레일을 제공하는 파트너로도 활약하며 AI 시대의 수혜를 몰아 받고 있다. 이 같은 선전에 힘입어 에임인텔리전스는 2026년 상반기 매출이 전년 연 매출의 3배를 이미 넘었다. 삼성벤처투자, 미래에셋캐피탈, LG전자, 현대차그룹 등으로부터 130억원 이상의 누적투자금을 확보했다. 레드티밍으로 발견한 공격 패턴을 가드레일 정책과 모델에 반영해 ‘공격-검증-통제’ 전 주기를 하나의 체계로 제공하는 공격과 방어 연결하는 통합 구조가 경쟁력이라고 이 회사는 강조한다. 유상윤 에임인텔리전스 대표는 “AI 가 답변만 만들던 시기에는 무엇을 말하는지가 보안의 핵심이었지만, 에이전트와 피지컬 AI 시대에는 AI가 어떤 권한으로 무엇을 실행하는지까지 통제해야 한다”며 “이제 AI 보안은 사고 이후 대응하는 기능이 아니라, 배포 전 공격 검증과 운영 중 실시간 통제를 결합한 필수 인프라가 돼야한다”고 말했다. 디사일로 “암호화 상태로 일하게 하는 완전동형암호가 AI 시대 종착점” 동형암호 스타트업 디사일로는 정부 사업들을 수주하고 KB인베스트먼트, LG전자, 엔비디아 등으로부터 150억원 이상의 누적 투자를 달성하며 주목받고 있다. 이승명 대표, 박준홍 부대표, 송용수 서울대 교수가 2020년 창업한 디사일로는 완전동형암호(FHE) 원천기술을 기반으로, 데이터를 암호화한 상태 그대로 AI 분석과 연산을 수행할 수 있게 하는 ‘프라이빗 AI’ 인프라 기업이다. 디사일로는 지난 4월 과학기술정보통신부·정보통신기획평가원(IITP)이 지원하는 국책 R&D 과제 ‘AI 데이터/모델 주권 보장 및 거래 기술 개발’의 주관연구개발기관으로 선정됐다. 이 과제는 AI 학습에 데이터를 제공한 기관과 개인이 원본 데이터를 노출하지 않고도 기여도를 증명하고 공정하게 보상받을 수 있는 기반 기술을 개발하는 과제다. 디사일로는 주관기관으로서 동형암호 기반 ‘원본 비노출 기여도 평가 엔진’ 개발과 과제 전체 수행을 총괄한다. 컨소시엄에는 고려대학교, 국립암센터, 안랩블록체인컴퍼니 등 7개 기관이 함께 선정돼 의료·교육·제조 3개 도메인에서 실증을 진행한다. 이 회사는 또 데이터 클린룸 제품 ‘디사일로 DCR’이 조달청 혁신제품으로 지정된 바 있다. 이어 2026년 혁신제품 시범구매 사업에 선정돼 국립암센터에 공급했다. 이외에도 다양한 공공·의료기관을 대상으로 도입 논의를 진행 중이다. 자체 개발 고성능 동형암호 엔진 ‘디사일로 FHE 라이브러리’의 라이선스 사업, 프라이빗 AI 상용화 프로젝트에도 박차를 가하고 있다. 하반기에는 룩셈부르크를 거점으로 유럽 시장 진출을 본격화할 방침이다. 또 FHE 창시자 크레이그 젠트리(Craig Gentry)와 이용우 디사일로 수석과학자가 공동 개발한 차세대 스킴 ‘GL 스킴’ 관련 논문 2편이 ‘크립토 2026’에 채택됐다. CKKS 공동 창시자 송용수 교수, TFHE 공동 창시자 일라리아 킬로티(Ilaria Chillotti) 등 세계적 동형암호 연구진이 함께하고 있다는 점도 핵심 경쟁력이라고 디사일로는 강조한다. 이승명 디사일로 대표는 “AI 시대의 보안은 ‘누가 데이터에 접근하느냐’를 통제하는 단계를 넘어, ‘연산 과정에서 데이터가 아예 보이지 않게’ 만드는 방향으로 진화하고 있다”며 “에이전틱 AI가 기업의 가장 민감한 데이터를 직접 다루게 되는 지금, 데이터를 암호화한 상태 그대로 AI가 일하게 하는 완전동형암호가 그 전환의 종착점이 될 것”이라고 말했다. 파인더갭 “AI 속도와 화이트 해커의 통찰을 결합” 전주기 취약점 관리 솔루션 스타트업 파인더갭은 올해 전년대비 2배의 매출 성장을 바라보고 있다. 잇따른 해킹과 AI로 인한 보안 위협이 고조되면서 취약점 점검에 대한 중요성이 크게 부각되면서 파인더갭의 성장 속도도 빨라지고…