"AI로 보안 취약점 발견·수정 이미 현실...여러 AI 모델 써야 더 효과적"

[디지털투데이 황치규 기자]"AI로 버그를 찾고 고치는 보안 자동화는 더 이상 먼 미래 기술이 아니다. 지금 당장 활용할 수 있는 현실이다. 또 여러 AI 모델을 버무려 쓸때 취약점을 보다 효과적으로 찾고 수정할 수 있다." 마이크로소프트 본사 김태수 에이전틱 보안 부사장은 24일 서울 코엑스에서 열린 국제해킹방어대회 및 보안 컨퍼런스인 코드게이트 2026에서 AI 발전 속도와 보안 분야에 미치는 영향에 대한 생각을 공유했다. 김 부사장은 "대형언어모델(LLM)은 매우 뛰어난 역량을 보이는 동시에 기초적인 실수를 저지르는 이중적 존재"라며 "어떤 문제를 AI에게 맡기고 사람이 판단할지 구분하는 작업이 AI 활용에 있어 핵심"이라고 강조했다. AI 에이전트를 활용한 보안 연구는 프롬프트 엔지니어링 중심에서 시스템 설계 중심으로 넘어가고 있다는 점도 부각했다. 초기에는 단계별 추론을 유도하는 체인오브소트(Chain of Thought)나 예시를 제시하는 퓨샷(Few-shot) 같은 프롬프트 기법에 의존했다면, 지금은 여러 에이전트들을 조합하는 아키텍처 설계가 성능을 좌우한다는게 그의 설명이다. 김 부사장은 자신이 참여했던 미국 국방고등연구계획국(다르파, DARPA) AI 사이버 챌린지(AIxCC) 경험과 마이크로소프트가 진해아는 MDSAH 프로젝트도 소개했다. 김 부사장이 이끄는 팀은 AIxCC에서 단일 모델이 아닌 여러 에이전트를 동시에 돌려 결과를 종합하는 방식을 택했다. 모델 하나만 썼을 때보다 여러 모델을 함께 활용했을 때 버그 탐지 성능이 더 높았다는게 그의 설명이다. 시스템 구조는 크게 두 가지 워크플로로 구성했다. 하나는 프로그램이 실행 중 오류로 갑자기 멈추거나 다운되는 크래시(crash) 현상을 분석해 원인을 찾는 워크플로고 다른 하나는 이를 바탕으로 패치를 생성하는 워크플로다. 메인 에이전트가 서브 에이전트에게 질문을 나눠 위임하는 구조도 적용했다. 김태수 부사장은 "팀별 정적 분석기((static analyzer) 활용 여부와 에이전트에게 제공하는 컨텍스트 구성 방식이 성과를 가른 핵심 요인이었다"고 전했다. 팀별로 기존 분석 도구를 AI와 함께 쓰는지, AI만으로 취약점을 찾는지, 또 AI에게 어떤 참고 자료를 얼마나 제공하는지도 결과에 큰 영향을 미쳤다는 얘기다. 대회 이후 팀은 개발한 시스템을 오픈소스로 풀었고 벤치마크도 함께 공개했다. 김 부사장 스스로도 대회에서 얻은 경험을 마이크로소프트에서 실제 제품으로 구현하는데 활용했다. 마이크로소프트가 6월 개발자 컨퍼런스 빌드(Build)에서 공개한 MDASH 프로젝트가 그 결과물이다. MDASH는 침투 테스터가 취약점을 찾는 과정을 모사한 시스템으로 코드 저장소 히스토리와 과거 취약점 기록을 분석하고 이를 바탕으로 취약점을 탐색한다. 단순 탐지에 그치지 않고 발견한 취약점마다 실제 개발자 검토 과정과 유사한 검증 단계를 거친다. 이후 패치를 직접 생성하고, 패치가 제대로 동작하는지 확인할 수 있는 테스트까지 지원한다. 김 부사장은 MDASH를 실전에서 사용한 첫 사례로 마이크로소프트 윈도 커널 퍼징팀이 진행한 업무를 소개했다. 퍼징(Fuzzing) 프로그램에 무작위, 비정상적인 입력값을 대량으로 집어넣어 오류나 취약점을 찾아내는 보안 테스트 기법이다. 김 부사장에 따르면 마이크로소프트팀은 오랜 기간 퍼징을 진행했음에도 찾지 못했던 취약점을 MDASH를 통ㅎ래 발견하는 성과를 거뒀다. 김 부사장은 "MDASH가 보고한 취약점 상당수를 개발자들이 검토한 결과 90% 이상이 실제 유효한 취약점으로 확인됐다"고 말했다. 그는 MDASH 벤치마크 평가 결과도 공개하며 "상대적으로 성능이 낮은 모델을 사용했을 때도 중급 수준 보안 연구 역량을 보였다. 보다 강력한 모델을 적용하자 성공률은 98%까지 올라갔다. 모델 성능이 좋아질수록 이를 뒷받침하는 인프라 설계도 중요해진다"고 강조했다.