AI 해커, 인간과 겨뤄 18위... 시사점은?

“AI가 이미 많은 문제 해결하지만 전문가 여전히 필요” [보안뉴스 강현주 기자] “우리보다 AI 해커가 더 잘하는 시대가 아직은 아니지만, 서늘합니다. AI는 빠르게 다가오고 있습니다.” “공격자들이 실제로 AI를 사용한다는 증거가 나타나고 있습니다. AI를 통한 공격이라 판단할 여러 정황들이 눈에 보이는 수준까지 왔습니다.” 23-24일 서울 삼성동 코엑스에서 열린 ‘코드게이트 2026’에서 나온 목소리다. AI 해커가 참가한 이번 행사에서는 AI의 실력이 아직 인간 전문가를 압도할 정도는 아니라는 점이 확인됐다. 하지만 공격자로서의 AI의 효용 역시 확인됐다. 또 AI의 실력이 높아진다 해도 인간의 전문성은 여전히 유용하다는 점도 시사했다. AI 해커 아직 인간 아래지만 효용 확인 전세계 해커들의 실력을 겨루는 이번 행사에서는 AI 해커가 첫 참가해 눈길을 끌었다. 한국과학기술원(KAIST)과 코드게이트보안포럼이 공동개발한 AI 해커 ‘KAIST 해킹 랩’(KAIST Hacking Lab)은 일반부에서 18위, 주니어부에서 2위를 차지했다. 단 특수 팀임을 감안해 실제 순위 발표에서는 제외됐다. KAIST 해킹 랩을 이끈 윤인수 교수는 “AI는 이미 많은 해킹 문제를 상당 부분 해결할 수 있는 단계에 도달했다”면서도 “여전히 전문가의 도움이 필요하다”고 소셜미디어를 통해 밝혔다. AI가 문제 해결 과정에서 한 번 막히면 잘못된 방향을 반복적으로 탐색하며 헤매는데, 이 때 전문가가 현재 상황을 판단하고 새로운 방향을 제시하는 게 중요하다는 게 윤 교수의 설명이다. 윤 교수는 “현재 많은 CTF 플레이어가 이미 AI를 적극적으로 활용하고 있으므로 이 결과는 순수 AI 대 AI와 협업하는 전문가의 차이를 보여주는 결과”라며 “AI의 능력은 빠르게 발전하고 있지만, 문제를 정의하고 방향을 수정하며 최종적인 판단을 내리는 전문가의 역할은 여전히 중요하다”고 강조했다. ”AI 공격 실제 보이기 시작... 기초 탄탄하면 AI 활용 극대화” 행사에선 김용대 KAIST 교수가 좌장을 맡아 ‘AI 시대의 사이버보안’을 주제로 한 오픈토크도 열렸다. AI해커의 도래와 AI 공격의 현실화 등의 주제가 거론됐다. 특히 AI 에이전트 시대 보안 인력의 역할에 대한 토론이 이어졌다. 박세준 티오리 대표는 “보안 교육 플랫폼 ‘드림핵’을 운영하면서 AI 시대 인력 양성에 대해 많은 고민을 하는데, 뛰어난 해커들이 많고, 우리보다 AI가 더 잘하는 시대가 아직은 아니지만 서늘하다. AI는 빠르게 다가오고 있다”고 말했다. 박 대표는 “AI가 빨리 다가오고 있는데 전문성을 가진 사람이 AI를 쓰면 더 많은 역량을 끌어낼 수 있다”며 “주니어를 온보딩 시키는 것 보다 AI를 일 시키는 게 더 효율이 높아지면 훗날 대가 끊기는 문제가 생길 수 있다”고 했다. ‘사이버 보안 10만 인재 양성’과 같은 정부의 인재 양성책에 대한 논의도 이어졌다. 박용규 한국인터넷진흥원(KISA) 디지털위협대응본부장은 “숫자에 매몰되기 보다는, 어떻게 AI를 내재화하고 십분 활용하는지가 AI 시대 사이버 보안 인재들이 갖춰야 할 역량이며, 코딩이나 패킷 분석 등 기존의 기능 중심 커리큘럼은 AI로 인해 무너지고 있다”이라고 말했다. 그는 “50년, 60년 전의 컴퓨팅 기술이 결국 AI를 창출해 낸 밑거름이 됐다”며 “단순한 프롬프팅 기술에만 매몰되지 않고, 탄탄한 기본 학문과 기초 체력을 바탕으로 AI를 체계적으로 활용하는 전문가를 길러야 한다”고 했다 박세준 대표는 “취약점을 찾고 침해 분석을 할 때 AI를 이용한 침해 흔적들이 실제로 있다”며 “아직은 침해 취약점 근본 원인이 전통적인 것이 많고, 관련 지식을 잘 가지고 있는 사람이라면 좀 더 플레이할 수 있다고 본다”고 말했다. 박용규 본부장도 “AI의 공격이 정말 들어오는지 지표를 가지고 연관성 확인 작업을 하고 있는데, 공격자가 실제로 AI를 사용한다는 증거가 나타나기 시작했다”며 “많은 로그와 패킷들이 동시다발적으로 짧은 시간에 들어오고, 프론티어 AI 모델과 통신을 한 흔적들이 남는 등 눈에 보이는 수준까지 판단할 수 있게 됐다”고 밝혔다. 이외에도 이번 오픈토크에서는 김태수 마이크로소프트 보안 연구 부사장, 허규 네이버 보안 리더, 이종호 토스 보안기술 리더도 참석해 AI의 방어체계 적용, 취약점 패치와 서비스 운영 간 균형, 독자 AI 파운데이션 및 사이버 보안 특화 AI 모델에 대한 견해를 나눴다. [강현주 기자(jjoo@boannews.com)]