“AI로 보안 취약점 찾는다” 400억 걸린 미 대회서 한국 ‘팀 애틀랜타’ 우승

국내 인공지능(AI) 보안 분야 연합팀이 미국 정부가 주최한 세계 최대 AI 보안 대회에서 최종 우승을 차지했다. AI 해킹 공격에 대응하는 AI 기반 방어 기술의 우수성을 세계 무대에서 입증한 것이다. 관련 기사: [인터뷰] ‘팀 애틀랜타’ AI 사이버 보안 최고 고수 넘본다

미국 국방고등연구계획국(다르파·DARPA)은 8일(현지시간) 미국 라스베이거스에서 열린 세계 최대 AI 보안 기술 경진대회 ‘AI 사이버 챌린지(AIxCC)’에서 삼성전자 선행 연구·개발 조직인 삼성리서치와 한국과학기술원(KAIST)·포스텍·조지아공대 연구진 등으로 구성된 ‘팀 애틀랜타’가 최종 1위를 차지했다고 밝혔다. 한국 화이트해커 보안 기업 티오리(Theori)도 3위에 올랐다.

총 상금 2950만 달러(약 410억원)가 걸린 대회를 위해 지난 2년간 각국의 보안 전문 기업과 연구팀들은 세계 최고 성능의 AI 기반 보안 시스템을 선보이기 위해 치열한 경쟁을 벌였다. 전 세계 91개 팀이 등록했고, 이 중 31개 팀이 예선에 참여해 7개 팀이 본선에 진출했다. ‘팀 애틀랜타’는 1위 상금으로 400만 달러, 3위인 티오리는 150만 달러를 받게 됐다.

다르파 AIxCC 대회는

미 국방부 산하 기관인 다르파는 미국의 군사적 우위를 유지하기 위한 혁신 국방기술 연구를 선도해왔다. 인터넷과 위성항법시스템(GPS), 자율 주행 기술 등이 대표적인 성과다. 특히 다르파의 지원 방식은 여러 팀에 기술적 난제를 제시하고 경쟁을 통해 해법을 도출해내는 방식으로 유명하다. 한국 정부가 최근 추진하는 ‘국가대표 AI 모델’ 프로젝트도 다르파의 지원 방식에서 따왔다.

이번 대회는 다르파와 미국 보건첨단연구계획국(ARPA-H)이 주관하고 거액의 상금이 걸려 있어 전 세계 사이버 보안 업계의 주목을 받았다. 대회 과제는 세계 최고 성능의 AI 기반 보안 시스템을 개발하는 것이었다. AI 기술이 고도화되면서 AI로 인한 해킹 위험 또한 높아진 데 따른 것이다. AI 모델을 개발 중인 빅테크들도 이번 대회에 큰 관심을 보였다. 구글·마이크로소프트·오픈AI 등은 대회 참가 팀들에 자사 AI 모델을 활용할 수 있도록 지원했다.

‘팀 애틀랜타’는 총점 392.76점을 기록해 2위 팀을 170점 이상의 차이로 따돌렸다. 결선에 진출한 7개 팀은 주최 측이 소프트웨어에 인위적으로 심어 놓은 보안 취약점 70개 중 54개(77%)를 발견했고, 이 중 43개(61%)를 개선(패치)했다. 주최 측이 심어 놓지 않은 보안 취약점 18건도 추가로 찾아내 AI가 가진 보안 잠재력을 입증했다. ‘팀 애틀랜타’는 오픈AI의 AI 모델인 o4 미니, GPT-4o 등과 전통적인 보안 취약점 발견 방법을 함께 활용해 7개 팀 중 가장 많은 43개의 취약점을 발견하고, 31개의 패치를 제출했다.

이번 대회의 주요 성과 중 하나는 소프트웨어의 보안 취약점을 발견·개선하는 속도를 획기적으로 끌어올렸다는 점이다. 7개 참가팀이 개발한 AI 보안 시스템은 해킹 취약점을 45분 만에 발견하고 해결하는 데 성공했다. 기존 방식으로는 평균 60일~90일이 걸리는 일이었다. 특히 의료 분야에서는 보안 취약점 개선에 소요되는 기간이 평균 490일에 달했다.

앞으로는

대회에 출전한 팀들이 개발한 AI 보안 시스템은 오픈소스로 모두 공개된다. 병원·수도·전력 등 핵심 인프라 보안 강화에 활용될 예정이다.

삼성전자는 이번 성과를 바탕으로 보안 취약점을 스스로 식별해 대응하는 차세대 AI 보안 솔루션을 개발해, 자사 제품과 서비스 보안에 적용할 방침이다. 연합팀을 이끈 김태수 삼성리서치 상무는 “앞으로도 글로벌 보안 전문가들과 협업해 삼성전자의 보안 기술력을 더욱 높여가겠다”고 말했다.

강광우 기자 kang.kwangwoo@joongang.co.kr