"AI 네이티브 세대 온다" 보안 전문가 김태수 조지아텍 교수 인터뷰

"AI 존재 전제하지 않으면 인간 설 자리 없어져

…AI를 한 축으로 미래 설계하는 교육·사고 필요”

AI(인공지능) 보안분야 석학인 김태수(41) 조지아텍 교수가 “기술 발전 속도가 빨라지면서 산업 전반의 생산 능력과 수요가 확대되는데 노동 공급은 줄어드는 ‘생산성(Productivity)의 역설’이 발생하고 있다”고 짚었다. 예상을 뛰어넘는 AI의 발전 속도에 전방위적인 일자리 소멸과 대량 실업에 대한 우려가 커지고 있는데 AI 존재를 전제하지 않는 사회 시스템을 고수한다면 기술에 밀려난 이들이 설 자리는 없다는 진단이다.

김 교수는 2020년 9월 조지아텍 컴퓨터학부 사이버보안학과 출범부터 함께 했다. 2021년 삼성전자 최연소 임원으로 합류해 삼성 리서치 시큐리티 & 프라이버시팀에서 근무하다 올해 1월부터 마이크로소프트(MS) 보안연구소 부소장(VP)으로 일하고 있다. 그는 “복잡한 데이터를 인간보다 빨리 읽어내리는 데 그치지 않고 아무리 까다로운 소프트웨어를 제시하더라도 취약점 탐지에서 실제 공격 코드 작성까지 AI가 더 잘하는 시대가 왔다”며 “연구자 입장에서 정말 어려운 문제가 풀린, 꿈같은 일이 현실로 다가온 것이지만 고도로 발달한 AI가 생산성 도구를 넘어 인간보다 뛰어난 사이버 역량을 갖췄을 때 어떤 일이 일어날지 알 수 없다는 불확실성은 위험 요소”라고 전했다.

AI의 성능이 국가 기간 통신망이나 금융 전산망 등 핵심 인프라를 위협하거나 방어할 수 있는 수준으로 고도화될수록 국가 차원의 안보 자산으로 편입되는 흐름은 뚜렷해진다. 작년 미 국방부가 총 상금 2950만 달러를 걸고 주최한 세계 최대 AI 보안 기술 경진대회(AIxCC)가 좋은 예시다. 국방부 산하 고등연구계획국(DARPA)는 미국의 군사적 우위를 유지하기 위해 GPS, 자율주행 등 다양한 첨단기술 연구를 선도해오고 있는데 작년 대회 주제는 AI 보안이었다. 김 교수는 여기서 팀 애틀랜타를 이끌어 전세계 91개 팀 가운데 최종 1위를 차지했다. 그는 “대회를 통해 프론티어 모델이 타겟 소프트웨어를 어디까지 파고드는지 실험했는데 인간보다 깊이 사고하고 빠르게 침투했다”고 밝혔다.

대회에 출전한 팀들이 개발한 AI 보안 시스템은 오픈소스로 모두 공개됐다. 팀 애틀랜타의 해킹 방어 시스템은 리눅스 재단에서 연구 중이다. 개발한 모델을 공개해 누구나 연구하게끔 하는 방식은 AI 혁신에 중요하다. 지난달 앤트로픽이 공개한 AI 해킹 모델 ‘미토스(Mythos)’는 파괴력을 이유로 대중에 공개되지 않고 구글, 엔비디아 등 40여곳의 기업과 기관에만 제공됐다. 김 교수는 “미국은 경쟁국인 중국보다 훨씬 폐쇄적”이라며 “안정적으로 압도적 우위를 점한 기업이나 국가가 없는 상황에서 미국 기술 발전을 따라 잡고 역전을 허용할 빌미가 될 수 있는 오픈소스화가 쉽진 않지만 중국의 기술만 공개돼 있다면 결국 중국이 글로벌 연구의 개발 방향이자 기준점이 된다”고 지적했다.

최근 글로벌 AI모델 개발 속도는 일주일 간격으로 좁혀졌다. 김 교수는 “자가 학습(self-reinforcing)을 거쳐 인간 도움 없이 만들어진 기술이 이제 엔드유저(최종 소비자)까지 가닿는 시간이 불과 며칠이 안된다”며 “기술 도입이 빠르게 진행되면서 제조업 자동화가 이뤄지면 결국 생산 비용이 0으로 수렴하는 때가 올 텐데 모든 재화가 무료인 상상 속 유토피아가 언젠가 실현 가능해진 것”이라고 전망했다. AI 대전환의 핑크빛 예측이다. 그는 “다음 세대만 보더라도 AI 네이티브는 중간 과정 없이 힘 안 들이고 결과를 내는 데 익숙하다. 최근 중학생 자녀와 클로드 코드로 게임을 만드는데 배경 지식이 전혀 없어도 원하는 결과값을 도출하는 데 능숙하더라”며 “AI를 사회 시스템의 한 축으로 두고 미래를 설계하는 교육과 사고방식이 필요한 시점”이라고 강조했다.