“각 기관 최고인공지능관리자 CAIO 임명”… 백악관, 새 지침 제시

백악관이 28일 인공지능(AI)의 안전한 사용을 위해 정부 기관에 적용될 새로운 지침을 발표했다.

로이터 등에 따르면 각 기관은 AI의 활용과 정책을 관리할 담당하는 최고AI관리자(Chief AI Officer·CAIO)를 임명해야 한다. 이들은 각 기관에서 AI 사용이 안전하게 이뤄지고 차별적인 방식이 생기지 않도록 각 기관의 관리해야 한다.

또 여행객은 공항 보안 검색에서 안면 인식 스캔을 거부할 수 있다. 이같은 요구사항은 오는 12월 1일부터 발효된다.

이미 법무부는 지난 2월 첫번째CAIO를 임명하기도 했다. 백악관 예산관리국(OMB)는 이번 여름까지 100명의 AI 전문가를 고용할 방침이다.

각 기관은 사용하는 AI 시스템의 목록, 사용 이유, 관련된 위험성과 그에 대한 안전 대책 등을 담은 보고서를 OMB에 제시해야 한다. OMB는 이를 검증하는 책임을 진다.

카멀라 해리스 부통령은 “앞으로 정부 기관들이 AI 도구를 사용할 경우 그 도구들이 미국인의 권리 및 안전을 위험하게 만들지 않는다는 사실을 입증하도록 요구할 것”이라고 설명했다.

예를 들면 보건당국에서 AI를 활용할 경우에는 인종적인 편견이 진단 등에 영향을 미치지 않는다는 것을 보여줘야 한다.

AI 무기 도입 등에 대해 추가 논의가 진행 중인 정보 당국과 국방부 등 일부 기관들은 이번 규칙 적용 대상에서 제외됐다.

이번 정책은 앞서 조 바이든 대통령이 지난해 10월 서명한 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 따른 후속 조치다.

당시 바이든 대통령은 행정명령을 통해 미국 기업들에 자사가 개발한 AI가 국가 안보나 경제 및 건강상 위험을 초래할 경우 이를 연방 정부에 통지하고, AI에 대한 안전 테스트 결과 및 주요 정보를 정부와 공유하도록 했다.

일부 AI 전문가들은 대량의 데이터를 기반으로 AI가 스스로 판단하고 실행할 경우 인류에 예기치 못한 해악을 끼칠 수 있다고 우려하면서 AI 사용에 대한 원칙을 마련해야 한다고 강조하고 있다.

이해준 기자 lee.hayjune@joongang.co.kr