지난해 오리건 주 우드번에서 멕시코 출신 망명신청자 겸 노동자 가족이 이민세관단속국(ICE)에 체포됐다. ICE는 영장도 제시하지 않은 자동차 창문을 깨고 아무런 설명도 없이 모두를 체포했다. 이 과정에서 노동자는 손가락이 부러지고 자동차 창문이 깨어지는 피해를 입었다.
이번 체포는 ICE의 새로운 전략인 ‘블랙 로즈 작전’이었다. ICE 요원들에게 ELITE(Enhanced Leads Identification & Targeting for Enforcement)라는 새로운 감시 소프트웨어 사용을 시험한 작전이었다.
팰런티어 테크놀로지스(Palantir Technologies)가 개발한 이 강력한 감시 소프트웨어는 이민자들을 추적하고, 표적으로 삼고, 구금하고, 추방하기 위한 데이터 무기 체계다.
국토안보부의 6000만 달러 투자로 탄생한 ELITE의 작동 방식은 섬뜩하다. ‘포춘’ 지에 따르면 ELITE는 먼저 특정 이민자 밀집 지역 전체를 표적으로 삼은 후, 여러 데이터 소스를 통합해 개인을 추적한다. 휴대폰 데이터, 소셜미디어 정보, 번호판 인식 시스템, 상업적 데이터베이스까지 모든 것이 하나로 연결된다. 만약 ICE가 메디케이드나 푸드스탬프 데이터베이스에 접근할 수 있다면, ICE는 AI를 이용해 이 모든 개인정보를 취합한 후 이민자들의 감시와 체포를 수행할수 있다.
ELITE의 장점은 저렴한 비용과 속도다. 그동안 1인당 추방 비용은 약 1만 7000 달러에 달했다. 트럼프 행정부가 약속한 ‘연간 100만 명 추방’을 달성하려면 연간 170억 달러 이상이 필요하다. 그러나 ELITE가 불체자 분류 식별을 자동화한다면 많은 비용이 절감될 것이다. 트럼프 행정부는 지난주 ICE예산 113억 달러 패키지를 통과시켰다.
문제는 ELITE가 정확하지 않다는 사실이다. 블랙 로즈 작전 보고서에 따르면, ELITE 시스템은 위에 언급된 멕시코 노동자의 이민신분을 두번이나 잘못 식별했다. AI가 포함된 소프트웨어의 전형적인 문제다.
‘카토 연구소’가 지난해 11월 발표한 보고서는 충격적이다. 국토안보부 내부 데이터에 따르면, ICE 구금자 중 폭력 범죄로 유죄 판결을 받은 사람은 단 5%에 불과했다. 73%는 아무런 범죄 기록이 없었다. 폭력범죄와 상관없는 많은 이민자들이 ELITE와 같은 AI 오류로 지목되어 체포되었을 가능성이 높다.
ICE의 ELITE 같은 데이터 무기 사용은 ‘무차별 체포’를 위한 ‘디지털 그물망’을 확대한다. 최악의 폭력 범죄자보다는, ‘하루 3천 명’이라는 할당량을 채우기 위한 ‘마구잡이 체포’가 확대될 것임은 불을 보듯 뻔하다.
최근 한인사회에도 사소한 교통위반이나 경찰 관련 문제를 겪은 후, 며칠만에 ‘당신의 비자가 취소되었으므로 빨리 출국하라’는 이메일을 받는 사례가 종종 보고되고 있다. AI가 단 한번만이라도 오류를 일으킨다면, 한 개인의 이민신분과 인생이 망가질 가능성이 높다. 첨단기술의 이름으로 시행되는 ‘디지털 이민자 사냥’은 멈춰야 한다. 우리는 정치인들에게 ICE에 대한 예산 지원에 신중할 것을 요구해야 할 것이다.
