국가 안보 AI 사용에 투명성 요구 > 뉴스

국가 안보 AI 사용에 투명성 요구

연방 자문 기구, 보안 기관의 AI 활용 공개 촉구

(캐나다) 캐나다의 국가 안보 기관들이 인공지능(AI) 시스템과 소프트웨어 애플리케이션 사용에 대한 구체적인 정보를 공개해야 한다는 연방 자문 기구의 권고가 나왔다. 이 자문 기구는 정부에 대해 보안 기관의 AI 사용에 대한 감독을 강화할 것을 촉구하고 있다.

연방 국가 안보 투명성 자문 그룹(National Security Transparency Advisory Group)은 최근 발표한 보고서를 통해 연방 기관들이 현재 국회에서 논의 중인 법안을 개정하여 AI 사용에 대한 외부 감독을 강화할 필요가 있다고 밝혔다. 이 자문 그룹은 지난 2019년에 설립되어, 국가 안보 관련 정책과 프로그램, 활동에 대한 투명성과 책임성을 높이기 위해 활동하고 있다.

연방 정보 및 보안 기관들은 자문 그룹의 보고서에 대해 AI 기술의 투명성 필요성에 공감하면서도, 국가 안보 업무 특성상 일부 정보는 공개에 제한이 있을 수 있음을 지적했다.

보안 기관들은 현재 AI 기술을 문서 번역부터 악성 코드 탐지까지 다양한 분야에 활용하고 있으며, 향후 텍스트 및 이미지 분석, 패턴 인식, 행동 분석 등에 AI 사용이 확대될 것으로 보고 있다. 자문 그룹은 "국가 안보 분야에서 AI 사용이 늘어나는 상황에서 국경, 경찰 및 첩보 기관의 목표와 활동에 대해 대중이 더 많은 정보를 얻을 필요가 있다"고 강조했다.

보고서는 정부 내에 체계적이고 적극적인 개방성을 강화하기 위한 적절한 메커니즘을 마련할 것을 권고하며, 외부 감독 및 검토 체계가 강화돼야 한다고 주장했다. 또한, 정부가 민간 부문과 협력해 국가 안보 목표를 달성함에 있어 "개방성과 참여"가 혁신과 대중 신뢰를 촉진하는 핵심 요소로 작용한다고 지적했다. 반면, 비밀주의는 대중의 의혹을 키울 수 있다는 경고도 덧붙였다.

AI 기술 사용의 투명성을 설명하는 데 있어 가장 큰 장애물은 AI 알고리즘 및 기계 학습 모델의 불투명성(이른바 "블랙박스" 문제)이며, 이로 인해 보안 기관들조차 자칫 AI 애플리케이션의 작동 방식을 제대로 이해하지 못할 위험이 있다고 보고서는 설명했다.

캐나다 정부는 AI 사용 지침을 통해, 인간 의사결정자의 판단을 보조하거나 대체하는 시스템을 구축하기 전에 알고리즘 영향 평가를 의무화하고 있다. 이에 더해, 현재 국회에 상정된 "인공지능 및 데이터 법"(Artificial Intelligence and Data Act)은 AI 시스템의 책임 있는 설계와 개발, 배포를 보장하기 위한 법적 틀을 제공한다. 그러나 해당 법안은 보안 기관과 같은 정부 기관에는 적용되지 않기 때문에, 자문 그룹은 이 법안을 보안 기관에도 확대 적용할 것을 권고하고 있다.

캐나다의 사이버 보안 및 정보 수집 기관인 통신 보안 기관(CSE)은 이미 방대한 정보를 분석하는 데 데이터 과학 및 AI 기술을 적극 활용해 오고 있다. CSE는 AI 기술이 인간을 대체하는 것이 아니라, 더 나은 의사결정을 내리는 데 기여한다고 설명했다.

CSE의 최신 연례 보고서에 따르면, 기관은 고성능 슈퍼컴퓨터를 이용해 새로운 AI 및 기계 학습 모델을 훈련시키고 있으며, 2022년 말에는 100개 이상의 언어를 번역할 수 있는 맞춤형 번역 도구를 개발해 캐나다의 주요 해외 정보 파트너들에게 제공했다. 또한, CSE의 사이버 센터는 정부를 대상으로 한 피싱 캠페인과 연방 네트워크에서의 의심스러운 활동을 감지하기 위해 기계 학습 도구를 활용하고 있다.

자문 그룹의 보고서에 대해 CSE는 AI에 대한 대중의 이해를 돕기 위한 다양한 노력을 기울이고 있다고 응답했다. 그러나 CSE는 "국가 안보를 보호해야 하는 임무 특성상 AI 사용에 대한 구체적인 세부 사항을 공개하는 데 한계가 있을 수 있다"고 밝혔다.

캐나다 보안 정보 서비스(CSIS)도 자문 그룹의 보고서를 환영하며, AI 사용에 관한 계획과 거버넌스 체계를 공식화하고 있다고 밝혔다. CSIS는 모든 AI 관련 활동에 있어 투명성을 우선시하고 있지만, 임무 특성상 일부 사항은 공개가 제한될 수밖에 없다고 설명했다.

한편, 2021년 다니엘 테리엔 사생활보호위원회 위원장은 캐나다 연방경찰(RCMP)이 클리어뷰 AI(Clearview AI)라는 얼굴 인식 소프트웨어를 이용해 불법적으로 개인 정보를 수집한 사실을 적발한 바 있다. 이에 RCMP는 개인정보 수집 기법의 법적 준수 여부를 평가하는 기술 도입 프로그램을 도입했다. 자문 그룹은 RCMP가 이 프로그램에 대해 더 많은 정보를 공개할 것을 요구했다.

RCMP는 곧 투명성 청사진을 발표할 예정이며, 이 청사진에는 기술 도입 프로그램의 주요 원칙과 평가된 도구들에 대한 세부 사항이 포함될 것이라고 밝혔다. 또한, RCMP는 AI 사용과 관련한 국가 정책을 개발 중이며, 투명성 보장을 위한 수단을 마련할 것이라고 덧붙였다.

자문 그룹은 연방 정부가 AI 사용과 관련한 투명성 공약의 성과를 공개하지 않고 있다고 비판하며, 정부가 해당 공약의 이행 상황을 공식적으로 검토하고 대중에게 성과를 보고할 것을 권고했다.

연방 공안부는 자문 그룹의 권고 사항이 관련 부처와 국가 안보 커뮤니티에 공유되었다고 밝혔지만, 해당 권고를 수용할지 여부와 구체적인 이행 계획에 대해서는 언급하지 않았다.

김태형 기자 (edit@cktimes.net)