캐나다 연구진 워터마크 제거 도구 개발 > 뉴스

(토론토) 캐나다 워털루대학교 연구진이 딥페이크 방지를 위해 사용되는 ‘워터마크’를 손쉽게 제거할 수 있는 도구를 개발하면서, 현재 전 세계적으로 추진되고 있는 딥페이크 대응 전략이 근본부터 흔들리고 있다.

워털루대 컴퓨터과학 박사과정 안드레 카시스는 “현재 학계와 업계 모두 워터마킹에만 의존하며 다른 대안은 거의 포기한 상황”이라며 “이번 연구 결과는 그러한 접근 방식이 잘못됐다는 것을 보여준다”고 강조했다.

'UnMarker', 단 2분 만에 워터마크 제거
카시스가 이끄는 연구팀은 ‘UnMarker’ 라는 도구를 통해 이미지에 삽입된 워터마크를 제거할 수 있음을 입증했다. 이 도구는 워터마킹 알고리즘이나 탐지 시스템에 대한 사전 정보 없이도 작동하며, 테스트 결과 절반 이상의 AI 모델에서 성공적으로 워터마크를 지워냈다.

그는 “워터마크 제거는 단 두 번의 클릭만으로 가능하고, 원본 이미지와 시각적으로 구별되지 않는다”며 “이 기술의 허점을 보여주는 데 성공했다”고 밝혔다.

딥페이크 대응책, 원점 재검토 필요
AI 생성 콘텐츠의 확산과 함께 딥페이크는 정치 선전, 사기, 허위정보 유포 등 다양한 위험을 수반한다. 이에 따라 미국, 유럽연합, 캐나다 등은 워터마킹을 통한 식별 시스템을 도입하고 있다. 특히 유럽연합은 ‘AI법’을 통해 워터마킹을 의무화하고 있으며, 캐나다 역시 2023년 도입한 자율 규범에 따라 AI 기업들이 식별 기술을 마련하도록 하고 있다.

하지만 카시스는 “이런 기술이 수십억 달러의 투자를 받고 있음에도 불구하고, 기본적인 취약점이 존재한다”며 “이제는 한발 물러나 진짜 효과적인 해결책이 무엇인지 다시 고민해야 할 때”라고 강조했다.

대안 기술 개발 시급
이번 연구는 미국 메릴랜드대학교, UC버클리와 카네기멜런대학교, 스위스 ETH 취리히 등에서 이뤄진 기존 워터마크 제거 기술보다 한 단계 더 진화한 것으로 평가된다.

전문가들은 이번 연구가 전 세계적으로 ‘표준’처럼 받아들여지고 있는 워터마킹 기술에 대한 경종이 될 수 있다고 평가하며, 더욱 정교하고 근본적인 대책 마련이 필요하다는 목소리를 내고 있다.

임영택 기자 (edit@cktimes.net)