국가 차원 대응전략 마련 착수…내년 2월까지 연구

경찰, 가짜 영상·음성 판별 넘어 제작·유포 경로까지 추적

부처별 대응 한계…예방부터 수사·피해 회복까지 협력 강화

인공지능, AI를 악용한 범죄가 갈수록 정교해지면서 정부가 국가 차원의 대응전략 마련에 나섰습니다.

가짜 영상과 음성으로 사람을 속이는 딥페이크부터 보이스피싱과 투자사기, 해킹까지 범죄 수법이 다양해지면서 기존 대응 방식만으로는 피해를 막기 어렵다는 판단입니다.

정부는 범죄 유형과 피해 실태를 분석해 중장기 대응전략을 마련하고, 경찰은 AI로 만든 불법 조작물을 찾아내고 범행 과정까지 추적하는 수사체계를 강화하고 있습니다.

◇ 딥페이크·피싱·해킹까지…국가 차원 대응전략 마련

대통령 직속 국가과학기술자문회의는 지난달 과학기술정보통신부를 통해 ‘AI 시대 신종범죄 대응 과학치안체계 구축 및 국가전략 수립연구’ 용역에 들어갔습니다.

이번 연구는 딥페이크와 보이스피싱, 다크웹을 통한 마약 유통, AI를 이용한 개인정보 침해 등 다양한 범죄의 발생 현황과 취약계층 피해 실태를 분석하는 게 핵심입니다.

해외 주요국의 대응 사례도 살펴보고, 범죄 예방부터 수사와 피해자 보호까지 아우르는 국가 차원의 대응 방안을 마련할 계획으로 연구는 2027년 2월까지 진행될 예정입니다.

◇ 가짜 영상인지, 목소리인지…경찰은 탐지·추적 강화

경찰도 AI 범죄에 대응하기 위한 수사 역량 강화에 나섰습니다.

경찰청 국가수사본부는 지난 15일 ‘AI 불법 조작물 탐지·분석체계 고도화 기본계획’을 발표했습니다.

기존에는 주로 영상이나 이미지가 조작됐는지를 확인했다면, 앞으로는 영상과 음성, 문자 정보를 함께 분석하는 기술을 강화할 계획입니다.

예를 들어 영상 속 인물의 입 모양과 목소리가 일치하는지, 음성과 자막의 내용이 맞는지 등을 종합적으로 살펴 가짜 콘텐츠를 찾아내는 방식입니다.

가짜 영상이나 음성을 판별은 물론 어떤 AI 프로그램으로 조작물을 만들었는지, 어떻게 유포했는지까지 추적할 수 있도록 분석 기술과 자동화 도구도 개발할 예정입니다.

이를 위해 전국 시도경찰청에 AI 전문분석관을 배치하고, 현장 수사관을 대상으로 전문교육도 확대할 계획입니다.

AI 기술이 발전하면서 가짜 콘텐츠를 만드는 방식도 빠르게 바뀌는 만큼, 탐지 기술뿐 아니라 범행 과정과 증거를 확보하는 수사 역량까지 함께 높이겠다는 겁니다.

◇ 정부 부처 10곳 이상 협력…피해 예방부터 회복까지

정부도 부처별로 나뉜 대응체계를 연결하는 작업도 추진하고 있습니다.

방송미디어통신위원회는 지난 6월 과학기술정보통신부와 법무부, 금융위원회, 개인정보보호위원회, 경찰청 등 관계기관이 참여하는 ‘AI 범죄 대응 범부처 협의체’를 출범시켰습니다.

딥페이크 성착취물과 AI 금융사기, 허위·부당광고 등은 통신과 금융, 개인정보, 온라인 플랫폼 등 여러 분야에 걸쳐 발생하기 때문에 한 기관만으로 대응하기 어렵다는 이유에서입니다.

협의체는 범죄 예방과 탐지·차단, 수사·단속, 피해 회복, 재발 방지까지 대응 전 과정을 아우르는 종합 대응계획을 논의하고 있습니다.

범죄 관련 정보를 신속하게 공유하고, 여러 기관이 범죄 징후를 함께 분석하는 통합 대응체계도 추진하기로 했습니다.

AI가 범죄에 활용되는 속도만큼 대응체계도 빠르게 바뀔 수 있을지가 관건입니다.

국가 차원의 중장기 전략 마련과 경찰의 수사체계 강화가 AI 범죄 피해를 얼마나 줄일 수 있을지 주목되고 있습니다.