[컨슈머와이드-강진일 기자] 이제 내가 통화할 때 AI가 위변조된 목소리를 알아내 5초 이내에 탐지해 알려준다. LG유플러스가 AI 보안 기술 ‘안티딥보이스(Anti-DeepVoice)’ 기술을 세계 최초로 상용화했다. 안티딥보이스는 AI가 위변조한 목소리를 판별하는 기술이다. 이 기술은 오는 30일 익시오에 탑재된다. LG유플러스는 고객에게 무료로 제공하기로 했다. 이 기술로 더 이상 보이스피싱으로 인한 금융 피해 등을 당하지 않아도 된다. 이와 함께 LG유플러스는 딥페이크를 식별하는 기술도 개발 중이다. 따라서 보이스피싱 등 통신 보안에 가치를 두고 있는 소비자에게 가치소비 선택지가 될 것으로 예상된다.
보이스피싱 피해 규모는 지난 2023년 4천472억 원에서 지난해 8천545억 원으로 증가했다. 올해 피해 규모는 1조 원이 넘을 것으로 예상된다. AI 기술의 발달로 5분이면 내 목소리를 위변조할 수 있는 세상이 됐다. 보이스피싱 등 범죄가 점점 무서워질 수 밖에 없다. 그런데 LG유플러스가 이를 AI로 위변조한 목소리를 알아내 5초 만에 알려주는 기술을 적용한 익시오 서비스를 시작한다.
26일 오전 서울 LG서울역빌딩에서 진행된 ‘LG유플러스 AI 보안 기술 설명회’에서 이석영 모바일서비스트라이브 담당은 “대학 교수님조차 깜빡 속을 만큼 딸의 목소리를 위조해서 전화를 걸었다던가, 회사의 CEO 목소리를 만들어서 직원들에게 연락하는 등 AI가 목소리를 위조한 신종 사기 수법에 대한 소식을 접할 수 있다. 이제는 AI 기술의 발달로 단 5초면 내 목소리를 똑같이 만들어낼 수 있다”면서 “익시오는 오는 30일 온디바이스 기반 안티딥보이스 기술을 통해 위조 목소리를 이용한 보이스피싱을 방지하는 기술을 세계 최초로 상용화해 새롭게 다가오는 보이스피싱 위협을 선제적으로 방어하고자 한다. 보이스피싱 대응은 통신 사업자로서 기본적인 의무다. 이에 유플러스는 사회적 책임과 진정성을 가지고 보이스피싱을 대하고자 한다”고 밝혔다.
익시오에 탑재되는 안티딥보이스는 위조 음성 여부를 판별하는 기술이다. AI가 만들어낸 기계음은 실제 사람의 귀로는 들리지는 않지만 음성 합성 시 생기는 비정상적인 고주파 노이즈나 음성 발음 패턴에 대한 노이즈 발생 등 실제 사람의 보이스와는 차이가 있는데 인간이 판단할 수 없는 영역을 AI가 캐치해내는 기술로 고객이 통화를 하면서 보이스피싱 위험이 감지될 때 AI가 위조된 목소리 여부를 5초 이내에 탐지하여 안내해 준다. 안드로이드, iOS 둘다 적용된다. LG유플러스 고객이라면 안심하고 신종 유형의 보이스피싱에 대비할 수 있을 것으로 보인다.
LG유플러스는 하반기에 보이스피싱에 직접 노출되는 빈도를 대폭 줄이는 서비스도 준비 중에 있다. 이석영 담당은 “하반기에는 고객 통화 전체 여정에 걸쳐 보이스피싱을 예방하기 위한 준비를 하고 있다. 통화 전에는 신고된 보이스피싱 번호를 AI가 통합 패턴을 분석하여 위험 번호인지를 예측해 보이스피싱 의심번호를 안내할 예정”이라면서 “스팸과 보이스피싱 의심 전화는 AI가 고객 대신 전화를 받아준다. 이를 통해 고객이 보이스피싱에 직접 노출되는 빈도를 대폭 줄여 나가겠다”고 밝혔다.
그러면서 “고객이 보이스피싱 전화를 받았다면 실시간 보이스피싱 탐지를 고도화하여 제공하겠다”면서 “기존의 보이스피싱 탐지 안티 빅 보이스 외에 추가로 실제 보이스피싱으로 신고된 범죄자 목소리 여부를 판별할 수 있는 AI 기술을 국립과학수사연구원과 준비 중에 있다. 해당 건은 현재 교제 샌드박스 실증 특례로 진행 중이며 국과수와 긴밀한 협조 하에 진행하고 있다”고 설명했다.
LG유플러스는 통화가 종료된 이후에도 실제 금전 피해로 이어지지 않도록 준비하고 있다. 은행권과 협조해 보이스피싱 전화를 받은 고객이 실제로 계좌 송금 및 이체를 하는 등의 금융 거래가 발생하지 않도록 공동 모니터링 체계를 구축하겠다는 것이 LG유플러스의 계획이다.
이와 함께 LG유플러스는 보이스피싱뿐만 아니라 위험 URL, 악성 QR 코드, 악성 앱 내역 등을 익시오 하나로 막을 수 있도록 전방위적인 케어를 준비 중이다.
이석영 담당은 “모바일 전반의 통화 전 중 후 전체 여정의 보완을 강화하는 것이 저희의 첫 번째 목표”라면서“앞으로는 한 단계 더 도약해서 스토킹성 연락이나 학교 폭력과 같은 위험 역시 AI를 감지하여 고객이 원치 않는 연락으로부터 보호하고자 한다. 궁극적으로는 상황이나 취향, 감정, 행동 패턴 등 다양한 고객 데이터를 기반으로 개개인의 감정까지 케어할 수 있는 AI 안심 에이전트로 진화하겠다”고 밝혔다.
LG유플러스는 음성 AI 위변조 뿐 아니라 영상이나 이미지 변조 등 딥페이크로 인한 피해를 예방하는 기술도 개발 중이다. 최근 딥페이크 기술이 정교해지면서 위변조 영상을 육안으로 식별하기 어려운 세상이 되고 있다. 최근 실제로 딥페이크로 인한 피해도 발생하고 있다. 홍콩에서는 딥페이크로 CFO와 실제 직원을 가장한 영상 회의를 통해서 약 340억 원이라는 돈을 불법 계좌로 송금한 사례가 있었다. 이처럼 딥페이크는 이제 단순한 장난이나 합성의 수준을 넘어서 실질적인 금융 범죄, 사회적 위협, 이로 인한 개인의 피해로 이어질 수 있음을 보여주는 대목이다. 따라서 LG유플러스의 안티 딥페이크 기술에 기대가 커질 수밖에 없다.
이날 한영섭 LG유플러스 AI 기술 개발 담당은 “안티딥보이스와 유사하게 조작된 영상에는 미세한 왜곡이나 노이즈가 발생하게 되고 이러한 부분을 AI 엔진을 학습시켜서 판별하는 엔진을 개발했다. 특히 실시간 화상 통화에서는 정지된 영상뿐만 아니라 조명 화각, 그다음에 비디오의 압축 여부, 프레임의 변화에 따라서도 높은 수준의 정확도를 확보해야 하기 때문에 이러한 환경 안에서도 잘 정확하게 탐지할 수 있는 강인한 구조로 모델을 설계하여 개발하고 있다”면서 “실시간 변조와 탐지는 어느 정도 가능한 수준이다. 다만 고객 데이터를 원천적으로 보호해야 된다는 그 가치를 실현하기 위해서 이 모든 기술들을 온디바이스에 탑재하도록 경량화 최적화도 하고 있다”고 밝혔다.
현재 LG유플러스가 개발 중인 기술은 화상 통화 중에서 딥페이크 영상을 실시간으로 감지해서 사용자에게 경고해 준다. 그 사용자를 차단할 수도 있다. 또한 수신되는 이미지나 영상 콘텐츠의 딥페이크 여부를 판단해 자동으로 블러 처리를 하거나 차단할 수도 있다. 사용자의 노출 여부를 직접 선택할 수 있다.
한영섭 담당은 “LG 유플러스는 익시오를 포함해 다양한 커뮤니케이션 서비스 영역에서 AI 기반 보안 안전 기술을 개발하고 있다”면서 “지속적인 기술 개발과 협력을 통해 디지털 위협으로부터 고객을 보호하는 믿을 수 있는 통신사가 되도록 노력하겠다”고 말했다.
전병기 LG유플러스 전무는 " 유플러스는 안티 딥보이스, 안티 딥페이크와 같은 기술을 통해서 고객이 걱정하지 않고 서비스를 사용하실 수 있도록 가치를 제공한다. 유플러스는 AI 기술과 익시오 고도화 전략을 지속적으로 이어가며 가장 안전한 AI를 보유한 보안에 가장 진심인 통신사로 자리매김할 것"이라고 강조했다.