• 최종편집 : 2019.7.21 일 17:55
HOME 기획ㆍ특집 포토&영상
유튜브 등 SNS에 가짜뉴스 이어 '딥페이크' 비상AI 기술로 조작한 영상, 여론 오도용으로 쓰일 우려
  • 국제팀
  • 승인 2019.06.16 06:37 ㅣ 수정 2019.06.16 06:37  
  • 댓글 0

미국 코미디언 빌 헤이더가 코난 오브라이언의 토크쇼에 나와 배우 아널드 슈워제네거의 성대모사를 한다.

헤이더가 슈워제네거의 목소리를 흉내 내는 동안 헤이더의 얼굴은 조금씩 변해 몇 초 만에 슈워제네거의 얼굴이 됐다.

지난달 유튜브에 게시돼 600만 번 가까이 조회된 이 영상은 당연히 진짜가 아니라 조작된 '딥페이크'(deepfake) 영상이다.

최근 미국 NBC 뉴스는 유튜브의 딥페이크 영상 중에서도 가장 많은 조회 수를 기록한 이 영상을 소개하며 "단순한 즐길 거리가 아니라 경고"라고 표현했다.

'딥페이크'는 '딥러닝(Deep Learning)'과 '페이크(Fake·가짜)'의 합성어로, 인공지능 기술을 활용해 합성한 영상을 가리킨다.

▲ 빌 헤이더의 얼굴이 몇 초 후 아널드 슈워제네거로 바뀌는 딥페이크 영상

헤이더의 영상은 딥페이크 기술 수준이 어느 정도인지를 실감케 하는 영상이다.

헤이더의 얼굴이 슈워제네거로 변하는 시간은 몇 초에 불과하지만 워낙 물 흐르듯 자연스럽게 바뀌어 전혀 위화감을 주지 않는다.

딥페이크 기술이 발전해 가짜가 더욱 진짜처럼 보일수록 부작용 우려도 함께 커졌다.

영상을 본 이들의 반응도 기술 발전이 무서울 정도라는 것이 대부분이다.

감쪽같이 합성된 사진이나 진짜 언론매체의 기사처럼 꾸민 가짜뉴스를 넘어 이제 딥페이크 영상이 대중을 오도할 위험이 있는 수단으로 떠오른 것이다.

▲ 저커버그의 인터뷰를 조작한 가짜 영상

미국 정치권이나 정보기관에서는 일찌감치 딥페이크의 위험성을 경계해왔다.

2016 대선을 앞두고 기승을 부린 가짜뉴스처럼 2020 대선 국면에서 딥페이크가 유권자에 거짓 정보를 퍼뜨릴 수 있다는 것이다.

실제로 헤이더-슈워제네거 영상을 게시한 체코 출신 그래픽 일러스트레이터는 딥페이크의 위험성을 경고하기 위해 이 영상을 만들었다고 했다.

그는 NBC에 "처음 이 영상을 보고 댓글을 단 사람들의 절반은 영상이 조작됐다는 것을 몰랐다"며 "사람들에게 어디까지 가능한지를 알려주고 무언가를 믿기 전에 생각하게 하고 싶었다"고 말했다.

최근 워싱턴 정가를 시끄럽게 한 낸시 펠로시 하원의장의 가짜 영상은 딥페이크 영상의 위험성을 단적으로 보여준다.

이 영상은 딥페이크 기술이 활용된 것도 아니고 단지 원래 속도보다 느리게 편집하고 음조를 변조해 술에 취한 것처럼 왜곡한 기초적인 수준의 조작이었지만 보수성향 소셜미디어를 중심으로 빠르게 확산됐다.

지난 주말 인스타그램에는 마크 저커버그 페이스북 최고경영자(CEO)의 인터뷰 발언을 조작한 딥페이크 영상이 게시되기도 했다.

가짜 포르노의 제작도 딥페이크의 부작용 중 하나다.

인터넷 커뮤니티 레딧은 사이트 내에 딥페이크 포럼을 열었는데 연예인이나 심지어 일반인의 얼굴까지 당사자의 동의 없이 포르노에 합성한 영상이 잇따라 올라오자 포럼을 폐쇄했다고 NBC는 전했다.

대니엘 시트런 미국 메릴랜드대 교수는 NBC에 "딥페이크는 실재적이고 구체적인 해를 끼칠 수 있다"고 우려했다.

시트런 교수는 "가짜 포르노나 정적을 겨냥한 영상일 수도 있고, 기업공개(IPO)에 영향을 미칠 목적의 조작 영상일 수도 있다. 불안정한 상황에선 시의적절한 조작 영상으로 폭력을 부추길 수도 있다"고 말했다.

<연합>

국제팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>

국제팀의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
Back to Top