한국인터넷기업협회는 국내 회원사인 네이버와 카카오, SK커뮤니케이션즈(SK컴즈)가 악의적 선거 딥페이크(인공지능으로 만든 영상·이미지 합성 조작물) 사용 방지를 위한 공동선언을 채택했다고 밝혔다.

8일 공동선언은 주요 정보기술(IT) 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제22대 국회의원 총선거 기간 참여 기업 간 긴밀한 협력 기조를 세우기 위해 마련됐다.

선언문의 주요 내용은 악의적 선거 딥페이크에 대한 탐지와 신속한 조치, 대응 정책 공개, 확산 방지를 위한 교류 활성화, 대중 인식 제고를 골자로 한다.

아울러 기업별로 제공하는 서비스의 형태가 다양해 각각의 특성에 따른 추가 조치 방안도 준비하고 있다고 협회는 소개했다.

네이버는 콘텐츠의 출처 정보를 확인할 수 있는 글로벌 기술 표준 채택을 추진하고 있으며 생성 콘텐츠 탐지 기술 확보를 중장기적 목표로 연구하고 있다.

카카오는 생성형 인공지능(AI) 이미지 생성 모델 '칼로'에 비가시성 워터마크를 부착하는 기술 도입을 준비하고 있다.

SK컴즈는 AI를 이용한 이미지 생성 시 주요 정치인의 이름에 관한 검색어 제한 조치를 통해 선거 관련 딥페이크 제작을 방지한다.

다만, 이번 공동선언에서 구글코리아(구글)와 페이스북코리아(메타), 엑스(X·옛 트위터) 등 해외 빅테크들은 모두 빠졌다.

협회는 "빅테크들은 뮌헨 협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝혔다"며 "기술 협정에 따라 이번 선언문을 채택한 국내 기업들과의 자율협의체 활동에 참여할 것"이라고 설명했다.

산업팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>