챗GPT 개발사 오픈AI가 자사의 AI로 생성된 이미지에 라벨(label·꼬리표)을 부착키로 했다.

7일(현지시간) 오픈AI는 자사의 이미지 생성 AI 도구인 '달리3'가 만든 이미지에 디지털 워터마크를 부착한다고 밝혔다.

오픈AI는 '달리3'가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획이라며 이는 디지털 정보에 대한 대중의 신뢰를 높이는 데 도움이 될 것이라고 설명했다.

C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준으로, 마이크로소프트와 어도비, 인텔 등의 기업이 주도하고 있다.

디지털 워터마크는 메타데이터(데이터의 구조·속성 등을 표현한 자료) 형태로 이미지에서는 볼 수 없고, 콘텐츠 자격증명 인증(Content Credentials Verify)과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있다.

오픈AI는 웹 버전에서 '달리3'로 생성된 이미지 메타데이터에는 이미 C2PA가 들어가 있으며, 12일까지 이를 모바일 사용자에게도 확대할 계획이라고 밝혔다.

오픈AI는 다만, "워터마크는 쉽게 제거될 수 있다"며 "이것이 완벽한 해결책은 아니다"라고 덧붙였다.

오픈AI의 이번 발표는 최근 미국에서 AI가 생성한 딥페이크(Deep fake·AI로 만든 영상, 이미지, 음성 조작물) 이미지에 규제가 필요하다는 목소리가 높아지고 있는 가운데 나왔다.

지난달 인기 최정상의 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산해 논란이 됐다.

페이스북 모회사 메타는 지난 6일 자체 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 외부 AI 도구로 만든 콘텐츠에도 '이매진드 위드 AI'(Imagined with AI)라는 라벨(label·꼬리표)을 붙이겠다고 밝힌 바 있다.

구글도 지난 1일 자사 AI 챗봇 서비스인 바드에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 워터마크를 적용하기로 했다.

<연합>

국제팀  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>