최근 미국에서 AI가 생성한 딥페이크 이미지에 규제가 필요하다는 목소리가 높아지고 있는 가운데, 챗GPT 개발사인 오픈AI가 자사의 AI 생성도구인 '달리3'가 만든 이미지에 디지털 워터마크를 부착한다고 7일(현지시간) 밝혔다.

오픈AI는 "달리3가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획"이라며 "디지털 정보에 대한 대중의 신뢰를 높이는 데 도움이 될 것"이라고 말했다.

C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준으로, 마이크로소프트(MS)와 어도비, 인텔 등이 주도하고 있다.

디지털 워터마크는 메타데이터(데이터의 구조·속성 등을 표현한 자료) 형태로 이미지에서는 볼 수 없다.

하지만 콘텐츠 자격증명 인증과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있다.

오픈AI는 웹 버전에서 '달리3'로 생성된 이미지 메타데이터에는 이미 C2PA가 들어가 있으며, 12일까지 이를 모바일 사용자에게도 확대할 계획이라고 말했다. 하지만 "워터마크는 쉽게 제거될 수 있다"면서 "완벽한 해결책은 아니"라고 덧붙였다.

지난달 인기 최정상의 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산해 논란이 되기도 했다.

메타(페이스북 모회사)는 지난 6일 자체 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 외부 AI 도구로 만든 콘텐츠에도 '이매진드 위드 AI'(Imagined with AI)라는 인식표를 붙이겠다고 밝힌 바 있다.

구글도 지난 1일 자사 AI 챗봇 서비스인 '바드'에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 워터마크를 적용하기로 했다.

[뉴스로드] 강동준 기자 newsroad01@newsroad.co.kr