[뉴스레터] NewsPeppermint-AI가 만들어낸 이미지의 위협

* 뉴스페퍼민트는 SBS 사의 스브스프리미엄에 기재하는 뉴욕타임스 칼럼의 번역본을 기재하는 뉴스레터입니다.

---

AI가 만들어낸 이미지의 위협, 과연 막을 수 있을까?

- GAN과 생성이론, 생성모델을 공부하는 사람으로써 무시할 수 없는 주제였다. 아니, 이 기사 때문에 뉴스페퍼민트를 수요 뉴스레터로 선정했다. 기본적으로 AI는, 인간의 일자리 같은 가장 근본적인 측면에서부터 뉴런이라는 신경세포를 그대로 모방한다는 점에서 경외롭지만 두려운 대상이다. 특히 LLM(거대언어모델)을 활용한 Chat-GPT 같은 경우 더더욱 그렇다. 분명 AI를 도구로 활용하고자 하였는데, 도구가 아닌 적수가 되어버린 느낌?

 

- 그 중에서도, 가장 무서운 건 '딥페이크'로 일컬어지는 '가짜뉴스', '가짜 이미지'일 것이다. AI를 통해 가수들의 목소리를 입혀 커버한 것처럼 꾸민 영상도 있듯 가짜 소식을 만들어내는 건 이제 어려운 일이 아니다. 더군다나, 예전에 비해 훨씬 정교한 만큼 진위 판별은 외려 더더욱 어려워졌다. 신뢰할 수 있는 수단의 소식만 접하기엔 이미 너무 대중화되었기에, 수정 기록을 메타정보로 저장하는 것이 하나의 대책으로 제시되었다.

 

- 이런 메타정보처럼, 이미지의 진위를 보증하기 위한 프로젝트가 콘텐츠 진위 이니셔티브이다., 작성자의 SNS, Web 주소, 이미지 편집 내역 등을 메타 정보로 기록하여 책임을 명시한 후, 악용될 우려를 줄이고자 이미지의 메타 정보를 클라우드에 보관하는 과정을 거침으로써 최소한 생성AI가 무제한으로 만들어낼 수 있는 가짜뉴스의 오/악용은 막을 수 있을 것이다. 언론 또한, 책임자의 존재를 확인함으로써 확실한 이미지만을 사용해 그들의 도리를 다할 수 있을 것이다.