딥 페이크를 모바일로? Avatarify: AI Face Animato‪r‬ 아바타리파이

 

 

 

좋은 기술이지만 여러 악용사례로 인해 인식이 좋지 않은 '딥 페이크'.

저번 시간엔 '마이헤리티지'로 딥 페이크를 사용한 좋은 예에 대해 포스팅했습니다. 

 

딥 페이크로 되살리는 '마이헤리티지' [+ 좋은 예]

마이헤리티지를 통해서 일반 사람들도 딥 페이크를 체험해 볼 수 있는 기회가 열렸는데 마이헤리티지는 누군가 과거 한국의 위인들을 생생히 살아있는 모습으로 표현하면서 인식 자체가 좋은 편입니다.

이런 딥 페이크 기술이 마이헤리티지뿐만 아니라 알게 모르게 출시하는 곳이 꽤 많은가 봅니다.

구글 플레이 스토어, 앱스토어서 딥 페이크를 쉽게 만들 수 있는 어플이 출시했습니다.

그 이름은 '아바타리파이[Avatarify: AI Face Animato‪r]'입니다.

 

- 앱스토어

‎Avatarify: AI Face Animator

-구글 플레이스토어

Avatarify: Face Animator Editor - Google Play 앱

 

현재 아바타리파이는 앱스토어에서 1위를 기록 중입니다.

위의 경로대로 들어가서 사용하시는 것은 자유이지만 선택을 잘못하면 유료 서비스를 사용할 수도 있으니 주의 바랍니다.

모바일로 만드는 딥 페이크인데 얼마나 정교할까요? 아래 사진들은 아바타리파이에서 제공하는 데모 사진을 사용해 제 얼굴을 매칭 시켜서 만들어낸 결과물들입니다. 웃기려고 표정 지은 것은 아니고 가동범위가 어디까지 이어지는지 테스트하려고 억지로 지은 표정들입니다.

 

 

일론 머스크 / 성룡

멍멍이 / 모나리자

 

보시기에 어떠실까요? 사진 배경이 민무늬면 어설퍼보여도 저화질 영상의 그 인물이 말하는 듯한 느낌이 조금 들지 않나요?

어떤 구도의 사진을 사용하느냐에 따라서 사진처럼 안보일 수도 있습니다. 사실 이 어플을 순수하게 정보공유용으로 리뷰할까 했다가 다시 생각을 바꿨습니다. 모두가 딥 페이크를 재미 위주로 사용하면 좋겠지만 그러지 못한 사람들도 존재하니까요.

 

 

그것이 알고싶다 출처. 사진을 이용하여 가족에게 사기칠 가능성이 높다.

 

위의 '그것이 알고 싶다'에서 다뤘던 딥 페이크의 위험성을 알려주는 예시입니다.

더 대놓고 이야기하면 피해자가 될 인물의 인스타그램의 사진을 다운로드하여 위의 어플을 이용해 피해자의 가족들에게 사기 칠 수 있지 않을까요?

 

마이헤리티지때는 딥 페이크를 좋게 포스팅하지 않았냐고 하실 수 있겠습니다. 하지만 이건 둘을 놓고 봤을 때 결과물의 차이가 있습니다.

마이헤리티지는 사진을 딥 페이크로 바꾸면 '기본 IDLE(숨 쉬고 있는, 가만히 있는)'의 영역에서 벗어나지 않습니다. 잠깐씩 미소 짓는 것 외에 보이는 모습은 그게 다입니다. 하지만 아바타리파이는 다릅니다. 사진을 고르고 사용자의 얼굴을 카메라로 비춰서 연기할 수 있고 표정뿐만 아니라 음성 녹음까지 지원됩니다.

아래부터는 위에 보여드린 데모 사진 외에 이 아바타리파이에 어떻게 사진을 적용시키는지 보여드리는 예시입니다.

 

---

아바타리파이에 다른 사진 적용

 

 

 

이 어플의 경우 사용법에 대한 내용은 넘어가고 간단히 데모 외에 사진이 적용되는 예를 보여드립니다.

- 아바타리파이는 데모 외에 본인이 가지고 있는 사진에 접근하여 사용할 수 있습니다. 데모 아래를 보면 'Allow access'가 있는데 이걸 선택하면 사진 접근 권한을 물어봅니다.

- 확인을 물어보면 '사진첩'으로 이동하는데 웬만한 얼굴이 있는 사진이면 바로 적용이 됩니다, 본인 사진 외에도 다른 경유로 받은 사진도 가능하다는 이야기입니다.

- 사진을 선택하면 'GIF모드'가 있고. 'LIVE모드'가 있습니다. 아무래도 LIVE모드가 본인이 원하는 데로 사용하기가 좋아서 이걸로 진행을 하면 전면 카메라의 접근권한을 물어본 뒤 얼굴을 맞추는 가이드라인이 형성됩니다. 여기에 본인 얼굴의 눈과 입부분을 맞추면 바로 사용할 수 있습니다.

 

 

 

 

모바일로 만든 결과물치고 정교한 편입니다. 물론 자세히 살펴보면 어설픈 구석들이 보이는데 그러면 모든 사람들이 딥 페이크라고 바로 알아차릴까요?

피해자의 사진을 이용해 피해자의 가족들에게 보여준다고 가정해보자면 부모님들 입장에서는 올바른 판단을 내리기가 어려울 것입니다. 자녀가 곤경에 처했을지도 모른다는 생각과 딥 페이크라는 기술을 잘 모른다면 당연히 혼란스러울 수밖에 없을지도 모릅니다.

아바타리파이에 대해 포스팅하면서 이 어플은 생각보다 무서운 어플이 될지도 모른다는 생각이 계속 들었습니다. 그러다 보니 이번 포스팅이 이 어플의 소개글이 된 것도 아니고, 위험성을 알려주는 정보성 글인지 잘 모르겠습니다.

 

다만 이런 안 좋은 가능성에 대해서 모두가 대비를 하자고 말씀드리고 싶습니다.

딥 페이크를 대비하는 기준을 이 어플을 예로 들어 생각나는 데로 작성하자면,

 

- 가족과 주변 사람들에게 딥 페이크에 대한 정보를 충분히 공유하기.

 

- 마이헤리티지, 아바타리파이의 결과물은 항상 좌측 아래에 로고가 표시된다.

 

- 아바타리파이의 가장 눈에 띄는 어설픈 부분은 입. 사진의 입과 카메라로 찍고 있는 내 입이 이중으로 겹쳐 보이는 부분이 발생한다.

 

- 온전히 얼굴과 머리까지만이 아닌 배경에도 영향이 가므로 배경이 일그러지는지 확인하자.

 

- 목과 이어지는 옷깃을 살펴보면 물리적으로 움직임이 불가능한 형상을 띄고 있는 경우가 있다.

 

- 디지털 성범죄 피해자 지원센터 (d4u.stop.or.kr/) 또는 여성 긴급전화 (1366)을 통해 도움 요청하자.

 

아바타리파이를 이용한 악용사례가 곧 등장할지도 모른다는 불안한 생각이 듭니다.

딥 페이크를 모두가 체험할 자유가 있고 저 역시 딥 페이크에 대해 긍정적이지만 어느 정도 규칙이 있어야 한다고 생각합니다. 이런 생각 때문인지 마이헤리티지를 처음 봤을 때 딱 적당하다고 생각이 들었는지도 모릅니다.

모두가 딥 페이크를 적당히 잘 즐기면서, 딥 페이크로 운나쁘게 피해를 보게 된다면 대비를 잘하셨으면 좋겠습니다.