최근 텔레그램에서 미성년자를 포함한 일반 여성들의 성착취 영상을 공유, 판매한 ‘n번방 사건’이 사회적으로 큰 물의를 일으키면서, 이들이 벌인 여러 범죄 가운데 ‘딥페이크(deep fake) 기술’을 악용한 성범죄가 심각한 문제로 제기되고 있다.
전 세계적으로 딥페이크(deepfake)에 대한 논란이 확산되고 있다. 딥페이크는 인공지능으로 특정 영상에 특정 인물의 얼굴, 음성 등을 합성한 비디오가 실제 사람들에게 허구의 말과 행동을 하는 것을 보여주는 것이다.
특정인의 인권, 희롱 및 설득의 원천으로 조작되고 사실적인 정보를 왜곡하거나 악의적으로 사용되면서 그 대상이 연예인이나 정치인 등 유명인뿐만 아니라 일반인까지 확산되고 있기 때문이다.
더 큰 문제는 온라인에 공개된 무료 소스코드와 알고리즘으로 손쉽게 제작이 가능하다는 점이다. 특히 진위 여부를 가리기 어려울 만큼 정교해 온라인으로 제공되는 정보의 정당성을 판단하는 방법에 중대한 영향을 미칠 수 있다.
딥페이크는 ‘생성적 적대 신경망(Generative Adversarial Networks, GAN)’을 사용, 합성 사진이나 영상을 원본이 되는 사진이나 영상에서 만들어낸다. 딥페이크라는 단어는 ‘딥러닝(Deep learning)’과 ‘거짓(Fake)’의 합성어다. 지난 2017년 말 미국에서 ‘딥페이크’라는 네티즌이 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작됐다.
서울 광화문에 새롭게 조성된 광화시대 프로젝트 중 ‘광화인’에 AI 휴먼 기술을 지원하고, 아이돌 그룹 샤이니의 ‘민호’ 등을 키오스크 형태의 ‘AI 안내원’으로 구현했습니다.
이번 NRF 2022에서 리테일 제품이나 서비스가 판매되는 현장, 즉 고객과 만나는 접점에서 편의성과 사용자 경험을 혁신하는 리테일테크 기술로서 ‘AI 휴먼’(AI Human, 가상인간) 솔루션을 선보였습니다.
인공지능(AI) 전문 기업 머니브레인(대표 장세영)은 스페인 바르셀로나에서 열린 ‘MWC(Mobile World Congress) 2021’에 참가했다.
