'이 사람은 존재하지 않는다'창조주는 그의 사이트의 소름 끼치는 원산지 이야기를 밝힙니다.

필립 왕 (Phillip Wang)은 인공 지능으로 구동되는 웹 사이트를 만드는 책임이있는 33 세의 소프트웨어 엔지니어입니다.이 사람은 최근에 바이러스에 감염된 적이 없습니다. 페이지가 새로 고침 될 때마다 Generative adversarial network (GAN) (원래 Nvidia에서 코딩 됨)라는 알고리즘이 완전히 가짜 인물에 대한 사실적인 인물 사진을 렌더링합니다.

스턴트는 완전히 인공적인 실제 이미지로 나타나는 A.I.의 계속 증가하는 힘에주의를 환기 시키도록 고안되었습니다. 그러나 왕이 말한대로 역, 이 스턴트는 훨씬 더 멀리 파급 된 파급 효과를 가지고 있습니다. "이봐,이 진짜 가짜 사람을 보아라."그림과 이미지가 "증거"의 표준 대리자 인 사회에서 GAN은 - 힘든 노동을 요구했던 작업을 자동화함으로써 이미징 전문가의 일부는 곧 모든 사람이 상상할 수있는 사람이 상상할 수있는 일을 한 "증거"를 제공 할 수있게 할 것입니다.

"나는 기본적으로 내 인생에서 슈퍼 인텔리전스가 진짜 일 것이라고 인정할 것이며 남은 인생을 바칠 필요가 있다고 그는 설명했다. "이 반응은 얼마나 많은 사람들이 어둠 속에서 A. 그리고 그 잠재력."

사이트가 화음을 터트렸다. 전 Uber- 소프트웨어 엔지니어는 자사의 출시 이후이 사람이 존재하지 않는다는 사실을 420 만 번이나 방문했는데 원래 닫힌 페이스 북 그룹에 게시 된 일회용 사이트는 나쁘지 않다고합니다. Wang은 처음에는 그것을 몇 명의 친구들에게 독립적 인 A.I.에 가입하도록 설득하는 방법으로 사용했습니다. 그가 현재 연구하고있는 연구. 그러나 하루 만에 더 많은 잠재 고객이 GAN의 잠재력에 대해 학습함으로써 혜택을 볼 수 있다고 결정했습니다. 그는 이러한 유형의 기술이 어떻게 혁명적이고 위험한 존재가 될 수 있는지에 대해 사람들에게 알리는 것이 얼마나 중요한지 에코를 제기했다.

가짜 얼굴이 무서운 돌파구를 나타내는 이유

Wang의 사이트는 작년 12 월에 발표 된 Nvidia의 StyleGAN 알고리즘을 사용합니다. 그의 관점에서 보았을 때 잠재적으로 도움이되는 것에서 평범한 것 (생각하면: 치과 용 크라운 주입을 간소화하는 것)에서부터 훨씬 더 멀리까지, 예를 들어 완전히 새로운 분자의 상상력을 미래의 약물에 제공하는 것까지 다양합니다. 그러나이 혁신적인 기술은기만과 잘못된 정보를 그 어느 때보 다 쉽게 만들어줍니다.

유스 케이스가 여러면에 걸쳐있는 이유는 GAN을 적용 할 수있는 많은 방법이 있기 때문입니다. GAN은 두 네트워크를 서로 대립 시켜서 생성되는 생성자와 판별 자입니다. 생성기에는 실제 이미지가 주어지며 이미지를 최대한 재현하려고 시도하고 식별기는 위조 된 이미지와 원본을 구별합니다. 수백만의 교육 세션이 끝난 후 알고리즘은 훈련 된 이미지의 복사본을 만들기위한 초인적 인 기능을 개발합니다.

이것은 딥 페이크 (deepfake)를 생성하는 동일한 방법이거나 기존의 그림이나 비디오에 겹쳐진 컴퓨터 생성 이미지이며 가짜 뉴스 서술이나 다른 속임수를 푸시하는 데 종종 사용됩니다.

Wang은 많은 기업에 혁신을 가져다 줄 것이라는 사실에 매료되어 있지만, 사람들이 잠재적으로 발생할 수있는 잠재적 인 피해에 대해 더 잘 알고 싶어합니다.

예를 들어, 사악한 배우는 폭동, 시위 또는 기타 잠재적으로 폭력적인 반응을 온라인으로 유도하기 위해 가짜 이벤트를 묘사하는 GAN 생성 비디오 또는 이미지를 확산시킬 수 있습니다.

프로세스가 모두 자동화되어 있기 때문에 모든 사람이 그래픽 작업 장치 (GPU) 또는 그래픽 카드 (기계 학습을 가능하게하는)와 이미지의 데이터 세트에 액세스하여 시계와 같은 가짜를 만들 수 있습니다.

장기간에 걸쳐 StyleGAN은 결코 존재하지 않은 사람들의 정지 이미지를 만들 수 있지만 이러한 이미지를 자연스럽게 말하고 움직이게하는 것은 그 이상의 단계입니다. 다행스럽게도 WAN은 단순히 GAN에 대한 정보를 받음으로써 사람들이 자신의 속임을 당하지 않게 할 것이라고 지적합니다. 인지도를 높이면 우리 모두가 3D 그래픽과 의학의 개선을 더 쉽게 즐길 수있게 될 것입니다. StyleGAN이 등장하게 될 것입니다.

"나는 시위가 인식을 높이기를 희망한다. 당신이 모르는 사람들은이 기술에 가장 취약합니다. "반대로, A.I. 진실로이 세상에 많은 이익을 가져다 줄 것입니다."

저자에게 전자 메일 보내기: [email protected]