구글에서 문제 소지가 있는 딥페이크(Deepfake) 콘텐츠와의 전쟁을 선포했다. 이번에 신기능을 도입해 자사 검색 생태계에서 유해 콘텐츠를 제거해 나갈 계획을 공개했다. 7월 31일(현지 시간) 엠마 하이엄(Emma Higham) 구글 프로덕트 매니저는 구글 블로그에 올린 글을 통해 구글 검색 서비스에서 노골적인 딥페이크 콘텐츠가 노출되지 않는 기능을 출시했다고 전했다. 신고가 접수된 이미지 및 영상 삭제 프로세스를 개선해 불법 딥페이크 콘텐츠 검색 순위를 강등하는 방안을 제시했다. 가급적 성적으로 노골적인 딥페이크 콘텐츠를 찾기 어렵게 만드는 게 목적이다. 구글에서 문제 소지가 있는 딥페이크(Deepfake) 콘텐츠와의 전쟁을 선포했다. 이번에 신기능을 도입해 자사 검색 생태계에서 유해 콘텐츠를 제거해 나갈 계획을 공개했다. 7월 31일(현지 시간) 엠마 하이엄(Emma Higham) 구글 프로덕트 매니저는 구글 블로그에 올린 글을 통해 구글 검색 서비스에서 노골적인 딥페이크 콘텐츠가 노출되지 않는 기능을 출시했다고 전했다. 신고가 접수된 이미지 및 영상 삭제 프로세스를 개선해 불법 딥페이크 콘텐츠 검색 순위를 강등하는 방안을 제시했다. 가급적 성적으로 노골적인 딥페이크 콘텐츠를 찾기 어렵게 만드는 게 목적이다.
(출처 : Google) (출처 : Google)
유해 딥페이크 삭제 프로세스 개선 구글이 단속하는 것은 사용자 동의 없이 제작된 딥페이크 콘텐츠다. 이전에도 구글 정책으로 인해 문제가 될 만한 이미지나 허위 영상물은 신고를 받고 삭제했었다. 그러나 이러한 과정을 쉽게 만드는 시스템을 개발해 보다 적극적으로 딥페이크 콘텐츠에 대처하겠다는 것이 이번 조치의 골자다. 구글에 누군가 삭제를 요청하면 구글에서는 해당 사용자와 관련된 모든 유사 검색으로 결과를 필터링하게 된다. 이후 문제가 되는 이미지와 중복되는 자료를 찾아 모두 제거하게 된다. 피해를 입은 당사자의 경우 딥페이크 콘텐츠가 다른 웹사이트에 유포될 것을 우려하기도 하는데, 이 같은 공포를 완화하는 데 도움이 될 것으로 보인다. 유해 딥페이크 삭제 프로세스 개선 구글이 단속하는 것은 사용자 동의 없이 제작된 딥페이크 콘텐츠다. 이전에도 구글 정책으로 인해 문제가 될 만한 이미지나 허위 영상물은 신고를 받고 삭제했었다. 그러나 이러한 과정을 쉽게 만드는 시스템을 개발해 보다 적극적으로 딥페이크 콘텐츠에 대처하겠다는 것이 이번 조치의 골자다. 구글에 누군가 삭제를 요청하면 구글에서는 해당 사용자와 관련된 모든 유사 검색으로 결과를 필터링하게 된다. 이후 문제가 되는 이미지와 중복되는 자료를 찾아 모두 제거하게 된다. 피해를 입은 당사자의 경우 딥페이크 콘텐츠가 다른 웹사이트에 유포될 것을 우려하기도 하는데, 이 같은 공포를 완화하는 데 도움이 될 것으로 보인다.
검색 결과 순위 조정 검색 순위에서도 조정이 이뤄진다. 온라인에는 하루에도 무수한 콘텐츠가 전 세계에서 쏟아져 나오고 있다. 구글은 콘텐츠 홍수 속에서 유해한 콘텐츠를 막는 효과적인 방법으로 검색 상단에 고품질 콘텐츠를 의도적으로 노출하는 시스템을 생각했다. 구글은 사용자가 사람 이름이 포함된 노골적인 딥페이크 콘텐츠를 구체적으로 검색하게 되면 그 결과로 ‘고품질의 노골적이지 않은 콘텐츠(high-quality, non-explicit content)’가 표시되도록 순위 시스템을 업데이트하겠다고 밝혔다. 특정인의 이름을 검색할 때 그와 관련된 뉴스 기사가 있으면 검색 결과에 해당 뉴스 기사를 보여주는 식이다. 구글은 내부 테스트 결과 검색 결과 순위를 조정하는 쿼리 개선으로 노골적인 이미지가 노출되는 것을 70% 이상 줄였다고 설명했다. 구글은 여기서 한발 더 나아가 딥페이크가 사회에 미치는 영향을 논의하는 것과 관련된 콘텐츠를 노출시켜 딥페이크 콘텐츠를 찾으려는 사용자를 올바른 방향으로 이끌기 위한 계획도 있을 것으로 보인다. 조작된 콘텐츠로 상당한 수준의 제재를 받은 사이트는 검색 순위에서 강등되는 솔루션도 구축했다. 구글은 다수의 제재를 받은 것만으로도 “고품질 사이트가 아니라는 매우 강력한 신호”라고 볼 수 있다고 주장했다. 구글의 조치가 합법적인 노출 영상까지 검색에서 배제하는 것은 아니다. 구글은 배우가 출연에 합의한 노출 영상과 합의가 이뤄지지 않은 불법적인 딥페이크 영상을 구분하는 것을 과제로 삼고 있다며 여전히 둘을 구분하는 것은 쉽지 않지만 검색엔진 기술을 지속적으로 개선하고 있다고 밝혔다. 검색 결과 순위 조정 검색 순위에서도 조정이 이뤄진다. 온라인에는 하루에도 무수한 콘텐츠가 전 세계에서 쏟아져 나오고 있다. 구글은 콘텐츠 홍수 속에서 유해한 콘텐츠를 막는 효과적인 방법으로 검색 상단에 고품질 콘텐츠를 의도적으로 노출하는 시스템을 생각했다. 구글은 사용자가 사람 이름이 포함된 노골적인 딥페이크 콘텐츠를 구체적으로 검색하게 되면 그 결과로 ‘고품질의 노골적이지 않은 콘텐츠(high-quality, non-explicit content)’가 표시되도록 순위 시스템을 업데이트하겠다고 밝혔다. 특정인의 이름을 검색할 때 그와 관련된 뉴스 기사가 있으면 검색 결과에 해당 뉴스 기사를 보여주는 식이다. 구글은 내부 테스트 결과 검색 결과 순위를 조정하는 쿼리 개선으로 노골적인 이미지가 노출되는 것을 70% 이상 줄였다고 설명했다. 구글은 여기서 한발 더 나아가 딥페이크가 사회에 미치는 영향을 논의하는 것과 관련된 콘텐츠를 노출시켜 딥페이크 콘텐츠를 찾으려는 사용자를 올바른 방향으로 이끌기 위한 계획도 있을 것으로 보인다. 조작된 콘텐츠로 상당한 수준의 제재를 받은 사이트는 검색 순위에서 강등되는 솔루션도 구축했다. 구글은 다수의 제재를 받은 것만으로도 “고품질 사이트가 아니라는 매우 강력한 신호”라고 볼 수 있다고 주장했다. 구글의 조치가 합법적인 노출 영상까지 검색에서 배제하는 것은 아니다. 구글은 배우가 출연에 합의한 노출 영상과 합의가 이뤄지지 않은 불법적인 딥페이크 영상을 구분하는 것을 과제로 삼고 있다며 여전히 둘을 구분하는 것은 쉽지 않지만 검색엔진 기술을 지속적으로 개선하고 있다고 밝혔다.
테일러 스위프트 (출처: Reuters) 테일러 스위프트 (출처: Reuters)
논란의 기술 ‘딥페이크’… 늘어나는 악용 사례 딥페이크는 ‘딥러닝(Deep Learning)’과 ‘페이크(fake)’의 합성어다. 딥페이크를 이용하면 현실에 없는 이미지나 영상을 만들 수 있다. 물론 가짜다. 딥페이크 기술은 인공지능(AI)의 발전과 함께 나날이 발전하고 있다. 알리지 않으면 딥페이크로 제작된 콘텐츠라는 것을 알아차리기 어려울 정도로 정교한 수준에 이르렀다. 분명 딥페이크는 놀라운 기술이지만, 한편으로 많은 악용 사례가 나타나 논란을 낳고 있다. 지난 1월 세계적인 팝스타 테일러 스위프트의 딥페이크 음란물이 확산되며 이슈가 됐다. 당시 여러 소셜네트워크서비스(SNS)를 통해 합성물이 확산되면서 높은 조회수를 기록하기도 한 반면 구글은 이번 조치가 합의되지 않은 성적으로 노골적인 가짜 콘텐츠로 인해 피해를 입은 이들을 돕기 위한 작업이었다고 설명했다. 엠마 하이엄은 “이러한 노력은 사람들에게 마음의 평화를 주기 위해 고안되었으며, 특히 미래에 자신에 대한 유사한 콘텐츠가 튀어나올 것을 걱정할 경우 더욱 그렇다”고 전했다. 테크플러스 에디터 나유권테크[email protected] 논란의 기술 ‘딥페이크’… 늘어나는 악용 사례 딥페이크는 ‘딥러닝(Deep Learning)’과 ‘페이크(fake)’의 합성어다. 딥페이크를 이용하면 현실에 없는 이미지나 영상을 만들 수 있다. 물론 가짜다. 딥페이크 기술은 인공지능(AI)의 발전과 함께 나날이 발전하고 있다. 알리지 않으면 딥페이크로 제작된 콘텐츠라는 것을 알아차리기 어려울 정도로 정교한 수준에 이르렀다. 분명 딥페이크는 놀라운 기술이지만, 한편으로 많은 악용 사례가 나타나 논란을 낳고 있다. 지난 1월 세계적인 팝스타 테일러 스위프트의 딥페이크 음란물이 확산되며 이슈가 됐다. 당시 여러 소셜네트워크서비스(SNS)를 통해 합성물이 확산되면서 높은 조회수를 기록하기도 한 반면 구글은 이번 조치가 합의되지 않은 성적으로 노골적인 가짜 콘텐츠로 인해 피해를 입은 이들을 돕기 위한 작업이었다고 설명했다. 엠마 하이엄은 “이러한 노력은 사람들에게 마음의 평화를 주기 위해 고안되었으며, 특히 미래에 자신에 대한 유사한 콘텐츠가 튀어나올 것을 걱정할 경우 더욱 그렇다”고 전했다. 테크플러스 에디터 나유권 [email protected]
갤럭시, 다이나믹 아일랜드에 지원한다? 애플은 아이폰14 고급형 모델(프로맥스)에 다이내믹 아일랜드라는 지금까지 본 적 없는 새로운 디자인을 썼다. 다이내믹 아일랜드는 평소에는 알약 형태지만 아이폰 활동에 의한····techpress.co.kr 갤럭시, 다이내믹 아일랜드에 지원한다? 애플은 아이폰14 고급형 모델(프로맥스)에 다이내믹 아일랜드라는 지금까지 본 적 없는 새로운 디자인을 썼다. 다이나믹 아일랜드는 평상시는 정제 형태이지만, iPhone 활동에 의한····techpress.co.kr