X
전체뉴스
최신뉴스
스포츠
축구
야구
농구
배구
골프
스포츠일반
엔터
연예
방송
영화
대중음악
OTT
문화
게임·e스포츠
경제
경제·정치
산업
자동차
IT
금융
생활·문화
부동산
오피니언
핫클립
영상
포토
X
검색결과115건
IT

악성 딥페이크 사라질까…피해자 직접 삭제 요구 가능해진다

'딥페이크'(AI 합성) 성착취물 관련 이용자 보호 장치가 올해 본격 도입된다. 피해자가 직접 삭제 요구를 할 수 있는 제도적 기반이 마련될 전망이다.14일 개인정보보호위원회(이하 개인정보위)는 2025년 주요 정책 추진 계획 6대 핵심 과제 중 하나로 'AI(인공지능) 시대 개인정보 규율 체계 혁신'을 포함했다.개인정보위는 딥페이크를 악용한 합성 콘텐츠 등에 대해 정보 주체가 삭제를 요구할 수 있는 법적 권리의 도입 추진을 결정했다. 인격적 가치를 훼손하는 개인정보 합성 행위 등을 금지·처벌하는 방안을 내놓기로 했다.개인정보위 관계자는 "지난해 사회적인 논란이 됐던 성적 허위 영상물뿐만 아니라 유명인 사칭 광고 등 각종 불법 합성물 제작을 근절하고자 관련 법 개정을 추진한다"며 "합성 콘텐츠에 대한 정의와 삭제 요구 권리 및 절차 등 구체적인 내용을 담을 계획"이라고 설명했다.이는 생성형 AI의 발달로 콘텐츠 창작 진입 장벽이 확 낮아지면서 SNS 프로필 사진 등으로 제작된 불법 음란물이 확산한 데 따른 것이다.지난해 8월 한 여대생의 얼굴을 나체 사진에 합성한 성범죄물을 익명 메신저 텔레그램에서 공유한 남성들이 경찰의 조사를 받은 사실이 전해지며, 딥페이크 악용 사례의 심각성이 수면 위로 떠올랐다.여기에 그치지 않고 수백 곳에 달하는 중·고등학교와 대학교의 딥페이크 불법 영상물 명단이 발견돼 사회에 큰 충격을 줬다. 이에 인스타그램 등 SNS에 게시한 셀카를 삭제하는 사례가 속출했다.딥페이크 성범죄 관련 민원도 덩달아 급증했다. 국민권익위원회에 따르면 딥페이크 성범죄 관련 민원은 2024년 1~12월 월평균 50건으로 전년 같은 기간 대비 1.7배 늘었다. 논란이 확산한 8월에는 6.1배 뛰었다.이에 국회는 딥페이크 성 착취물 등 허위 영상물 소지·구매·저장·시청죄를 신설해 3년 이하 징역 또는 3000만원 이하의 벌금에 처하도록 하는 성폭력범죄처벌특례법 개정안을 지난해 9월 통과시켰다.허위 영상물 제작·유포 법정형은 5년에서 7년으로 늘리고, 신분 비공개 수사 사후 승인을 허용하기로 했다.딥페이크는 AI 기술을 활용해 존재하지 않거나 발생한 적 없는 사건을 이미지, 비디오 등으로 합성해 만들어내는 것을 뜻한다. 정치인이나 연예인을 풍자한 사진으로 시작해 가짜 뉴스와 정치적 선동, 성희롱 등 목적으로 빠르게 부작용이 확산했다.딥페이크 영상물 제작자 대다수가 미성년자로 밝혀져 큰 충격을 주기도 했다.경찰청이 2024년 1월부터 11월까지 딥페이크 성범죄 사건 1094건을 수사, 573명을 검거한 결과 10대가 80.8%에 달했다. 20대가 14.7%, 30대가 3.0%로 뒤를 이었다. AI에 익숙한 젊은 세대 사이에서 특히 활개를 치는 것으로 나타났다.고학수 개인정보위 위원장은 "AI 환경 변화에 발맞춰 원칙 기반 개인정보 규율 체계의 완성도를 높여 나감으로써 국민 불안을 해소하고 국내 AI 생태계 발전을 적극 지원하겠다"고 말했다.정길준 기자 kjkj@edaily.co.kr 2025.01.14 15:22
뮤직

아이유, 악플러 180명 고소... 중학교 동문도 있어 ‘충격’ [전문]

가수 아이유가 악플러 180명을 고소했다.11일 소속사 이담 엔터테인먼트는 “당사와 법무법인 유한은 아티스트에 대한 협박, 모욕, 악의적인 허위사실 유포와 근거 없는 표절 의혹 제기로 인한 명예훼손, 살해 협박 및 사생활 침해, 성희롱, 음란물 유포, 딥페이크 등 중대한 사례를 선별하여 고소를 진행했다”고 밝혔다. 이에 따르면 현재까지 피고소인은 총 180여 명이며 추가로 고소를 진행 중이다. 특히 피고소인 중 아이유의 중학교 동창도 있는 것으로 확인됐다.소속사 측은 “당사는 아티스트에 대한 비방과 욕설로 모욕죄의 구성요건을 충족시키는 수천 건의 게시글과 댓글을 채증한 후 데이터베이스화하여 관리하고 있다”고 알렸다.그러면서 “향후에도 반복적으로 동일인의 악의적인 행위가 발견될 경우, 확보한 자료를 토대로 가중 처벌받을 수 있도록 조치할 계획”이라고 덧붙였다. 이하 이담엔터테인먼트 입장. EDAM 엔터테인먼트(이하 ‘당사’)입니다. 당사 및 당사 소속 아티스트 아이유(IU), 우즈(WOODZ)의 법률 대리를 맡고 있는 법무법인(유한) 신원(이하 ‘법무법인’)으로부터 2023-2024년 형사고소 현황을 전달받아 말씀드립니다. 당사와 법무법인은 아티스트에 대한 협박, 모욕, 악의적인 허위사실 유포와 근거 없는 표절 의혹 제기로 인한 명예훼손, 살해 협박 및 사생활 침해, 성희롱, 음란물 유포, 딥페이크(AI를 활용한 사진 및 영상 합성 콘텐츠) 불법 합성물 제작 및 유포, 기타 불법 정보 유통 행위(이하 ‘불법 행위’) 중 범죄 요건을 충족하는 중대한 사례를 선별하여 고소를 진행했습니다. 현재까지 피고소인은 총 180여 명이며, 계속해서 추가로 고소 진행 중입니다. 현시점까지 나온 일부 판결과 고소 진행 상황은 다음과 같습니다. 1) 현재까지 나온 판결 또는 처분은 벌금형(구약식 처분) 6건, 교육 이수 조건부 기소유예 3건, 보호관찰소 선도위탁 조건부 기소유예 1건입니다. 이 중, 아이유에 대한 근거 없는 허위 사실 유포로 인한 명예훼손, 성희롱, 살해 협박 등을 사이버 불링 형태로 가한 자는 죄질이 매우 나빠 검사 측에서 300만 원의 벌금 구형을 내렸으나, 이에 피고소인이 불복하여 정식재판 결과를 기다리고 있습니다. 이 외에도 여러 사이트를 통해 지속적으로 아이유를 괴롭힌 자의 경우에는 검찰이 해당 범죄 혐의가 중하다고 판단하여 약식 절차가 아닌 법원에 정식으로 재판을 요청(구공판)하였고, 그에 따라 현재 재판 절차가 진행 중입니다. 2) 2023년 4~5월경 근거 없이 표절 의혹을 제기함으로써 아이유의 명예를 훼손한 자들 중 일부의 신상정보가 특정되었습니다. 특히 해외 서버를 이용하여 불법 행위를 한 자와 해외 거주자로 파악되는 자 일부에 대해서도 신상정보를 확보하였습니다. 이들 중 아이유의 중학교 동문으로 추정되는 자가 있으며, 관련 사건이 진행 중임에도 불구하고 아이유에 대한 지속적인 괴롭힘을 이어오고 있는 것으로 파악되어 대응 중에 있습니다. 또한, 아이유에 대한 피고발 사건을 주도한 자를 상대로 민사상 손해배상청구 소송 제기 등 추가적인 법적 대응을 진행 중이며, 최근 당사자의 인적 사항을 상당 부분 입수하였습니다. 지난 7월 24일 서울중앙지방법원에서 열린 첫 변론기일에 상대방이 불출석하였으나, 두 번째 변론기일이 12월 4일로 예정되어 있습니다. 이처럼 해외 IP 주소를 사용하거나 국외에 거주하는 일부 악플러에 대해서는 관련 기관의 협조를 요청하였고, 이들을 추적하기 위한 수사 과정이 어느 정도 진척된 상황임을 알립니다. 다만, 수사 기밀을 유지하기 위해 위에 언급된 내용 외에 구체적인 내용은 공개하기 어려운 점 양해 부탁드립니다. 3) 2023년 5월경 아이유에 대한 허위 루머(간첩설)를 유포한 자에 대해 고소 후 경찰이 빠른 시일 내에 피의자를 특정하여 1차 조사를 완료하였습니다. 그러나 추가 조사 등을 진행하는 과정에서 피의자가 수사기관의 출석을 여러 차례 거부하면서 수사가 다소 장기화되었습니다. 피의자는 현재 검찰에 송치되어 처분을 기다리고 있습니다. 당사는 수사 과정에서 지속적으로 추가 증거를 확보하여 제출하는 등 적법한 절차에 따라 수사에 적극적으로 협조하였습니다. 당사와 법무법인은 아티스트의 명예와 인격권 보호를 위해 강경한 법적 대응을 이어가고 있습니다. 팬 제보 자료와 내부 모니터링 결과를 취합하여, 아티스트에 대한 각종 협박, 모욕, 허위사실 유포, 성희롱, 음란물 및 합성 영상 배포 등 불법 행위에 대해 분기별 정기 고소 외에도 개별적인 고소를 진행하는 등 신속하고 적극적으로 대응 중입니다. 이번 고소의 경우에도 정도가 심한 불법 행위를 선별하여, 어떠한 이유로도 용서하지 않고 강력 처벌을 원칙으로 형사 고소를 진행하였습니다.또한, 당사는 아티스트에 대한 비방과 욕설로 모욕죄의 구성요건을 충족시키는 수천 건의 게시글과 댓글을 채증한 후 데이터베이스화하여 관리하고 있습니다. 향후에도 반복적으로 동일인의 악의적인 행위가 발견될 경우, 확보한 자료를 토대로 가중 처벌받을 수 있도록 조치할 계획입니다. 앞으로도 당사는 포털사이트 뉴스 댓글을 비롯해 , , , , , , , , , , 등 다양한 커뮤니티를 지속적으로 모니터링하며 증거를 수집할 예정입니다. 아티스트와 팬들이 악성 게시글로 인해 지속적인 고통을 겪고 있는 만큼, 이 글을 보시는 국내외 온라인 커뮤니티 및 플랫폼 관계자분들께서도 수사에 적극 협조해 주시기를 간곡히 요청합니다. 끝으로 당사와 소속 아티스트는 악플러에 대해 어떠한 합의나 선처도 없을 것임을 분명히 밝힙니다. 앞으로도 악성 게시글 작성자에 대해 강력하게 대응할 예정이니, 온라인 플랫폼을 통해 불법 행위를 저지르는 일을 이제는 멈춰 주시기를 바랍니다. 감사합니다.김지혜 기자 jahye2@edaily.co.kr 2024.11.11 15:48
뮤직

스테이씨, 딥페이크 강경 대응 “선처 없는 법적 조치” [공식]

그룹 스테이씨(STAYC) 측이 딥페이크 제작물에 대한 강경 대응의 뜻을 전했다.하이업엔터테인먼트는 6일 “당사는 소속 아티스트 스테이씨(수민, 시은, 아이사, 세은, 윤, 재이)를 대상으로 한 딥페이크 제작물에 대해 선처 없는 법적 조치를 취할 것”이라고 밝혔다.최근 여성의 얼굴이나 신체에 음란물을 합성하는 딥페이크(AI 기반 합성 영상) 성범죄 피해 사례가 대거 드러나고 있다. 이에 하이업엔터테인먼트 또한 악의적인 딥페이크 불법 영상물의 제작과 유포 등에 강력히 법적 대응하겠다는 방침이다.뿐만 아니라 소속 아티스트의 인격과 권익을 보호하기 위해 최선을 다하고, 아티스트의 명예를 훼손하는 모든 불법 행위에 대해 철저하게 대응할 것이라고 경고했다.이를 위해 하이업엔터테인먼트는 현 상황을 엄중하게 인식하고, 무분별하게 이루어지고 있는 불법행위를 지속적으로 모니터링할 예정이다.한편 스테이씨는 오는 10월 컴백을 앞두고 있다.이주인 기자 juin27@edaily.co.kr 2024.09.06 12:07
스타

트와이스·(여자)아이들 이어 XG도... “딥페이크 강경 대응” [공식]

그룹 XG(엑스지) 측이 딥페이크 제작물에 대해 강경 대응의 뜻을 밝혔다.4일 소속사 XGALX는 “당사는 소속 아티스트를 대상으로 한 딥페이크 제작물이 제작 및 유포되는 상황을 확인했다”라며 “범죄 행위에 대한 증거 수집 및 모니터링을 통해 선처 없는 강력한 법적 조치를 취할 것”이라고 밝혔다.XGALX의 대표이자 총괄 프로듀서인 재이콥스 또한 SNS를 통해 딥페이크 범죄에 대해 언급하며 “XG는 물론 미래를 꿈꾸는 모든 여성의 존엄성을 짓밟는 행위를 결코 지나칠 수 없다. 알파즈(팬덤명), XG, 그리고 아티스트 가족, 스태프분들께 책임자로서 죄송하다는 말씀을 드리고 싶다”라고 사과했다.특히 소속사 대표가 “리더로서 목소리를 더욱 크게 내도록 하겠다”라며 딥페이크 성범죄에 대해 경각심을 가지자며 직접 나선 만큼, 국내외 음악팬들의 이목이 집중되고 있다. 재이콥스는 “지금 상황에 대해 심각하게 받아들이고 있다. 최선을 다해 해결할 것”이라고 약속했다.이어 “강력한 법적 조치를 취할 수 있도록 국내외 전문가들과 함께 논의 중”이라며 법적 대응을 시사함과 동시에 “XGALX 소속 아티스트 및 임직원들의 인권, 명예 보호를 위해 끝까지 싸워 결과를 내겠다”라고 약속했다.최근 여성의 얼굴을 음란물에 합성해 유포하는 딥페이크 범죄가 증가하고 있는 가운데, 연예계까지 확산되고 있다. 이에 (여자)아이들, 트와이스, 배우 박규영 등 아트스트가 소속된 소속사들은 강경 대응에 나서고 있다.김지혜 기자 jahye2@edaily.co.kr 2024.09.04 15:25
스타

박규영 측, 딥페이크 제작물에 강경대응 “선처 없다” [전문]

배우 박규영이 딥페이크에 대해 강경대응에 나섰다. 3일 박규영 소속사 사람엔터테인먼트는 “최근 박규영 배우를 대상으로 딥페이크(AI 기반 합성 영상물) 제작물이 불법 제작 및 유포되는 사례가 발생하고 있다”며 “당사에서는 엄중히 대응하고자 한다”고 밝혔다. 소속사는 “당사에서는 지속적인 모니터링을 통해 관련 자료를 수집할 예정이며, 관련한 사례를 발견하시면 아래 메일 주소로 제보 부탁드린다”면서 “앞으로도 배우와 관련한 불법 행위들에 대해 강경하게 대응할 예정”이라고 강조했다.딥페이크는 인공지능 기반 이미지 합성 기술로 여성의 얼굴에 음란물을 합성하는 성착취물이 대거 제작돼 파문을 일으켰다. 특히 연예인 피해 사례도 속출함에 따라 각 소속사들이 강경대응에 나선 상태다. <다음은 사람엔터테인먼트 공식입장 전문>안녕하세요. 사람엔터테인먼트입니다.최근 박규영 배우를 대상으로 딥페이크(AI 기반 합성 영상물) 제작물이 불법 제작 및 유포되는 사례가 발생하고 있습니다. 이에 당사에서는 엄중히 대응하고자 합니다.당사에서는 지속적인 모니터링을 통해 관련 자료를 수집할 예정이며, 관련한 사례를 발견하시면 아래 메일 주소로 제보 부탁드립니다.앞으로도 배우와 관련한 불법 행위들에 대해 강경하게 대응할 예정입니다.팬분들의 적극적인 제보와 관심에 깊은 감사의 마음을 전합니다.감사합니다.박세연 기자 psyon@edaily.co.kr 2024.09.03 21:00
뮤직

(여자)아이들 측, 딥페이크 제작·유포 강경대응 [공식]

그룹 (여자)아이들 측이 ‘딥페이크 성착취물’ 관련 강경 대응에 나선다. (여자)아이들 소속사 큐브엔터테인먼트는 3일 공식 SNS를 통해 ‘아티스트 딥페이크 확산에 대한 대응 안내’ 게시물을 올렸다.소속사는 “악의적인 딥페이크 제작물이 온라인상에 유포되고 있음을 확인했다”면서 “딥페이크 제작자 및 유포자에게는 강력한 법적 조치를 취할 예정”이라고 전했다.딥페이크는 인공지능 기반 이미지 합성 기술로 여성의 얼굴에 음란물을 합성하는 성착취물이 대거 제작돼 파문을 일으켰다. 특히 연예인 피해 사례도 속출함에 따라 각 소속사들이 강경대응에 나선 상태다. 박세연 기자 psyon@edaily.co.kr 2024.09.03 19:35
연예일반

트와이스도 피해…딥페이크 성범죄 ‘만시지탄’ [IS시선]

인공지능(AI)을 활용한 딥페이크 성범죄가 사회 문제로 급부상했다. 사실 연예계에서 딥페이크 공포는 어제 오늘 일이 아니다. 그동안 수많은 여자 연예인들이 피해를 호소해왔으나, 이제서야 관련 대책들이 모색되고 있다. 만시지탄이 아닐 수 없다. 정부는 최근 딥페이크 성범죄가 사회적 이슈로 크게 떠오르면서 관련 범죄의 처벌 수위를 높이기로 했다. 방송통신심의원회(방심위)도 ‘딥페이크 성범죄영상물 10대 종합대책’을 발표하고 텔레그램 최고경영자(CEO)를 수사 중인 프랑스 당국에 텔레그램 딥페이크 성범죄영상물 대응과 관련해 긴급 공조를 요청하기도 했다. 방심위가 불법 정보 제재 강화를 예고하자 온라인 참여형 백과사전 나무위키는 음란 콘텐츠를 대거 삭제하기도 했다. 물론 이 같은 조치는 주목할 만하다. 그러나 연예계에서 딥페이크 성범죄 피해 호소가 수 년 전부터 있었던 것을 고려하면, 대책 마련이 한참이나 늦었다는 지적이 나온다. 여성 연예인들이 딥페이크 성범죄 피해를 호소했을 때 정부가 강력한 대책을 마련했다면, 중학생들이 옆자리 여학생, 선생님, 가족 등을 대상으로 딥페이크 성범죄를 저지르는 최근 범죄 흐름을 조기에 막을 수도 있었을 테다. 미국 월스트리트저널(WSJ)이 미국의 사이버보안 업체 시큐리티 히어로의 조사 결과를 인용한 데 따르면 전세계 딥페이크 음란물에 등장하는 개인의 53%가 한국인인 것으로 나타났다. 특히 여성 가수들이 주요 범죄의 대상이다. 최다 표적이 된 개인 10명을 꼽은 결과 그 중 8명이 한국 여자 가수였다는 건, 그간 정부가 얼마나 이 문제를 방치했는지 여실히 드러나는 부분이다. 그간 연예계에선 꾸준히 딥페이크 피해를 호소해왔지만 텔레그램을 통해 유포되거나 해외에 사이트가 있다는 이유 등을 들어 수사가 어렵다며 지지부진해왔던 게 사실이다. 관련 처벌도 솜방망이 수준이었다. 거기에 더해 AI로 더욱 딥페이크가 손쉬워지자 10대까지 광범위하게 범죄자군이 형성돼 결국 사회 문제로 떠오른 것이다. 이제야 딥페이크 성범죄가 문제가 된 게 아니라 꾸준히 있었지만, 정부 당국이 손을 놓고 있었기에 폭발적으로 급증한 것이 아닐 수 없다. 앞서 걸그룹 뉴진스는 지난 6월, 가수 권은비는 지난 7월 각각 딥페이크 음란 합성물을 유포 또는 판매한 이들을 형사 고소했고, JYP엔터테인먼트도 지난달 30일 트와이스 멤버들의 딥페이크 성범죄 가해자들에 대한 법적 대응을 진행 중이라고 밝혔다. 강력히 처벌해야 한다. 딥페이크 성범죄가 장난이 아니라는 걸, 강력히 처벌로 사회에 각인시켜야 한다. 딥페이크 범죄는 비단 성범죄만 있는 게 아니다. 지난 4월 한 업체가 공모주 프로젝트를 진행한다며 배우 송혜교와 조인성의 얼굴과 음성을 입힌 가짜 축전 영상을 통해 투자를 유도했으며, 지난달 덱스는 불법 도박 광고에 자신의 얼굴이 딥페이크로 사용됐다며 피해를 호소하기도 했다.이제라도 정부가 문제 해결에 나선 만큼, 딥페이크 성범죄와 딥페이크 범죄를 근절시키기 위한 적극적인 대책 마련이 시급하다. 유지희 기자 yjhh@edaily.co.kr 2024.09.02 06:00
스타

트와이스→권은비 “선처 없다”…K팝계도 딥페이크 강경 대응 [왓IS]

딥페이크 성범죄가 심각한 사회적 문제로 부상한 가운데 K팝 스타를 대상으로 한 불법 합성물에 소속사들이 강경 대응에 나섰다.그룹 트와이스 소속사 JYP엔터테인먼트는 지난 30일 트와이스 FANS 어플을 통해 “최근 당사 아티스트를 대상으로 한 딥페이크 영상물이 확산되고 있는 상황에 대해 매우 심각하게 받아들이고 있다”며 피해 인지 사실을 알렸다.그러면서 “이는 명백한 불법 행위이며, 현재 관련 자료를 모두 수집하고 있는 바, 전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중에 있다”며 “아티스트의 권익을 침해하는 모든 행위를 절대 좌시하지 않고, 끝까지 단호하게 대처할 것”이라고 강경 대응을 예고했다.딥페이크 성범죄는 특정 인물의 얼굴을 인공지능(AI)에 학습시켜 음란물에 합성 후 온라인을 통해 무단으로 유포하는 식으로 이뤄진다. 가수 권은비 역시 최근 딥페이크 음란물을 유포한 이들을 고소했다. 지난달 소속사 울림엔터테인먼트는 “권은비에 대한 성희롱, 인신공격성 게시물, 허위사실 유포, 사생활 침해 등 심각한 명예훼손 행위로 인해 아티스트의 정신적 피해를 공지한 바 있다”며 “(이를 포함해) 아티스트의 초상을 합성해 허구의 음란성 사진을 유포하는 행위를 한 자들의 범죄 행위에 대해 다수의 게시물을 취합해 1차 고소장을 제출했고, 경찰에서 수사가 진행 중”이라고 밝혔다. 미성년자 멤버들이 포함된 그룹 뉴진스도 피해를 입었다. 뉴진스 소속사 어도어는 지난 6월 “아티스트의 초상을 합성해 허구의 음란성 사진을 유포 및 판매하는 등 도저히 용인될 수 없는 행위를 한 자들의 범죄 행위에 대해 경찰에서 수사가 진행되고 있고 그중 일부는 1심 판결에서 형사처벌이 결정되었음을 확인했다”고 전했다.브브걸 전 멤버 유정은 지난 2월 한 방송에서 직접 피해 사실을 토로한 바 있다. 유정은 “지인 제보로 내 사진이 딥페이크에 이용됐다는 사실을 알게 됐다. 현재도 인터넷에 그 사진이 돌아다니고 있다. 기분이 정말 나빴다”고 말했다.외신에서도 심각한 사안으로 주시하고 있다. 최근 미국 일간지 월스트리트 저널(WSJ)은 미국의 사이버보안 업체인 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서를 인용해 “한국이 딥페이크 음란물에 가장 취약한 국가”라고 보도했다. 해당 보고서에 따르면 전세계에 유포된 딥페이크 음란물 피해자의 절반이 넘는 53%가 한국인이며, 최다 표적이 된 개인 10명 중 8명이 한국인 가수인 것으로 나타났다. 이에 각 소속사가 강경 대응에 나선 가운데 정부 역시 지난 30일 딥페이크 등 허위 영상물 소지는 물론 구입, 시청 행위를 처벌하는 규정을 신설, 딥페이크물 제작 및 유통에 대한 처벌 기준을 상향하는 법률 개정 내용을 담은 처벌 강화 방안을 발표했다.이주인 기자 juin27@edaily.co.kr 2024.08.31 11:05
IT

윤 대통령 "딥페이크 음란물 명백한 범죄 행위"…텔레그램 핫라인 추진

최근 익명 메신저 텔레그램을 중심으로 딥페이크 음란물이 확산하자 정부가 대응에 나서는 모습이다.윤석열 대통령은 27일 국무회의 모두발언에서 "딥페이크 영상물은 단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위"라며 "우리 누구나 이런 디지털 성범죄의 피해자가 될 수 있다"고 말했다.또 윤 대통령은 "관계 당국에서는 철저한 실태 파악과 수사로 디지털 성범죄를 뿌리 뽑아 달라"며 "건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라"고 당부했다.이날 방송통신심의위원회는 긴급회의를 소집해 대책을 논의했다. 딥페이크 음란물 피해 신고 전용 배너를 신설하고, 관련 모니터링 요원을 늘려 실시간으로 피해 상황을 감시할 방침이다.또 텔레그램 측과 즉시 협의할 수 있는 핫라인을 구축해 피해 확산 차단에 신속성을 기할 예정이다.최근 텔레그램을 비롯한 SNS(사회관계망서비스)에서는 여성의 얼굴에 음란물을 합성한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 다수 발견됐다.경찰청에 따르면 지난 1~7월 딥페이크 성 착취 범죄 신고는 전국에서 총 297건 접수됐으며, 입건된 피의자 178명 중 10대가 73.6%를 차지했다.앞서 박지현 더불어민주당 전 비상대책위원장은 자신의 SNS에 "국가적 재난 상황임을 선포하고 시급히 대안을 마련하라"며 "텔레그램이 N번방 사건 때처럼 가해자들의 신상 협조에 수사를 거부한다면 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다"고 지적했다.정길준 기자 kjkj@edaily.co.kr 2024.08.27 11:37
IT

K팝 스타도 당한 딥페이크…"디지털 워터마크 시급"

한숨 자고 일어났더니 나도 모르는 가짜 음란 이미지가 SNS에 퍼져 수천만명의 뇌리에 박혔다. 분명 얼굴은 내가 맞는데 실오라기 하나 걸치지 않은 몸은 다른 사람의 것이다.불과 일주일 전 세계 최고 팝스타 테일러 스위프트에게 일어난 일이다. 신기하다 못해 정교해진 AI의 부작용 사례는 한류로 떠오른 우리나라에서도 심심치 않게 볼 수 있다. 하루가 다르게 진화하는 기술에 대응해 디지털 워터마크(표시)의 도입을 서둘러야 한다는 전문가들의 목소리가 커지고 있다.딥페이크, 놀이에서 범죄로1일 업계에 따르면 구글 등 해외 포털에서 두 개의 키워드만 조합하면 친숙한 K팝 아티스트의 얼굴을 입힌 음란 콘텐츠가 쏟아진다.국내에서는 음란물 접근을 차단하고 있어 해당 사이트로의 이동은 불가하지만, 섬네일(미리 보기)만 해도 아티스트의 이미지에 치명적이다.이들 대다수는 딥페이크를 악용해 만든 것으로 추정된다. 딥페이크는 AI 데이터 학습 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어다. 진위 여부를 구별하기 어려운 가짜 이미지·영상을 뜻한다. 오래전부터 온라인 커뮤니티와 SNS에서 딥페이크는 일종의 놀이로 자리매김했다. 유명인의 얼굴을 출연한 적 없는 인기 영화나 드라마 속 배우의 얼굴로 대체해 일어나기 힘든 우스꽝스러운 장면을 연출하는 식이다.잉글랜드 프로축구 프리미어리그에서 뛰는 손흥민도 딥페이크 영상에 등장한 적이 있다.같은 팀 소속이었다가 우승을 위해 독일 무대로 떠난 단짝 해리 케인을 아쉬움 가득한 표정으로 바라보는 손흥민을 넷플릭스 오리지널 'D.P.' 속 한 장면으로 익살스럽게 담아 화제가 됐다.글로벌 최대 숏폼(짧은 동영상) 플랫폼인 틱톡에는 어린아이도 어렵지 않게 딥페이크 기능을 활용할 수 있는 필터가 있다. 'AI 패러디' 등의 필터를 적용하면 순식간에 자신의 얼굴이 유명 아이돌 멤버의 얼굴로 바뀐다. 문제는 딥페이크가 건전한 영역을 넘어 '성적 허위영상물'로 변질되고 있다는 점이다.지난달 말 테일러 스위프트의 가짜 음란 사진이 X(옛 트위터) 등에서 확산됐다는 소식에 사티아 나델라 마이크로소프트 CEO는 미 NBC 방송에서 "놀랍고 끔찍하다"고 말했다.이어 해당 사진의 제작 도구로 지목된 자사 AI 이미지 생성기 '디자이너'의 허점을 개선해 부적절한 콘텐츠의 제작을 막은 것으로 전해졌다.우리나라에서도 딥페이크 피해 사례가 급증하고 있다.방송통신심의위원회의 통계를 보면 연예인이나 지인의 얼굴을 음란물과 합성해 유포하는 성적 허위영상물 시정 요구가 2021년 1913건에서 2023년 11월 5996건으로 2년 사이 3배 이상 뛰었다.터치 몇 번이면 끝날 정도로 쉽지만 성적 허위영상물을 만들어 퍼트리는 것은 엄연히 불법이다.성폭력범죄의 처벌 등에 관한 특례법은 음란물에 유명인의 얼굴을 합성해 유포한 경우, 허위영상 편집물을 제작하고 유포한 죄에 해당해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해진다고 명시했다. "AI로 만들었으면 '표시'하자"하지만 불특정 다수가 찍어내는 온라인 허위영상물의 출처를 알아내는 데에는 한계가 있다.디지털 워터마크 도입의 필요성이 제기되는 이유다. 적어도 어떤 앱으로 만들어냈는지 알아야 최소한의 관리가 가능하다는 것이다.대표적인 선진 사례는 삼성전자가 최근 출시한 AI폰 '갤럭시S24'다.사진 속 피사체만 골라 자유롭게 이동하는 등 AI 편집 기능을 쓰면 결과물 하단에 '갤럭시 AI'를 뜻하는 반짝이는 별 모양의 워터마크가 남는다. 틱톡의 일부 AI 필터도 '엔터테인먼트 목적'이라는 문구를 띄운다.이미 미국은 이미지와 비디오는 물론 오디오와 텍스트를 생성하는 AI의 표시 의무를 부과했다. EU(유럽연합)도 AI와 상호작용하고 있다는 사실을 밝히는 표시 의무 최종안에 작년 말 임시 합의한 것으로 알려졌다. 우리나라도 더 늦기 전에 제도 마련에 나선다. 과학기술정보통신부는 딥페이크를 활용한 가짜뉴스 등 디지털 쟁점을 관리하는 '범부처 디지털 신질서 정립 추진 계획'을 오는 3월 발표할 계획이다.문화체육관광부도 올해 AI 관련 워킹 그룹을 운영해 저작권 보호를 위한 AI 콘텐츠 표기 의무화 도입 시점을 논의할 방침이다.일부 창작자와 업계의 반발은 해소해야 할 과제다. 앱은 물론 콘텐츠를 유통하는 플랫폼 역시 허위영상물 유포에 따른 막대한 책임을 떠안을 수 있어서다.이대희 고려대학교 법학전문대학원 교수는 "AI 콘텐츠 표기 의무화는 이제 첫 삽을 뜬 단계"라며 "소비자 보호, 표현의 자유, 저작권 등 다양한 요소를 고려해야 한다"고 말했다.이 교수는 또 "지나칠 정도로 광범위한 표시 요구는 예술적 표현이나 경제 활동의 위축을 불러올 수 있다"고 했다.정길준 기자 kjkj@edaily.co.kr 2024.02.02 07:00
더보기
브랜드미디어
모아보기
이코노미스트
이데일리
마켓in
팜이데일리
행사&비즈니스
HotPhoto
TOP