인터넷비교사이트 딥페이크 생성·유포하는 ‘그록’…이미지 53%가 속옷차림 [플랫] > 자유게시판

인터넷비교사이트 딥페이크 생성·유포하는 ‘그록’…이미지 53%가 속옷차림 [플랫]

페이지 정보

작성자 또또링2
댓글 0건 조회 114회 작성일 26-01-14 11:20

본문

인터넷비교사이트 일론 머스크 최고경영자가 이끄는 인공지능(AI) 회사 xAI의 챗봇 ‘그록’이 성 착취물 딥페이크를 다량 생성해 유포하는 것에 대해 미국과 유럽 정치권에서도 거센 비판이 나오고 있다.
10일(현지시간) 가디언에 따르면 J D 밴스 미 부통령은 지난 8일 데이비드 래미 영국 외교장관과 회담을 하면서 AI가 생성한 성 착취물이 플랫폼을 통해 확산하는 것은 “전적으로 용납할 수 없는 일”이라고 말했다. 밴스 부통령은 그록을 직접 언급하지는 않았지만, 그록 접속 차단 방안을 검토 중인 영국 정부에 “공감한다”고 말한 것으로 전해졌다.
그록은 소셜미디어 엑스 내에서 제공되는 AI 서비스다. 지난달 말 ‘이미지 편집’ 기능이 추가된 이후 성 착취물 딥페이크를 손쉽게 만들 수 있어 논란이 되고 있다.
[플랫]AI 시대의 성폭력
[플랫]“사람 죽이는 제품 만들어”…‘아동 성 착취’에 고개 숙인 SNS 경영자들
이 기능을 사용하면 온라인에 있는 실존 인물의 사진을 속옷이나 수영복 차림으로 바꿔 유포할 수 있다. 챗GPT와 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 금지하는 것과 달리 그록은 ‘표현의 자유’를 내세워 이를 허용하고 있다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난달 25일부터 이달 1일까지 그록이 생성한 이미지 20만개를 무작위 분석한 결과 53%는 속옷, 비키니 등을 입은 인물을 담고 있었고, 이 가운데 여성으로 보이는 인물 비중은 81%에 달했다. 전체 이미지의 2%는 18세 이하로 보였다.
민주당 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코)은 전날 애플과 구글 CEO에게 서한을 보내 그록 앱과 엑스 앱을 앱스토어에서 퇴출하라고 요구했다.
이들은 “머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다”며 “엑스의 끔찍한 행위에 눈감는 것은 귀사의 콘텐츠 관리 관행을 조롱거리로 만들 것”이라고 지적했다.
인도네시아 정부는 전 세계 최초로 그록 서비스에 대해 접속 차단 조치를 했다.
무티아 하피드 인도네시아 통신디지털부 장관은 이날 성명을 내고 “정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크가 인권과 존엄성을 침해하는 중대 행위라고 간주한다”고 밝혔다. 유럽 주요 국가들도 이 문제에 대한 조사에 착수했다.
논란이 커지자 엑스와 xAI 측은 지난 9일부터 엑스 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하는 방침을 적용하기 시작했다. 그록 챗봇은 이미지 생성·편집을 요구하는 이용자에게 월 8달러의 “유료 구독이 필요하다”고 답변하고 있다. 앞서 해당 기능은 무료로 제공됐다.
그러나 이미지 편집 기능을 엑스 유료 구독자로 제한한 것은 미봉책에 불과하다는 비판이 나온다.
토머스 레니에르 유럽연합 집행위원회 대변인은 “유료 구독이든 무료 구독이든 우리는 그런 이미지를 보고 싶지 않다”고 말했다.
▼ 윤기은 기자 energyeun@khan.kr
장동혁 국민의힘 대표와 이준석 개혁신당 대표가 13일 첫 공식 회동을 하고 더불어민주당 공천헌금 수수 의혹에 대한 특검 추진 등에 공조하기로 했다. 6·3 지방선거를 앞두고 외연 확장이 필요한 장 대표와 존재감 부각이 절실한 이 대표의 이해관계가 맞아떨어지고 있다는 분석이 나온다.
이 대표는 이날 주황색 넥타이를 매고 국민의힘 당대표 회의실인 국회 본청 228호를 찾아 장 대표와 만났다. 분홍색 계열 넥타이를 매고 기다리고 있던 장 대표는 이 대표가 들어서자 “어서 오십시오”라고 말하며 악수를 청했다. 이 대표는 자리에 앉아 장 대표 쪽을 바라본 뒤 “멀어 보이나?”라고 말했고, 두 사람은 서로를 향해 의자를 끌어당겨 가까이 앉았다. 회의실에는 ‘차이를 넘어 민주주의를 지킨다’라고 적힌 배경막이 걸렸다. 이 대표가 직접 고안해 국민의힘에 전달한 문구인 것으로 전해졌다.
이 대표는 모두발언에서 “정치와 사법제도를 망가뜨리는 거악 앞에서는 (국민의힘과) 공조가 필요하다고 판단했다”면서 장 대표에게 “김병기·강선우 특검, 제3자 추천 방식의 통일교 특검, 대장동 항소 포기 경위 규명 등 세 가지를 반드시 함께 추진하자”고 말했다. 장 대표는 “이번에는 반드시 대장동 항소 포기 (진상 규명), 통일교 특검 그리고 공천 뇌물 특검을 반드시 이루어내야 한다”고 화답했다.
양당 대표가 15분가량의 비공개 회동을 한 뒤 최보윤 국민의힘 수석대변인은 김병기 전 민주당 원내대표에 대한 수사가 미진할 경우 두 당이 특검법을 공동 발의하기로 합의했다고 밝혔다.
이 대표가 국민의힘 대표와 공식 회동한 것은 2024년 1월 개혁신당 창당 이후 처음이다. 자신이 최고위원회의 등을 주재한 곳이기도 한 국회 본청 228호를 찾은 것은 당원권 정지 징계를 받기 전 의혹 소명을 위해 국민의힘 윤리위원회에 출석한 2022년 7월 이후 3년 6개월여만이다.
오늘 회동은 6·3 지방선거를 앞두고 장 대표와 이 대표의 공통분모가 커지고 있는 방증이라는 해석이 제기된다. 둘 다 선거 연대론에 일단 선을 긋고 있지만 장 대표는 외연 확장을 요구하는 당내 압박을 해소하는 차원에서, 이 대표는 중앙 정치 무대에서 존재감을 부각하기 위해 서로가 필요한 형국이라는 분석이 나온다.
양당에선 정책 연대를 통해 선거 연대의 물꼬를 틀 수 있을 것이라는 기대감도 감지된다. 한 국민의힘 의원은 “현안에 대해 같은 목소리를 내다보면 합치기도 쉬워지고 더 자연스러운 연대를 할 수 있게 될 것”이라고 말했다. 개혁신당 관계자는 “장 대표가 윤어게인을 끊어내겠다고 하면 당연히 같이하는 것”이라고 했다.
더불어민주당을 탈당한 강선우 무소속 의원에게 ‘공천헌금’ 명목으로 1억원을 건넨 의혹을 받는 김경 서울시의원이 오는 15일 오전 9시 경찰에 출석해 조사를 받는다.
14일 경향신문 취재를 종합하면, 경찰과 김 시의원은 이같이 날짜와 시간을 조율했다.
앞서 서울경찰청 공공범죄수사대는 특정범죄가중처벌법상 뇌물수수와 정치자금법, 청탁금지법 위반 등 혐의를 받는 김 의원에게 14일과 15일 피의자 신분으로 출석할 것을 통보했다.
김 시의원은 2022년 지방선거를 앞두고 당시 더불어민주당 소속이던 강 의원 측에 공천 대가로 1억원을 건넨 혐의를 받고 있다.
경찰에 고발장이 접수된 직후 미국으로 출국했다가 지난 11일 귀국한 김 의원은 경찰에서 약 3시간30분 조사를 받았다. 김 시의원은 귀국에 앞서 변호인을 통해 경찰에 혐의를 인정하는 취지의 자수서를 제출했으며, 경찰 조사에서도 자수서 내용과 같은 진술을 한 것으로 전해졌다.
경찰은 같은 날 김 의원의 사무실 등 압수수색을 통해 PC 2대를 입수했지만 1대는 하드디스크가 없어 압수물에서 제외됐고 다른 1대 역시 포맷 정황이 발견됐다고 한다.
경찰은 서울시의회에서 김 의원이 사용하다 반납한 PC 2대도 임의제출 형식으로 확보했으나, 1대는 포맷한 흔적이 있는 것으로 전해졌다.

이전글수원소년법전문변호사 [단독] 아이 1명당 4320만원 준다는 전남···없는 돈 어디서 마련하나 26.01.14
다음글폰테크 출장용접 서울탐정사무소 26.01.14

댓글목록

등록된 댓글이 없습니다.

제휴문의

페이지 정보

본문

댓글목록