- 영국 Ofcom 자료요청·브라질 의원 사용중단 요구…美 NCOSE도 법무부 조사 촉구
- 머스크 "불법 콘텐츠 생성 시 동일 처벌" 반응…앱 다운로드 오히려 25~54% 급증
일론 머스크의 소셜미디어 플랫폼 X가 자사 AI 챗봇 '그록(Grok)'으로 사용자가 아동과 여성의 노골적인 성적 이미지·딥페이크를 생성·공유한 사실이 적발되며 유럽, 인도, 말레이시아 등 다수 국가 규제당국의 조사를 받는다.
영국 미디어감독기관 Ofcom은 X에 그록 관련 자료 제출을 요청했으며, 브라질 의원도 연방검사와 데이터보호당국에 그록 사용 중단을 촉구했다.
논란은 최근 X에서 그록의 'Imagine' 기능을 업데이트하면서 텍스트 프롬프트만으로 비동의적 친밀 이미지(NCII)를 쉽게 생성할 수 있게 되자 불거졌다. 실제 인물 사진을 기반으로 한 아동 성착취물(CSAM) 포함 이미지가 X에서 광범위하게 공유되며 국제적 파장을 일으켰다. 유럽연합 집행위원회 대변인 토마스 레그니에는 5일(현지시간) 기자회견에서 "이것은 '스파이시'가 아니라 불법이고 혐오스럽다"며 유럽 내 유통을 용납할 수 없다고 못박았다.
인도 전자정보기술부는 X에 그록의 기술·절차·거버넌스 전면 검토를 명령하고 1월 5일까지 이행을 통보했다. 말레이시아 통신멀티미디어위원회(MCMC)는 주말 X 조사에 착수하며 회사 관계자 소환을 예고했다. MCMC는 "AI 기능과 챗봇, 이미지 조작 도구에 말레이시아 법과 온라인 안전 기준에 맞춘 보호장치를 요구한다"고 밝혔다.
미국에서도 국가성착취범죄센터(NCOSE)가 법무부와 연방거래위원회(FTC)에 그록 사태 조사를 촉구했다. NCOSE 법률센터장은 "연방법은 식별 가능한 아동이나 성적 행위를 묘사한 가상 콘텐츠도 CSAM으로 처벌한다"며 작년 제정된 'Take It Down Act'를 언급했다. 법무부 대변인은 "AI 생성 아동 성착취물을 극도로 심각하게 다루며 기술 악용자를 엄중 처벌할 것"이라고 입장 밝혔다.
X는 4일 공식 안전 계정에서 "불법 콘텐츠는 삭제, 계정 영구 정지, 당국 협조로 대응한다"고 공표했다. 머스크는 별도 게시글에서 "그록으로 불법 콘텐츠를 생성·요청한 사용자는 업로드자와 동일한 처벌을 받는다"고 경고했다. 그러나 xAI 직원은 그록 Imagine 업데이트 사실만 알릴 뿐 생성 제한 조치 여부는 밝히지 않았다.
논란 속에서도 X의 이용은 증가세다. 앱 트렌드 추적업체 Apptopia에 따르면 그록 일일 다운로드는 1월 2일 이후 54% 늘었고, X 앱 다운로드는 지난 3일간 25% 증가했다. 머스크는 오히려 자신을 비키니 차림으로 묘사한 그록 이미지를 웃으며 공유하며 상황을 조롱하는 듯한 반응을 보였다. X는 과거 아동 성착취 게시물을 올린 사용자 계정 복구 이력도 있어 신뢰 회복이 관건이다.
