- 직원·투자자 반대 부딪힌 ‘시트론 모드’ 무기한 중단… ‘소라’ 이어 이번 주 두 번째 프로젝트 셧다운
- 10% 넘는 연령 인증 오류율에 발목… ‘딥페이크 누드’ 논란 속 수익보다 윤리적 안전성 선택
인공지능(AI) 열풍의 중심에 선 오픈AI가 세간의 뜨거운 논란을 불러일으켰던 ‘성인용 에로틱 챗봇’ 출시 계획을 전면 백지화했다.
현지시간 26일, 오픈AI는 내부 직원들과 투자자들의 잇따른 우려를 수용하여 성인 전용 콘텐츠를 허용하려던 ‘시트론 모드(Citron mode)’ 프로젝트를 무기한 중단했다고 파이낸셜 타임스 등 주요 외신을 통해 공식 확인했다. 이는 지난 화요일 영상 생성 AI인 ‘소라(Sora)’의 서비스 종료를 발표한 데 이어, 수익성보다 윤리적 안전성을 우선시한 파격적인 행보로 풀이된다.
내부 사정에 정통한 관계자들에 따르면, 오픈AI는 그동안 안전상의 이유로 에로틱 콘텐츠를 차단하도록 설계된 기존 모델을 재학습시키는 과정에서 심각한 기술적 난관에 부딪혔다. 특히 근친상간이나 수간 등 반인륜적이고 불법적인 행위를 인공지능이 학습 데이터에서 완전히 걸러내지 못하는 결함이 발견되면서 내부 비판이 거세졌다. 기업 가치가 7,300억 달러(약 980조 원)에 달하는 상황에서, 이러한 리스크를 안고 서비스를 강행하는 것은 ‘인류에게 유익한 AI’라는 설립 취지에 어긋난다는 지적이다.
특히 이번 결정에는 오픈AI 내부의 ‘웰빙 자문위원회’가 만장일치로 반대 의견을 낸 것이 결정타가 됐다. 한 자문위원은 강력한 방어 기제 없이 성인 모드를 도입할 경우, 자칫 AI가 사용자에게 부적절한 정서적 의존을 유도하는 ‘섹시한 자살 코치’로 변질될 수 있다고 경고했다. 실제로 최근 챗GPT와 대화하던 청소년들이 극단적 선택을 한 사건과 관련해 여러 건의 소송이 진행 중인 상황에서, 성인용 콘텐츠 도입은 불난 집에 기름을 붓는 격이라는 투자자들의 판단이 작용했다.
기술적 한계도 명확했다. 오픈AI가 도입한 자동 연령 감지 시스템의 오류율은 약 12%에 달하는 것으로 나타났다. 이는 매주 접속하는 약 1억 명의 미성년자 사용자 중 수백만 명이 성인 인증망을 뚫고 유해 콘텐츠에 노출될 수 있음을 의미한다. 샘 알트만 CEO는 과거 “성인을 성인답게 대우해야 한다”며 규제 완화를 시사했으나, 경쟁사 xAI의 ‘그록(Grok)’이 실존 인물의 딥페이크 누드 이미지를 생성해 사회적 파문을 일으키자 결국 고집을 꺾은 것으로 보인다.
결국 오픈AI는 영상 생성이나 성인용 챗봇 같은 소위 ‘사이드 퀘스트(부가 사업)’를 걷어내고, 코딩 어시스턴트나 기업용 생산성 도구 등 본질적인 사업 영역에 집중하겠다는 ‘선택과 집중’ 전략으로 선회했다. 회사 측은 에로틱 채팅이 인간의 정서적 애착에 미치는 영향에 대해 아직 충분한 경험적 근거가 확보되지 않았다며, 당분간은 장기적인 연구 단계에 머물겠다고 밝혔다. AI와 인간의 관계 설정을 둘러싼 이번 논란은 기술 만능주의에 경종을 울리는 상징적 사건으로 기록될 전망이다.
