일론 머스크가 설립한 인공지능 스타트업 xAI의 챗봇 '그록'이 최근 출시한 이미지 및 영상 생성 기능으로 선정성 논란에 휩싸였다. 특히 '매운맛(Spicy)' 모드가 성적 대상화와 노출이 심한 콘텐츠를 생성할 수 있어 비판을 받고 있다.

 

xAI는 8월 4일(현지시간) '그록 이매진'(Grok Imagine)을 공식 출시했다. 이 서비스는 수퍼그록(SuperGrok)과 엑스 프리미엄 플러스(Premium+) 등 유료 멤버십 가입자만 이용할 수 있으며, 현재 iOS 앱을 통해 제공되고 있다. 그록 이매진은 사용자가 텍스트나 이미지 프롬프트를 입력하면 최대 15초 분량의 영상을 생성하는 기능으로, 구글의 '비오', 오픈AI의 '소라', 어도비의 '파이어플라이' 등과 유사한 서비스다.

 

논란의 중심에 선 것은 그록 이매진의 '매운맛(Spicy)' 모드다. 사용자는 영상 생성 시 사용자 지정(Custom), 일반(Normal), 재미(Fun), 매운맛 중 하나의 옵션을 선택할 수 있는데, '매운맛' 옵션을 선택하면 노출이 많거나 성적 대상화를 담은 애니메이션을 만들어낼 수 있다. 이 모드를 사용하려면 생년월일을 입력해야 하지만, 실제 본인 인증 절차가 없어 사실상 연령 제한이 무의미하다는 지적이 나오고 있다.

 

더욱 문제가 되는 것은 이렇게 생성된 영상들이 소셜 미디어 플랫폼 엑스(X)를 통해 공유되고 있다는 점이다. 머스크 본인도 그록으로 만들었다며 날개를 달고 노출이 많은 옷을 입은 여성이 움직이는 6초짜리 영상을 공유했다. 머스크는 그록 이매진으로 현재까지 3400만 개 이상의 이미지가 생성됐다고 밝혔다.

 

xAI는 지나치게 선정적인 이미지에 대해서는 블러 처리를 통해 흐릿하게 생성한다고 밝히고 있다. 그러나 IT 전문매체 테크 크런치는 "얼마나 노골적으로 표현할 수 있는지는 한계가 있지만, 얼마든지 우회할 수 있는 수단이 있다"며 "실제로 반나체 이미지를 생성할 수 있었다"고 보도했다.

 

또한 그록 이매진은 일부 유명인을 제외하고는 대부분의 유명인 사진으로도 영상을 제작할 수 있어 딥페이크 제작 도구로 악용될 가능성에 대한 우려도 커지고 있다.

 

이번 논란은 xAI가 이전에도 겪었던 선정성 문제의 연장선상에 있다. 앞서 xAI는 'AI 캠패니언(동반자)' 기능을 통해 선보인 캐릭터 '애니'가 망사 스타킹과 얇은 란제리 옷차림으로 묘사되어 비판을 받은 바 있다. 미국 국립성착취예방센터(NCOSE)는 "미성년자도 애니와 대화할 수 있다"며 xAI에 애니 캐릭터를 삭제하거나 애플에 그록 앱 이용 연령 제한을 18세로 상향해야 한다고 요구했다.

 

이러한 일련의 논란은 AI 이미지 생성 기술의 윤리적 가이드라인과 적절한 규제의 필요성을 다시 한번 부각시키고 있다.