일론 머스크가 설립한 인공지능 기업 xAI가 6일 공개한 영상과 이미지 생성 도구 Grok Imagine이 전 세계 AI 업계와 규제 당국의 주목을 받고 있다. 이 서비스는 텍스트나 이미지를 기반으로 최대 15초 길이의 영상을 제작할 수 있으며, 특히 스파이시 모드라는 옵션을 통해 나체와 성인물 등 업무 중 부적절한 콘텐츠 생성이 가능하다.

Grok3 일반모드는 벨리댄서 사진도 검열을 한다 (사진=블라인드 처리된 Grok3 사진)

문제는 이 기능이 단순한 예술적 창작 범위를 넘어, 유명인을 대상으로 한 노골적인 딥페이크 생성에도 악용될 수 있다는 점이다. 실제로 테일러 스위프트를 나체로 춤추는 모습으로 합성한 영상이 제작돼 유포되면서 글로벌 여론이 들끓었다. xAI는 과도한 노출 장면을 흐리게 처리하거나 차단하는 필터를 적용했다고 밝혔지만, 완전한 차단에는 실패한 것으로 드러났다.

AI 이미지와 영상 생성 기술은 이미 구글의 Veo 3, 오픈AI의 Sora 등 글로벌 빅테크들이 경쟁적으로 내놓고 있다. 그러나 Grok Imagine은 이미지 생성 후 이를 애니메이션화하는 방식을 택해 제작 속도와 창작 자유도를 높였다. 이 과정에서 부적절 콘텐츠 차단 장치가 허술해지며 규제 공백 문제가 부각되고 있다. 현재 미국과 유럽 일부 국가에서는 AI 기반 음란물과 딥페이크 제작을 불법으로 규정했으나, 플랫폼 운영 기업이 해외에 위치한 경우 단속이 사실상 어렵다.

AI 창작 자유를 옹호하는 측은 스파이시 모드가 예술과 성인 엔터테인먼트 산업에 새로운 기회를 제공할 수 있다고 본다. 반면 인권단체와 일부 법률 전문가들은 피해자 동의 없는 부적절 콘텐츠 생성은 명백한 인권 침해이자 범죄 가능성이 있다고 경고한다. 특히 유명인과 공인을 대상으로 한 딥페이크는 명예훼손과 초상권 침해에 해당해 대규모 손해배상 소송으로 이어질 수 있다.

AI 마케팅 전문가 에이치엘스토리 최진명 대표는 AI 콘텐츠 생성 기술의 발전 속도가 사회적 안전망과 법적 규제를 훨씬 앞서 나가고 있다며 기업들이 최소한의 자율 규제와 안전장치부터 마련해야 시장 신뢰를 지킬 수 있다고 강조했다. 그는 또한 국제 공조를 통한 표준화 규제, AI 콘텐츠 출처 표기 의무화, 딥페이크 피해자 구제 절차 간소화를 핵심 대응 과제로 꼽았다.

Grok Imagine 논란은 AI 기술 발전이 불러올 창작 자유와 사회 안전 사이의 경계 설정 문제를 다시 수면 위로 끌어올렸다. 향후 주요 국가는 AI 생성물의 허용 범위를 재정의하고 플랫폼 사업자에게 책임을 부과하는 법률 제정을 서두를 것으로 보인다. 동시에 AI 기업들은 글로벌 시장에서의 신뢰 확보를 위해 기술적 필터링 고도화와 윤리 가이드라인을 마련해야 할 것으로 예상된다.

0 0