AI 딥페이크 논란, 그록 퇴출 사태: 한국은 규제 사각지대?

AI 챗봇 '그록'의 딥페이크 생성 논란: 무엇이 문제인가?

일론 머스크의 AI 기업 ‘xAI’의 생성형 AI ‘그록’으로 만든 영상이 딥페이크 생성 논란에 휩싸였다. 우리 일상생활에 있을 법한 인물을 AI로 구현한 모습으로, 그록은 실존하는 인물의 사진을 성적으로 변형한 이미지 생성을 허용하면서 전 세계적으로 논란의 대상이 됐다. 특히 미성년자 사진까지 변형이 가능한 것으로 나타나면서 비판이 거세졌다.

 

 

 

 

국제 사회의 대응: 인도네시아, 프랑스, 영국 등 규제 조치

인도네시아 정부는 전 세계 최초로 그록의 서비스 접근을 차단했다. 프랑스, 영국은 공식적인 위법 조사에 착수했으며, 독일, 스웨덴, 이탈리아도 그록을 제작한 xAI의 모회사인 엑스(X·옛 트위터)에 즉각적인 시정을 요구했다. 이러한 각국 정부의 조치는 그록이 AI를 이용해 딥페이크 성착취물을 생성·유포하는 것을 허용했다는 논란을 의식한 것이다.

 

 

 

 

그록의 문제점: 딥페이크 이미지 생성 과정의 허점

예컨대 이용자가 엑스에 게시된 실존 인물의 사진을 활용해 그록에 올린 후, ‘수영복을 입혀라’ 등 명령어를 입력하면 그록이 이를 수행한다. 이미지를 생성하는 과정에서 나이, 본인 동의 여부 등을 확인하는 절차가 누락돼 미성년으로 보이는 인물의 이미지까지 변형하는 것으로 드러났다. 그록은 이에 대해 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝혔다.

 

 

 

 

한국에서의 '그록' 사용 현황과 규제 공백

그록은 국내에서도 높은 MAU를 보유 중인 챗봇 서비스다. 모바일인덱스에 따르면 지난해 12월 그록 MAU는 84만9963명으로 역대 최대치를 기록했다. 12월 한 달간 그록의 신규 설치 수는 50만1750건에 달한다. 하지만, 국내에서는 딥페이크 생성 관리가 사각지대에 놓여있다는 지적이 나온다.

 

 

 

 

한국 법규의 한계: 플랫폼 규제의 미흡

업계는 정보통신망법부터 오는 22일 시행되는 AI기본법까지, 한국 법안은 딥페이크 등 AI 기반 유해 콘텐츠를 개인 이용자 중심으로 규제한다고 입을 모은다. 즉 딥페이크 제작·유포에 대한 처벌을 이용자 책임 중심으로 처벌해, 플랫폼 자체의 딥페이크 생성 가이드라인에 대한 규제가 미흡하단 지적이다. 이로써 플랫폼 규제를 강화해 근본적인 ‘생성’의 단계를 차단해야 한단 업계의 평가가 나온다.

플랫폼 규제의 중요성: EU의 사례

한 업계 관계자는 “AI기본법을 포함한 한국 법은 개인 이용자가 만든 불법 딥페이크 유포·소지·시청은 처벌하나 플랫폼이 어떤 내부 생성 가이드라인을 따르는지 사전 규제할 장치가 없다”며 “EU 국가들은 디지털서비스법(DSA) 등에 따라 플랫폼의 내부 정책·가이드라인·알고리즘을 사전 통제할 법적 근거가 있어, 빠른 조사가 가능한 것”이라고 설명했다.

핵심만 콕!

AI 챗봇 '그록'의 딥페이크 생성 논란으로 인해 인도네시아를 시작으로 각국 정부가 서비스 차단 및 규제에 나섰지만, 한국은 관련 법규의 미비로 인해 규제 사각지대에 놓여 있다는 내용입니다. 플랫폼 규제를 강화하여 딥페이크 생성 자체를 차단해야 한다는 업계의 목소리가 높습니다.

독자들의 Q&A

Q.그록 딥페이크 논란의 핵심은 무엇인가요?

A.실존 인물의 사진을 성적으로 변형하는 딥페이크 이미지를 생성하고, 특히 미성년자 사진까지 변형이 가능하다는 점이 가장 큰 문제로 지적되고 있습니다.

 

Q.한국은 왜 그록 딥페이크에 대한 규제가 미흡한가요?

A.현행 법규가 딥페이크 제작 및 유포에 대한 처벌을 개인 이용자 중심으로 하고, 플랫폼 자체의 딥페이크 생성 가이드라인에 대한 규제가 미흡하기 때문입니다.

 

Q.앞으로 한국에서는 어떤 조치가 필요할까요?

A.플랫폼 규제를 강화하여 딥페이크 생성 자체를 차단할 수 있도록 법적 근거를 마련하고, EU와 같이 플랫폼의 내부 정책 및 알고리즘을 사전 통제할 수 있는 시스템을 구축해야 합니다.