TechCrunch AI

Grok 아동 성착취물 생성 논란, xAI 집단소송 확산

테크 프레스2026년 8월 16일

한마디로

의붓아버지가 Grok로 11살 때 사진을 조작해 7000장 넘는 성착취물을 만들었다는 여성의 증언이 xAI 소송에 추가됐어요

무슨 내용인가

테네시주 10대 3명이 제기한 xAI 상대 소송에 Jane Doe 4로 불리는 한 여성이 새로 합류했습니다. 워싱턴포스트 보도에 따르면 이 여성은 의붓아버지가 Grok를 이용해 자신이 11살 때 찍힌 사진을 조작해 7000장이 넘는 성적 이미지를 만들었다고 주장했어요. 법 집행기관 압수수색으로 이 이미지들이 드러난 지 이틀 뒤 의붓아버지는 스스로 목숨을 끊은 채 발견됐다고 합니다. 소송을 제기한 10대들은 xAI가 Grok이 미성년자를 포함한 실존 인물의 성적 이미지를 생성하는 데 악용되지 않도록 기본적인 안전장치를 마련하지 않았다고 주장하며 집단소송 지위를 요구하고 있습니다.

에디터 노트 | FactStack

7000장이라는 숫자와 의붓아버지의 자살이라는 결말이 이 소송을 단순한 정책 실패 사례가 아니라 형사적 방조 논란으로 끌어올립니다. 실무자 입장에서 봐야 할 지점은 필터링 기술의 정교함이 아니라 출시 전 red-teaming과 안전장치 검증을 얼마나 문서화했는지예요. 소송에서 핵심 쟁점은 결국 '기본적인 안전장치조차 없었다'는 주장이고, 이는 나중에 과실 여부를 가르는 결정적 증거가 됩니다. AX 프로젝트를 설계하는 조직이라면 생성형 AI 도입 시 안전성 검토 프로세스와 그 기록을 남기는 작업을 법무팀과 함께 처음부터 설계해야 하는 이유가 여기 있습니다.

실무 시사점

생성형 AI 이미지 도구의 안전장치 부재가 실제 아동학대 피해로 이어질 수 있다는 점에서 AI 서비스 제공사의 콘텐츠 필터링과 법적 책임 리스크가 커지고 있음을 시사합니다

Grok 아동 성착취물 생성 논란, xAI 집단소송 확산

무슨 내용인가

실무 시사점

태그

관련 글