Ofcom은 CSAM에 "AI 생성 이미지, 딥페이크 및 기타 조작된 미디어"가 포함되어 있으며 "'의사 사진' 범주에 속할 수 있다"고 지적했습니다. Ofcom은 설명했듯이 "의사 사진을 통해 전달된 인상이 표시된 사람이 어린이라는 인상을 준다면 해당 사진은 어린이를 보여주는 것으로 취급되어야 합니다."라고 밝혔습니다.
마찬가지로, 딥페이크와 같은 조작된 이미지와 비디오도 은밀한 이미지 남용의 범위 내에서 고려되어야 한다고 Ofcom은 말했습니다. 실제 사람이 공개적으로 게시하기를 원하지 않는 "은밀한 상황을 묘사하는 것처럼 보이는 모든 사진이나 비디오"는 "그러한 상황을 실제로 묘사하는 사진이나 비디오로 간주되어야 합니다."
일부 Grok 팬들은 사람들의 옷을 벗기고 헐렁한 비키니나 속옷을 입혀주는 챗봇의 결과물이 남용이 아니라고 생각합니다. 그러나 영국 법에서는 개인의 '성기, 엉덩이 또는 가슴'이 '속옷으로만 가려져 있는' 이미지 또는 '젖거나 투명한 옷으로만 가려져 있는' 이미지가 '내밀한 상황'에 해당할 수 있다고 자세히 설명합니다.
Ofcom이 결정을 내리는 데 얼마나 오랜 시간이 걸릴지는 확실하지 않지만 규제 당국은 긴급하게 개입했습니다. 그리고 이 스캔들에 충격을 받은 영국 관리들은 영국인들이 Grok의 최악의 결과물의 표적이 되지 않도록 보호하기 위해 신속하게 움직이고 있음을 확인했습니다.
Ofcom은 검열에 대한 Musk의 발언을 직접 언급하지 않지만, 규제 기관은 발표에서 방어적인 입장을 취합니다. 즉, X가 무엇이 불법 콘텐츠인지, 무엇이 제거되어야 하는지를 결정하는 책임자가 될 것이라고 지적함으로써 X의 주장에 맞서 싸울 준비를 하고 있는 것 같습니다.
Ofcom은 "콘텐츠가 영국 법률을 위반하는지 여부를 결정하는 법적 책임은 플랫폼에 있으며 이러한 결정을 내릴 때 불법 콘텐츠 판단 지침을 사용할 수 있습니다"라고 말했습니다. "Ofcom은 검열 기관이 아닙니다. 우리는 플랫폼에 어떤 특정 게시물이나 계정을 삭제해야 하는지 알려주지 않습니다."