Elon Musk의 xAI는 최근 Grok AI 봇의 이미지 생성을 위한 콘텐츠 가드 레일을 약화시켰습니다. 이로 인해 X에서 합의되지 않은 성적 이미지가 새롭게 등장하게 되었으며, 그 중 대부분은 플랫폼에서 여성을 침묵시키는 것을 목표로 했습니다. 이는 보다 규정을 준수하는 Grok에서 어린이의 성적인 이미지를 생성하는 것과 함께 규제 당국이 xAI 조사를 시작하게 만들었습니다. 그동안 Google에서는 이러한 만일의 사태에 대비한 규칙을 마련해 두었지만 이를 시행하지는 않습니다.
Grok이 어제 금지되어야 했다는 것은 Google의 공개 정책에서 이보다 더 명확할 수 없습니다. 그럼에도 불구하고 Play 스토어에는 남아 있습니다. 그뿐만 아니라 M 등급 X 앱보다 한 단계 낮은 청소년용 T 등급을 받았습니다. Apple은 여전히 플랫폼에서 Grok 앱을 제공하지만 규칙에 따라 실제로는 더 많은 변동 여지가 있습니다.
Apple과 Google의 앱 콘텐츠 제한은 매우 다른 방식으로 발전해 왔습니다. 처음부터 Apple은 변덕스럽게 앱을 제거하는 경향이 있었기 때문에 개발자는 Apple의 지침이 가능한 모든 상황을 언급하지 않을 수도 있다고 기대하게 되었습니다. Google은 자유방임주의 태도에서 Play 스토어에 대한 보다 엄격한 통제로 전환함에 따라 콘텐츠 정책에 대한 명확한 설명을 점차 늘려 왔습니다. 결과적으로 Google의 규칙은 불확실한 용어 없이 명시되어 있으며 Grok은 이를 위반합니다.
Google에는 Play 스토어에 대한 '부적절한 콘텐츠' 정책을 해석하는 방법을 설명하는 전용 지원 페이지가 있습니다. Apple과 마찬가지로 이 규칙은 음란물을 포함하되 이에 국한되지 않는 성적인 콘텐츠를 포함하거나 홍보하는 앱을 금지하는 것으로 시작됩니다. Apple은 여기서 멈추지만 Google은 계속해서 규칙에 어긋나는 것으로 간주하는 더 많은 유형의 콘텐츠와 경험을 나열합니다.
“우리는 성적으로 약탈적인 행위와 관련된 콘텐츠를 포함하거나 홍보하는 앱을 허용하지 않습니다. 또는 동의하지 않은 성적인 콘텐츠를 배포합니다.," Play 스토어 정책에 나와 있습니다(강조). 따라서 정책은 Grok과 같은 앱을 목표로 하고 있지만 이 줄 자체는 "실제" 성적인 콘텐츠를 제공하는 앱에 초점을 맞춘 것으로 읽을 수 있습니다. 그러나 Google은 매우 철저하며 이 규칙이 AI에 적용된다는 점을 유용하게 설명했습니다.
신용: 구글
Google Play 스토어 정책에 최근 추가된 내용은 Grok과 같은 앱을 명시적으로 금지합니다.
신용: 구글
세부 정책에는 이 규칙을 위반하는 콘텐츠의 예가 포함되어 있습니다. 여기에는 음란하거나 모독적인 내용, 에스코트 서비스 및 불법적인 성적 주제가 포함되지 않습니다. 2020년과 2021년에 초보적인 '나체화' 앱이 쏟아진 후 Google은 이 페이지에 '사람의 옷을 벗긴다고 주장하는 앱'이 Google Play에서 허용되지 않음을 명확히 하는 문구를 추가했습니다. 2023년 AI 붐이 본격화되면서 구글은 “딥페이크나 유사 기술을 통해 생성된 합의되지 않은 성적인 콘텐츠”가 포함된 앱도 제거할 것이라는 점을 언급하는 또 다른 문구를 추가했습니다.