기술 투명성 프로젝트(TTP)라는 온라인 옹호 단체의 최근 조사에 따르면 Apple App Store와 Google Play Store가 . 이는 합의되지 않은, 성적인 이미지를 생성하는 AI 애플리케이션으로, 이는 양사의 매장 정책에 대한 명백한 위반입니다.
조사 결과 이러한 유형의 앱은 Google Play 스토어에서 55개, Apple App Store에서 47개 발견되었습니다. 두 플랫폼 모두 여전히 세계에서 가장 유명한 xAI의 Grok에 대한 액세스를 제공합니다.
TTP를 운영하는 비영리단체의 전무이사인 미셸 쿠퍼스미스(Michelle Kuppersmith)는 "애플과 구글은 자신들의 매장에서 앱을 조사할 예정이지만 옷을 거의 입지 않거나 전혀 입지 않은 사람들에게 보여주기 위해 사용할 수 있는 수십 개의 앱을 제공하고 있다"고 말했다.
보고서에서 확인된 앱은 총 7억 회 이상 다운로드되었으며 1억 1,700만 달러 이상의 수익을 창출했습니다. 구글과 애플은 이 돈을 삭감한다.
조사에서 언급된 앱 중 상당수는 청소년과 어린이에게 적합한 것으로 평가되었습니다. 예를 들어 DreamFace는 Google Play Store에서 13세 이상, Apple App Store에서 9세 이상에게 적합한 것으로 평가되었습니다.
두 회사 모두 조사에 응답했습니다. 애플은 자사 스토어에서 24개의 앱을 삭제했다고 밝혔습니다. . 그러나 이는 TTP 연구원이 발견한 47개 앱에 미치지 못하는 수치입니다. 구글 대변인은 회사가 스토어 정책 위반으로 보고서에 언급된 여러 앱을 정지했다고 말했지만 얼마나 많은 앱을 제거했는지는 밝히지 않았습니다.
이 보고서는 Elon Musk의 Grok이 두 가지 모두에 대한 성적인 이미지를 생성한 것으로 밝혀진 후에 나왔습니다. 전체적으로 AI 챗봇은 약 300만 개의 성적인 이미지와 22,000개의 어린이 관련 이미지를 생성했습니다.
회사 관계자는 "레거시 미디어 거짓말"이라는 문구를 보내는 것 외에는 이러한 주장에 실제로 응답하지 않았습니다. Musk는 또한 "Grok이 생성한 미성년자 나체 이미지를 인식하지 못합니다. 문자 그대로 0입니다."라고 밝혔습니다.
X의 안전 계정은 "Grok을 사용하거나 불법 콘텐츠를 만들도록 유도하는 사람은 누구나 불법 콘텐츠를 업로드하는 것과 동일한 결과를 겪게 될 것입니다." Grok은 챗봇이 미성년자의 성적인 이미지를 생성한 것에 대해 사과하면서 회사의 실제 인간보다 더 적극적인 것으로 입증되었습니다.