X가 소셜 플랫폼에서 합의되지 않은 디지털 방식으로 옷을 입지 않은 이미지를 생성하는 Grok의 기능을 제거했지만 독립형 Grok 앱은 또 다른 이야기입니다. 이 회사는 실제 인물의 "누드화" 딥페이크를 계속 생산하고 있는 것으로 알려졌습니다. 그리고 이제 보수적인 정치 전략가이자 Elon Musk의 14명의 자녀 중 한 명의 어머니인 Ashley St. Clair는 Grok이 제작한 것으로 추정되는 자신의 비합의적인 성적 이미지에 대해 xAI를 고소했습니다.
법원에 제출된 서류에서 세인트 클레어는 xAI의 그록(Grok) 챗봇이 자신이 "끈 비키니를 입은 어린 시절, 성적으로 노골적인 자세를 취한 성인, 정액으로 덮여 있거나 비키니 치실만 착용한" 자신의 딥페이크를 생성하고 유포했다고 비난했습니다. 어떤 경우에는 챗봇이 세인트 클레어의 14세 사진을 바탕으로 비키니 입은 딥페이크를 제작한 것으로 알려졌습니다. "사람들은 어렸을 때 사진을 찍고 옷을 벗겼습니다. 옷을 벗고 몸을 구부린 곳도 있고, 배경에는 지금 아이가 메고 있는 배낭이 있습니다."라고 그녀는 말했습니다.
세인트 클레어는 “여성에게 타박상을 입히고, 구타하고, 묶고, 절단하는 이미지도 보고 있다”고 말했다. 가디언. "이 병신들은 인터넷의 어두운 깊숙한 곳으로 가야 했고 이제는 주류 소셜 미디어 앱에 있습니다."
세인트 클레어는 X에 이미지를 신고한 후 소셜 플랫폼에서 해당 콘텐츠가 어떤 정책도 위반하지 않았다고 답했다고 말했습니다. 또한 그녀는 X가 신고한 후 최대 7일 동안 해당 이미지를 게시했다고 주장합니다. St. Clair는 xAI가 그녀에 대해 더 많은 디지털 방식으로 옷을 벗은 딥페이크를 만들어 보복하여 "(St. Clair)를 소셜 미디어 플랫폼의 웃음거리로 만들었다"고 말했습니다.
그녀는 회사가 X 프리미엄 구독, 확인 표시 및 플랫폼에서 콘텐츠로 수익을 창출하는 기능을 취소했다고 비난했습니다. "xAI는 (그녀가) 프리미엄을 재구매하는 것을 더욱 금지했습니다"라고 St. Clair 법원 서류에는 명시되어 있습니다.
수요일에 X는 Grok이 "불법인 관할권에서" 더 이상 어린이의 성적인 이미지나 합의되지 않은 과도한 노출을 생성하지 않도록 정책을 변경했다고 말했습니다. 그러나 독립 실행형 Grok 앱은 메시지가 표시되면 계속해서 사진을 벗고 성적으로 묘사하는 것으로 알려졌습니다.
Apple이나 Google은 명시적인 정책 위반에도 불구하고 Grok 앱을 제거하지 않았습니다. (게티 이미지를 통한 Anna Moneymaker)
애플과 구글은 지금까지 아무것도 하지 않았습니다. 딥페이크에 대한 여러 주간의 분노와 28개 옹호 단체의 공개 서한에도 불구하고 두 회사 모두 앱 스토어에서 X 또는 Grok 앱을 제거하지 않았습니다. App Store와 Play Store에는 이러한 콘텐츠를 생성하는 앱을 명시적으로 금지하는 정책이 있습니다.
Apple이나 Google 모두 Engadget의 여러 의견 요청에 응답하지 않았습니다. 여기에는 Grok 앱이 실제 여성과 다른 사람들의 사진을 계속해서 "나체화"하는 것과 관련하여 금요일에 보낸 후속 이메일이 포함됩니다.
Apple과 Google은 아무런 조치도 취하지 않는 반면, 많은 정부는 그 반대의 조치를 취했습니다. 월요일 말레이시아와 인도네시아는 Grok를 금지했습니다. 같은 날 영국 규제기관 Ofcom은 X에 대한 공식 조사를 시작했습니다. 캘리포니아는 수요일에 조사를 시작했습니다. 미국 상원은 반발에 맞서 두 번째로 항의법을 통과시키기까지 했습니다.
“당신이 여성이라면 사진을 게시할 수도 없고 말을 할 수도 없습니다. 그렇지 않으면 이러한 학대의 위험이 있습니다.”라고 St. Clair는 말했습니다. 가디언. "위험합니다. 저는 이것이 의도된 것이라고 믿습니다. AI 인류와 생각을 제공해야 하며 특히 여성에게 영향을 미치는 일을 하고 여성이 표적이 되기 때문에 참여를 원하지 않는다면 이는 AI가 본질적으로 편견을 갖게 될 것임을 의미합니다."
머스크와 그의 팀에 대해 그녀는 "이 사람들은 자신들이 법 위에 있다고 믿습니다. 왜냐하면 그들은 그렇기 때문입니다. 그들은 문제에 빠질 것이라고 생각하지 않고 아무런 결과도 없다고 생각합니다."라고 덧붙였습니다.