그러나 골드버그는 “그런 일은 있을 수 없다”고 주장했다.
"Grok이 St. Clair의 이미지를 온라인에 유지하고 아마도 더 많은 이미지를 만들 것이라는 암묵적인 위협"에 직면하여 St. Clair는 Grok과 상호 작용하는 것 외에는 선택의 여지가 없었다고 Goldberg는 주장했습니다. Goldberg는 법원에 St. Clair의 xAI 계약을 무효화하고 xAI의 장소 변경 신청을 거부할 것을 요청하면서 이러한 촉구가 St. Clair가 자신의 소송에서 주장하려는 뉴욕 법률에 따른 보호를 무너뜨려서는 안 된다고 주장했습니다.
세인트 클레어가 뉴욕에서 소송을 유지하기 위한 싸움에서 승리한다면, 이 사건은 법적 소송을 고려하고 있지만 머스크가 선택한 법원에서 xAI를 직면할 것을 두려워하는 아마도 수백만 명의 다른 피해자들에게 선례를 세우는 데 도움이 될 수 있습니다.
Goldberg는 “세인트 클레어가 자신의 거주지에서 멀리 떨어진 주에서 소송을 제기할 것이라고 기대하는 것은 부당할 것이며, 텍사스에서의 재판이 너무 어렵고 불편해서 세인트 클레어가 사실상 법정에서 일할 수 없게 될 수도 있다”고 주장했습니다.
이번 주에 보고된 성적인 이미지의 추정량은 스캔들이 최고조에 달했을 때 Grok이 X가 매달 자사 플랫폼에서 발견하는 것보다 더 많은 아동 성적 학대 자료(CSAM)를 생성했을 수 있음을 시사하기 때문에 놀랍습니다.
2024년에 X Safety는 국립실종착취아동센터에 686,176건의 CSAM 사례를 신고했는데, 이는 매달 평균 약 57,000건의 CSAM 신고에 해당합니다. 11일 동안 어린이를 성적으로 대상화하는 Grok 출력에 대한 CCDH의 추정치 23,000개가 정확하다면, Grok을 확인하지 않은 채로 두면 월 평균 총계는 62,000개를 초과했을 수 있습니다.
NCMEC는 Grok의 CSAM 추정량이 X의 평균 CSAM 보고와 어떻게 비교되는지에 대해 논평해 달라는 Ars의 요청에 즉시 응답하지 않았습니다. 그러나 NCMEC는 이전에 Ars에게 "이미지가 실제인지 컴퓨터로 생성되었는지 여부에 관계없이 피해는 실제이며 자료는 불법"이라고 말했습니다. 이는 X가 유해한 Grok 게시물을 제거하더라도 "이미지는 여전히 별도의 URL을 통해 액세스할 수 있다"고 CCDH가 경고했기 때문에 Grok이 NCMEC 측의 가시로 남아 있을 수 있음을 시사하며 이는 Grok의 CSAM 및 기타 유해한 출력물이 계속 확산될 수 있음을 시사합니다. CCDH는 또한 X가 1월 15일 현재 삭제하지 않은 CSAM 혐의 사례도 발견했습니다.