캘리포니아 법무장관 Rob Bonta는 Grok이 합의되지 않은 보고서를 생성했다는 보고에 대해 그의 사무실이 회사에 대한 공식 조사를 시작한 지 며칠 후 xAI에 중단 서한을 보냈습니다.
기억하시겠지만, xAI와 Grok은 실제 개인의 이미지를 촬영하고 무작위 사용자의 요청에 따라 비키니와 같은 노출이 심한 옷을 입혀 비난을 받았습니다.
Bonta 사무실은 묘사된 개인이 동의하지 않거나 해당 개인이 미성년자인 경우 xAI가 "디지털화된 성적으로 노골적인 자료" 생성을 즉시 중단하고 중단할 것을 요구합니다. 또한 xAI가 동의하지 않는 개인과 18세 미만의 "디지털화된 성적으로 노골적인 자료의 생성 또는 출판을 촉진하거나 돕거나 방조"하는 것을 중단할 것을 요구했습니다.
X는 문제가 발생한 후 정책을 변경하여 Grok 계정이 실제 인물의 이미지를 편집하여 옷을 노출시키는 것을 방지했습니다. xAI는 또한 Grok의 이미지 생성 기능을 유료 벽 뒤로 옮기고 유료 사용자의 실제 인물 이미지를 비키니로 편집하는 기능을 지역적으로 차단했지만 이는 불법인 지역에서만 가능합니다.
Bonta는 발표에서 xAI가 Grok을 위한 "매운 모드"를 개발하여 노골적인 콘텐츠를 생성하고 이를 마케팅 포인트로 사용했다고 밝혔습니다. California AG는 또한 Grok이 생성한 성적인 이미지가 공인과 일반 사용자 모두를 괴롭히는 데 사용되고 있다고 말했습니다. Bonta의 발표는 “가장 놀라운 것은 뉴스 보도에 Grok을 사용하여 최소한의 복장과 성적인 상황에서 어린이를 묘사하기 위해 어린이의 이미지를 변경하는 내용이 나와 있다는 것입니다.”라고 밝혔습니다.
“위의 행위는 캘리포니아 민법 1708.86조, 캘리포니아 형법 311조 이하 및 647(j)(4)조, 캘리포니아 사업 및 직업법 17200조를 포함하여 캘리포니아 법률을 위반하는 것입니다.”라고 밝혔습니다. 주 법무부는 이제 앞으로 5일 이내에 이러한 문제를 해결하기 위해 취하고 있는 조치에 대해 xAI로부터 들을 것으로 기대하고 있습니다.