영국의 미디어 규제 기관은 온라인 안전법에 따라 X에 대한 공식 조사를 시작했습니다. Ofcom은 "X의 Grok AI 챗봇 계정이 옷을 입지 않은 사람들의 이미지(은밀한 이미지 남용이나 음란물에 해당할 수 있음)를 만들고 공유하는 데 사용된다는 보고와 아동 성적 학대 자료(CSAM)에 해당할 수 있는 아동의 성적인 이미지에 대해 매우 우려스러운 보고가 있었습니다."라고 Ofcom은 말했습니다.
조사는 X가 "영국에서 불법인 콘텐츠로부터 영국 국민을 보호하는 의무를 준수했는지"에 초점을 맞출 것입니다. 여기에는 X가 영국 사용자가 CSAM 및 합의되지 않은 친밀한 이미지와 같은 "우선" 불법 콘텐츠를 보지 못하도록 적절한 조치를 취하고 있는지 여부가 포함됩니다. 플랫폼이 불법 콘텐츠를 인지한 후 신속하게 제거하는 경우 X가 플랫폼에 "중요한 변경"을 하기 전에 업데이트된 위험 평가를 수행했는지 여부. 또한 조사에서는 X가 플랫폼이 영국 어린이에게 미치는 위험을 평가했는지 여부와 "영국 어린이가 포르노를 보지 않도록 보호하기 위한 매우 효과적인 연령 보장"이 있는지 여부도 고려할 것입니다.
규제 당국은 1월 5일 X에 연락했고 1월 9일 마감일까지 답변을 받았다고 말했습니다. Ofcom은 "긴급한 문제로 이용 가능한 증거에 대한 신속한 평가"를 수행하고 있으며 xAI가 영국 사용자를 보호하기 위해 취하고 있는 조치에 대해 "긴급 설명"을 요청했다고 덧붙였습니다.
Ofcom 대변인은 "Grok이 X에서 불법적이고 합의되지 않은 은밀한 이미지와 아동 성적 학대 자료를 생성하고 공유하는 데 사용되었다는 보고는 매우 우려스럽다"고 말했습니다. "플랫폼은 영국에서 불법인 콘텐츠로부터 영국 국민을 보호해야 하며, 기업이 의무를 이행하지 않고 있다고 의심되는 부분, 특히 어린이에게 해를 끼칠 위험이 있는 경우 조사를 주저하지 않을 것입니다. 우리는 적법 절차를 따르면서 이 조사를 최우선적으로 진행할 것입니다. 영국의 독립적인 온라인 안전 집행 기관으로서 우리 조사가 법적으로 강력하고 공정하게 결정되는지 확인하는 것이 중요합니다."
Ofcom은 회사가 법을 위반했다고 판단하는 경우 "플랫폼이 규정을 준수하거나 위반으로 인한 피해를 구제하기 위해 특정 조치를 취하도록 요구할 수 있습니다." 규제 당국은 추가로 최대 1,800만 파운드(2,430만 달러) 또는 "적격" 전 세계 수익의 10% 중 더 높은 금액의 벌금을 부과할 수 있습니다. 또한 결제 제공업체나 광고주가 플랫폼과 협력하는 것을 중단하거나 인터넷 서비스 제공업체에 영국 내 사이트를 차단하도록 요구하는 법원 명령을 구할 수도 있습니다. 영국 정부는 Ofcom이 X에 대해 취하는 모든 조치를 지지할 것이라고 밝혔습니다.
주말 동안의 보도에 따르면 영국은 Grok이 생성한 딥페이크에 대한 조율된 대응에 관해 동맹국들과 논의를 가졌다고 합니다. 인도와 유럽 연합을 포함한 다른 지역의 규제 당국도 X를 조사하고 있습니다.
지난 주, X의 Grok 계정은 이미지 생성 및 편집 도구가 유료 가입자에게만 제한되어 있다고 사용자에게 알리기 시작했습니다. 그러나 월요일부터 무료 사용자도 X 웹사이트와 앱의 Grok 탭을 통해 이미지를 생성할 수 있었습니다.
한편, 말레이시아와 인도네시아는 X의 챗봇이 X에서 AI로 생성된 노골적인 AI 생성 딥페이크가 X에서 생성 및 유포되는 것을 방지할 충분한 보호 장치가 없다고 주장하면서 Grok을 차단한 최초의 국가가 되었습니다. 인도네시아는 일요일 말레이시아와 마찬가지로 토요일에 Grok에 대한 액세스를 일시적으로 차단했습니다. AP 통신 보고서.
메우트야 하피드(Meutya Hafid) 인도네시아 통신디지털부 장관은 성명을 통해 "정부는 합의되지 않은 성적 딥페이크를 디지털 공간에서 시민의 인권, 존엄성, 안전에 대한 심각한 침해로 보고 있다"고 밝혔다. 인도네시아 관계자는 초기 연구 결과에 따르면 Grok에는 사용자가 인도네시아 주민의 사진을 기반으로 성적으로 노골적인 딥페이크를 만들고 공유하는 것을 방지하는 효과적인 통제가 부족한 것으로 나타났습니다. 중국의 디지털 공간 감독 국장인 알렉산더 사바르(Alexander Sabar)는 동의 없이 사진을 공유하거나 조작할 경우 딥페이크를 생성하는 것은 개인의 이미지 및 개인정보 보호 권리를 침해할 수 있으며 평판, 사회적, 심리적 해를 끼칠 수 있다고 덧붙였습니다.
말레이시아 통신 및 멀티미디어 위원회는 Grok의 "반복적인 오용"이 노골적이고 합의되지 않은 딥페이크를 생성했으며 그 중 일부에는 여성과 어린이가 포함되었다고 언급했습니다. 규제 당국은 X Corp과 모회사 xAI가 충분히 강력한 안전 장치를 마련할 때까지 Grok이 국내에서 차단된 상태를 유지할 것이라고 말했습니다.