말레이시아는 Elon Musk의 Grok 챗봇을 차단한 세계 최초의 국가 중 하나가 되었으며 이제 금지 조치를 해제했습니다. 인도네시아는 여성과 어린이를 포함한 사람들의 딥페이크 성적인 이미지를 생성하는 데 사용되는 여러 사례가 등장한 후 이달 초 자주 논란이 되고 있는 X의 AI 챗봇으로 일시적으로 신속하게 전환했습니다.
당시 말레이시아 통신 및 멀티미디어 위원회(MCMC)는 X Corp과 모회사 xAI가 위의 성격의 오용에 대해 필요한 보호 조치를 시행했음을 입증할 때까지 제한이 유지될 것이라고 밝혔습니다.
말레이시아 당국은 MCMC가 머스크 회사가 필요한 안전 조치를 이행했다는 사실에 만족한다는 확인서를 발표한 후 X의 말을 그대로 받아들이는 것으로 보입니다. 당국은 소셜 미디어 플랫폼을 계속 모니터링할 것이며, 추가적인 사용자 안전 위반이나 말레이시아 법률 위반이 있을 경우 단호하게 처리할 것이라고 덧붙였습니다.
이 글을 쓰는 시점에는 말레이시아와 인도네시아만이 Grok을 공식적인 금지 조치로 공격했지만, 영국 규제 기관인 Ofcom은 합의되지 않은 성적 딥페이크 스캔들 이후 국가의 온라인 안전법에 따라 X에 공식적으로 공개했습니다. X는 이후 이미지 편집 정책을 갖고 있으며, 1월 14일 회사는 Grok이 "비키니와 같은 노출 의류에서 실제 인물의 이미지 편집"을 더 이상 허용하지 않을 것이라고 말했습니다.
이번 주 초, 영국에 본사를 둔 비영리 단체인 CCDH(Center for Countering Digital Hate)는 12월 29일부터 1월 9일까지 11일 동안 약 300만 개의 성적인 이미지를 생성했으며 그 중 약 23,000개가 어린이 이미지였습니다.