xAI 챗봇의 보호 장치가 효과적이지 않다는 우려로 인해 인도네시아와 말레이시아 사용자의 Grok 액세스가 차단되었습니다.
두 국가 모두 xAI가 규제 기관의 요구 사항을 준수하는 보호 조치를 구현할 때까지 일시적인 정지를 시행했습니다.
인도네시아 통신디지털부 장관 메우탸 하피드(Meutya Hafid)는 토요일 발표한 성명에서 "정부는 합의되지 않은 성적 딥페이크 행위를 디지털 공간에서 인권, 존엄성, 시민의 안전에 대한 심각한 침해로 간주한다"고 밝혔습니다. 인도네시아에는 "음란물"로 간주되는 콘텐츠를 규제하는 포괄적인 인터넷 검열법이 있습니다.
다음도 참조하세요:
Character.AI, 청소년 사망 관련 소송 해결
말레이시아는 최근 규제 당국이 취한 개입 조치의 일환으로 "X 플랫폼에서 인공 지능(AI) 도구의 오용"에 대한 조사를 시작했습니다. 이 조사는 X가 Grok의 오용 혐의에 대해 즉각적인 조치를 취하도록 지시하는 인도 IT 부처 통지에 이어 이루어졌습니다. 이 통지서는 국가의 정보 기술법 위반 가능성을 암시했습니다.
매쉬 가능한 광속
파리 검찰청의 프랑스 당국과 영국 및 EU 조사를 포함한 기타 외국 정부는 xAI의 기술과 관련 온라인 안전법에 따른 규제에 대해 유사한 조사를 발표했습니다. 호주 총리 앤서니 알바니스(Anthony Albanese)도 그록의 딥페이크 문제에 관한 성명을 발표해 16세 미만 사용자의 소셜 미디어를 금지하기로 한 국가의 결정을 재확인했습니다. 또한 미국에 본부를 둔 국립성착취센터(NCOSE)는 법무부와 연방거래위원회에 기존 아동 성적 학대 자료(CSAM) 법률과 최근 테이크 잇 다운법(Take It Down Act)에 따라 X를 조사할 것을 촉구했습니다.
영국 기술 장관 Liz Kendall은 최근 영국 통신국(Ofcom)이 플랫폼이 온라인 안전법을 위반한다고 결론을 내릴 경우 X를 완전히 차단하는 것을 지지하겠다고 말했습니다. Kendall은 앞으로 며칠 내에 결정이 내려질 것으로 예상한다고 말했습니다.
이전에 사용자가 X에 "불법 콘텐츠를 업로드"하면 결과에 직면해야 한다고 말한 Elon Musk는 금지 위협에 대해 영국 정부가 회사를 검열하는데 지나치게 열중하고 있다고 비난했습니다. 머스크는 X에 올린 글에서 "그들은 표현의 자유를 억압하고 싶을 뿐"이라고 썼다. Musk는 또한 Grok이 정부 관리들의 표적이 되고 있다고 주장하는 여러 X 게시물을 공유했습니다.
최근 Wired 조사에 따르면 Grok Imagine의 데스크톱 및 앱 버전은 내장된 보호 장치에도 불구하고 성적으로 폭력적이고 노골적인 자료, 성적인 시나리오에서 유명인의 묘사, 잠재적인 AI 생성 CSAM을 생성할 수 있는 것으로 나타났습니다. 챗봇은 공개적으로 업로드된 사진에서 동의 없이 개인의 옷을 벗겨달라고 Grok에게 요청하는 사용자의 요청을 포함하여 성적인 딥페이크를 생성한 기록이 잘 문서화되어 있습니다.
주제
사회복지X/트위터