Elon Musk의 AI 챗봇 Grok은 더 많은 보호를 제공한다고 주장하는 정책 변경을 발표했습니다. 적어도 X에서는 성적인 딥페이크. 새로운 정책은 캘리포니아가 이 문제에 대한 조사를 시작하고 영국이 금지를 위협하는 가운데 나온 것입니다.
Grok의 자매 사이트인 X의 X Safety 계정은 수요일 오후 6시(ET)/오후 3시(PT) 직전에 게시되었습니다. "우리는 Grok 계정에서 비키니 등 노출이 심한 옷을 입은 실제 인물의 이미지를 편집하는 것을 허용하지 못하도록 기술적 조치를 취했습니다." "이 제한사항은 유료 구독자를 포함한 모든 사용자에게 적용됩니다."
X 안전 업데이트는 또한 최근의 또 다른 변경 사항을 반복하기 전에 CSAM(아동 성적 학대 자료)과 합의되지 않은 과도한 노출을 심각하게 받아들인다고 밝혔습니다. X에서 Grok 계정을 통한 이미지 생성 및 편집은 이제 구독자로 제한됩니다.
X Safety 계정은 또한 이제 "모든 사용자가 Grok 계정을 통해 그리고 불법인 관할 구역의 Grok에서 X의 Grok을 통해 비키니, 속옷 및 유사한 복장을 입은 실제 인물의 이미지를 생성할 수 있는" 지역 차단 기능을 갖게 되었다고 발표했습니다.
이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.
Grok과 X는 사용자가 유도하고 AI가 생성한 유명인과 어린이의 성적인, 합의되지 않은 이미지가 X에서 급증함에 따라 새해에 정밀 조사의 물결에 직면했습니다. 캘리포니아 법무 장관 Rob Bonta는 Grok과 xAI 개발자에게 그러한 이미지를 제거하고 방지하기 위한 조치를 취할 것을 요구하면서 주민들의 안전을 지키기 위해 "우리가 사용할 수 있는 모든 도구"를 사용하겠다고 위협했습니다.
매쉬 가능한 광속
본타는 수요일 성명을 통해 “여성과 어린이의 누드와 성적으로 노골적인 상황을 묘사한 이 자료는 인터넷을 통해 사람들을 괴롭히는 데 사용됐다”고 밝혔다.
한편, xAI/X/Grok의 사장인 Elon Musk는 X Safety가 새로운 안전 업데이트를 발표한 날 사용자에게 "Grok 이미지 조정을 중단"하도록 권유하는 것처럼 보였습니다.
이 트윗은 현재 사용할 수 없습니다. 로드 중이거나 제거되었을 수 있습니다.
다음도 참조하세요:
Grok 금지: 합의되지 않은 성적 콘텐츠에 대한 AI 챗봇 차단을 고려하는 국가들
키어 스타머 영국 총리는 월요일 "X가 그록을 통제할 수 없다면 우리가 그렇게 할 것"이라며 머스크에 대한 조치를 취할 것이라고 위협했다. BBC 보고서에 따르면. 인도네시아와 말레이시아는 이미 이번 주말 Grok 액세스를 차단했습니다.
정치인들은 또한 Grok과 X를 표적으로 삼았고, 세 명의 상원의원은 Apple에 앱 스토어에서 해당 서비스를 제거할 것을 촉구했습니다. 해당 앱은 수요일 저녁 현재 Apple 앱 스토어에서 계속 사용할 수 있습니다.
BBC에 따르면 X의 최근 정책 변경은 X가 30년 된 미국 통신 품위법(Communications Decency Act)의 230항에 의해 보호되지 않는다는 회사 리더들의 인정을 반영한 것일 수 있다고 합니다. 230항은 사용자 생성 콘텐츠와 관련된 소송으로부터 기술 회사를 보호하지만, 앱 자체 기술로 생성된 이미지 및 기타 콘텐츠는 그러한 법적 면책의 영향을 덜 받을 수 있습니다.