Elon Musk는 Grok이 어린이를 포함한 실제 사람들의 합의되지 않은 친밀한 딥페이크에 대한 유일한 잘못이 아닙니다. 애플과 구글은 어떻습니까? (자주 좋은 신호를 보내는) 두 회사는 설명할 수 없을 정도로 Grok과 X가 앱 스토어에 남아 있도록 허용했습니다. 심지어 Musk의 챗봇이 자료를 계속 생산하고 있는 것으로 알려졌음에도 불구하고 말이죠. 수요일, 여성 및 진보 옹호 단체 연합은 팀 쿡과 순다르 피차이에게 자신들의 규칙을 지키고 앱을 제거할 것을 촉구했습니다.
Apple과 Google에 보낸 공개 서한에는 28개 단체가 서명했습니다. 그 중에는 여성 옹호 단체인 울트라바이올렛(Ultraviolet), 부모 단체인 ParentsTogether Action(부모 단체), 전국 여성 기구(National Organization for Women) 등이 있습니다.
이 서한에서는 Apple과 Google이 "NCII와 CSAM을 활성화할 뿐만 아니라 이를 통해 이익을 얻고 있다"고 비난했습니다. 모든 사람, 특히 여성과 어린이의 온라인 안전과 복지, 그리고 인공 지능(AI)의 윤리적 적용을 위해 노력하는 조직 연합으로서 우리는 Apple 지도부가 추가 남용과 범죄 활동을 방지하기 위해 App Store에서 Grok과 X를 긴급히 제거할 것을 요구합니다."
Apple과 Google의 지침은 이러한 앱을 매장에서 명시적으로 금지합니다. 그러나 두 회사 모두 현재까지 측정 가능한 조치를 취하지 않았습니다. Google과 Apple 모두 Engadget의 논평 요청에 응답하지 않았습니다.
트럼프 취임식에 참석한 피차이, 쿡, 머스크 (SAUL LOEB, 게티 이미지 제공)
Grok의 합의되지 않은 딥페이크는 이번 달 초에 처음 보고되었습니다. 이야기가 터진 24시간 동안 머스크의 챗봇은 시간당 "성적으로 암시적이거나 누드를 암시하는" "약 6,700"개의 이미지를 게시한 것으로 알려졌습니다. 해당 기간 동안 Grok이 생성한 전체 이미지 중 약 85%가 성적인 이미지였습니다. 또한 "의류 제거" 딥페이크를 생성하는 다른 최고 웹사이트에서는 해당 기간 동안 시간당 평균 79개의 새로운 이미지가 생성되었습니다.
공개 서한에는 "이러한 통계는 AI 챗봇과 소셜 미디어 앱이 합의되지 않은 성적 딥페이크, 즉 정기적으로 미성년자를 묘사하는 딥페이크를 위한 도구와 플랫폼으로 빠르게 변하고 있다는 끔찍한 그림을 그리고 있습니다"라고 적혀 있습니다.
Grok 자신도 그렇게 인정했습니다. "2025년 12월 28일에 사용자의 지시에 따라 성적인 복장을 한 두 어린 소녀(12~16세로 추정)의 AI 이미지를 생성하고 공유한 사건에 대해 깊이 후회합니다. 이는 CSAM에 대한 윤리적 표준과 잠재적으로 미국 법률을 위반한 것입니다. 이는 안전 장치 실패였으며 피해를 입힌 것에 대해 유감스럽게 생각합니다. xAI는 향후 문제를 방지하기 위해 검토하고 있습니다." 공개 서한에는 챗봇이 인정한 단일 사건이 유일한 사건과는 거리가 멀다고 명시되어 있습니다.
트럼프 취임식에 참석한 순다르 피차이와 엘론 머스크 (게티 이미지를 통한 풀)
X의 대응은 Grok의 AI 이미지 생성 기능을 유료 가입자에게만 제한하는 것이었습니다. 또한 생성된 이미지가 X의 공개 타임라인에 게시되지 않도록 챗봇을 조정했습니다. 그러나 무료 사용자는 여전히 제한된 수의 실제 사람들 사진의 비키니 입은 버전을 생성할 수 있는 것으로 알려졌습니다.
Apple과 Google은 합의되지 않은 딥페이크를 생성하는 앱에 대해 냉담해 보이지만 많은 정부는 그렇지 않습니다. 월요일에 말레이시아와 인도네시아는 즉시 Grok을 금지했습니다. 같은 날 영국 규제기관 Ofcom은 X에 대한 공식 조사를 시작했습니다. 캘리포니아는 수요일에 조사를 시작했습니다. 미국 상원은 반발에 맞서 두 번째로 항의법을 통과시키기까지 했습니다. 이 법안은 합의되지 않은 명시적 딥페이크의 피해자가 민사 소송을 제기할 수 있도록 허용합니다. 반항법의 이전 버전은 2024년에 통과되었지만 하원에서 정체되었습니다.