X의 패브릭에 통합된 Elon Musk 지원 AI 챗봇인 Grok은 유료 구독자에게 이미지 생성 및 편집 도구를 차단하기 시작했습니다. 이러한 변화는 합의되지 않은 성적인 이미지를 생성하는 도구의 능력에 대한 비판의 물결에 따른 것입니다. 이러한 제한은 분명히 논란의 흐름을 막기 위한 시도이지만, 규제 기관, 옹호 단체, 사용자 모두는 여성과 어린이가 관련된 유해하고 잠재적으로 불법적인 콘텐츠의 생성을 막는 데 거의 도움이 되지 않는다고 주장합니다.
그러나 이러한 움직임은 "누설된" 해결책으로 널리 조롱되었습니다. X의 일반 사용자는 차단될 수 있지만 생성 도구는 Grok의 독립형 웹 사이트 및 모바일 앱을 통해 완전히 무료로 액세스할 수 있습니다. 이 허점은 오용에 대해 확고한 입장을 취하고 있다는 플랫폼의 주장을 효과적으로 약화시켜 가장 위험한 도구를 여전히 일반 대중이 접근할 수 있는 상태로 남겨둡니다.
안전 연구원과 디지털 감시자는 신용 카드 요구 사항이 문제를 해결한다고 확신하지 않습니다. 실제로 많은 사람들은 이것이 실제로 학대로 인해 수익을 창출한다고 주장합니다. 딥페이크 연구원 Genevieve Oh에 따르면 Grok은 페이월이 활성화된 후에도 매시간 1,500개가 넘는 유해 이미지를 계속해서 쏟아내고 있었습니다. 이는 전체 공개 이미지 출력의 약 60%에 해당합니다. Oh의 데이터에 따르면 Grok은 현재 가장 악명 높은 "누드화" 전용 웹사이트조차 압도하는 속도로 성적인 콘텐츠를 생성하고 있습니다.
민주당 상원의원인 Ron Wyden, Edward J. Markey, Ben Ray Luján은 최근 Apple과 Google의 CEO에게 각각의 앱 스토어에서 X를 삭제할 것을 요구하는 서한을 보냈습니다. 상원 의원들은 X가 이러한 도구를 지속하도록 허용함으로써 다른 모든 앱 개발자가 따라야 하는 안전 규칙을 "완전히 무시"하는 것이라고 주장했습니다.
국제적 압력도 끓어오르고 있다. 영국과 인도 관리들은 페이월이 부적절한 대응이라고 비난했습니다. 영국 총리 대변인은 이러한 움직임이 피해자들에 대한 “모욕”이라고 설명하면서 X가 단순히 안전 위기를 프리미엄 수익원으로 전환하고 있음을 시사했습니다. 피해자들도 비슷한 이야기를 공유했습니다. 캠페인가인 Jess Davies는 Grok이 예상되는 제한에도 불구하고 금요일 아침에 독립형 앱을 통해 자신의 사진을 디지털 방식으로 "옷을 벗을" 수 있었다고 보고했습니다.
Sensor Tower의 추정에 따르면 X의 모바일 인앱 구매 수익은 목요일에만 18% 급증했습니다. 이러한 급증은 앱의 일반적인 일일 성장을 훨씬 초과하며, 이는 Grok의 "매운 모드"에 액세스하려는 노력이 실제로 어려움을 겪고 있는 X의 수익에 도움이 될 수 있음을 시사합니다.
법률 전문가들은 이러한 미흡한 조치가 법정에서 오래 지속되지 않을 것이라고 경고합니다. 노스캐롤라이나주 법무장관 제프 잭슨(Jeff Jackson)은 Grok 상황을 AI 안전의 "전환점"으로 지정하면서 이러한 시스템이 얼마나 쉽게 무기화될 수 있는지 언급했습니다. 그는 “빨리 움직여 물건을 부수는” 시대가 민간인의 존엄과 안전에 있어서 벽에 부딪히고 있다고 주장했다.
벽이 가까워짐에 따라 X는 엄연한 선택에 직면해 있습니다. 정품 하드 코딩된 기술 가드레일을 구현하거나 주요 앱 스토어 및 국제 시장에서 완전한 정전에 직면하게 됩니다. Elon Musk가 단순히 소프트웨어에 대한 액세스 권한이 아닌 소프트웨어 자체를 강화하기로 선택하는지 여부에 따라 Grok이 합법적인 도구로서 미래를 가질지 아니면 생성 AI 시대의 버림받은 사람이 될지 여부가 결정될 것입니다.