X는 머스크가 트위터를 인수한 이후 CSAM 플랫폼을 단속하는 데 매우 목소리를 냈지만, 전 CEO Linda Yaccarino 밑에서 회사는 모든 이미지 기반 성적 학대(IBSA)에 대해 광범위한 보호 입장을 채택했습니다. 2024년에 X는 Grok을 조정하지 못하여 현재 X가 위반하고 있는 것으로 보이는 IBSA 원칙을 자발적으로 채택한 최초의 기업 중 하나가 되었습니다.
이러한 원칙은 가짜 이미지라도 "심각한 정신적, 재정적, 평판에 심각한 해를 끼칠 수 있다"는 점을 인식하면서 모든 종류의 IBSA에 맞서 싸우려는 것입니다. X는 이 원칙을 채택하면서 사용하기 쉬운 신고 도구를 제공하고 자사 플랫폼에서 '동의 없는 은밀한 이미지의 생성 또는 배포'를 차단하기 위해 절박한 피해자의 요구를 신속하게 지원함으로써 은밀한 이미지의 비합의적인 배포를 방지하겠다고 다짐했습니다.
민주주의 기술 센터 소장 케이트 루앤(Kate Ruane)'IBSA 원칙을 뒷받침하는 실무 그룹을 구성하는 데 도움을 준 Free Expression Project는 Ars에게 X가 한 약속은 "자발적"이었지만 X는 이 문제가 "회사가 심각하게 받아들여야 하는 시급한 문제"라는 데 동의했다는 신호를 보냈다고 말했습니다.
“그들은 이런 일을 할 것이라고 기록에 기록되어 있지만 그렇지 않습니다.”라고 Ruane은 말했습니다.
Grok 논쟁이 유럽, 인도 및 말레이시아에서 조사를 촉발함에 따라 xAI는 Grok의 안전 지침을 업데이트하거나 최악의 출력을 차단하기 위해 다른 조정을 해야 할 수도 있습니다.
미국에서 xAI는 은밀한 이미지 남용을 제한하는 연방법 또는 주법에 따라 민사 소송을 당할 수 있습니다. Grok의 유해한 결과물이 5월까지 계속된다면 X는 Take It Down Act에 따라 처벌을 받을 수 있습니다. 이 법안은 플랫폼이 실제 이미지와 AI가 생성한 합의되지 않은 은밀한 이미지를 모두 신속하게 제거하지 않을 경우 연방거래위원회가 개입할 수 있는 권한을 부여합니다.
그러나 머스크는 트럼프 행정부의 긴밀한 동맹자이기 때문에 미국 당국이 조만간 개입할지 여부는 아직 알려지지 않았습니다. 법무부 대변인은 CNN과의 인터뷰에서 “법무부는 AI가 생성한 아동 성 학대 자료를 매우 심각하게 받아들이고 있으며 CSAM 제작자나 소지자를 적극적으로 기소할 것”이라고 말했다.
Ruane은 Ars에게 “법은 집행만큼 훌륭합니다.”라고 말했습니다. "이러한 회사가 법을 위반할 경우 이를 기꺼이 추적하려면 연방거래위원회(Federal Trade Commission)나 법무부의 법 집행 기관이 필요합니다."
어린이 안전 옹호론자들은 부진한 대응에 놀란 것 같습니다. NCMEC의 대변인은 Ars에 “기술 회사는 자사의 도구가 아동을 성적으로 대상화하거나 착취하는 데 사용되는 것을 방지할 책임이 있습니다.”라고 말했습니다. “AI가 계속해서 발전함에 따라 어린이 보호는 분명하고 협상할 수 없는 우선순위로 남아 있어야 합니다.”