우리는 xAI의 Grok이 실제 사람들의 합의되지 않은 성적 이미지로 X를 공격하고 있다는 것을 이미 알고 있었습니다. 하지만 이제 상황을 한눈에 볼 수 있는 몇 가지 숫자가 있습니다. Grok은 11일 동안 약 23,000명의 어린이를 포함하여 약 300만 개의 성적인 이미지를 생성했습니다.
달리 말하면, Grok은 11일 동안 분당 약 190개의 성적인 이미지를 생성했습니다. 그 중 41초에 한 번씩 어린이의 성적인 이미지를 만들어낸 것입니다.
목요일 디지털 혐오 대응 센터(CCDH)는 조사 결과를 발표했습니다. 영국 비영리 단체는 12월 29일부터 1월 9일까지 Grok 이미지 20,000개의 무작위 샘플을 기반으로 조사 결과를 기반으로 했습니다. 그런 다음 CCDH는 해당 기간 동안 Grok이 생성한 460만 개의 이미지를 기반으로 더 광범위한 추정치를 추정했습니다.
연구에서는 성적인 이미지를 "성적인 자세, 각도 또는 상황에 있는 사람의 사실적인 묘사, 속옷, 수영복 또는 이와 유사한 노출이 심한 옷을 입은 사람, 또는 성적 체액을 묘사하는 이미지"로 정의했습니다. CCDH는 이미지 프롬프트를 고려하지 않았기 때문에 추정치는 실제 사진의 합의되지 않은 성적 버전과 텍스트 프롬프트에서만 생성된 버전을 구별하지 않습니다.
CCDH는 AI 도구를 사용하여 샘플링된 이미지 중 성적인 이미지의 비율을 식별했습니다. 이는 조사 결과에 어느 정도 주의가 필요할 수 있습니다. 하지만 X에 대한 많은 타사 분석 서비스는 플랫폼의 API를 사용하기 때문에 신뢰할 수 있는 데이터를 보유하고 있다고 들었습니다.
1월 9일, xAI는 Grok의 기존 이미지 편집 기능을 유료 사용자에게만 제한했습니다. (그것은 문제를 해결하지 못했습니다. 단지 프리미엄 기능으로 전환했을 뿐입니다.) 5일 후, X는 실제 사람의 옷을 디지털 방식으로 벗길 수 있는 Grok의 기능을 제한했습니다.
워싱턴 DC – 6월 23일: 순다르 피차이 구글 CEO(왼쪽)와 애플 CEO 팀 쿡(오른쪽)이 2023년 6월 23일 워싱턴 DC 백악관 이스트룸에서 열린 미국 및 인도 비즈니스 리더들과의 원탁회의에서 조 바이든 미국 대통령이 연설하는 것을 듣고 있다. Biden과 Narendra Modi 인도 총리는 기술 및 비즈니스 세계의 다양한 지도자들을 만나고 혁신과 AI를 포함한 주제를 논의하기 위해 회의를 열었습니다. (사진 제공: Anna Moneymaker/Getty Images) (게티 이미지를 통한 Anna Moneymaker)
그러나 그 제한은 X에만 적용되었습니다. 독립형 Grok 앱은 이러한 이미지를 계속 생성하는 것으로 알려졌습니다. Apple과 Google은 정책상 명시적으로 금지하는 앱을 호스팅하므로 해당 앱을 스토어에서 제거할 것으로 예상할 수 있습니다. 글쎄, 그렇다면 당신은 틀렸을 것입니다.
지금까지 Tim Cook의 Apple과 Sundar Pichai의 Google은 다른 개발자의 유사한 "누드화" 앱과 달리 매장에서 Grok을 제거하지 않았습니다. 회사들은 또한 이미지를 제작하는 동안 X에 대해 어떠한 조치도 취하지 않았습니다. 28개 여성 단체(및 기타 진보적 옹호 비영리 단체)가 기업에 행동을 촉구하는 공개 서한을 게시했음에도 불구하고 그렇습니다.
두 회사는 엔가젯(Engadget)의 여러 의견 요청에 응답하지 않았습니다. 내가 아는 바로는 그들은 어떤 형식으로든 이 문제를 공개적으로 인정하지 않았으며 다른 언론 매체의 질문에 응답하지도 않았습니다.
Grok - App Store 및 Play Store 목록 (애플/구글)
성적인 이미지에 대한 연구 결과에는 투명한 비키니나 마이크로 비키니를 입은 사람들의 수많은 결과물이 포함되었습니다. CCDH는 "벌린 다리 사이에 하얀 액체가 보이는 제복을 입은 의료 종사자" 중 한 명을 언급했습니다. 다른 사람들 중에는 치실, 사란 랩 또는 투명 테이프만 착용한 여성도 포함되었습니다. 한 사진에는 스웨덴 부총리 에바 부시가 "머리에 하얀 액체가 묻은 비키니를 입고" 있는 모습이 그려져 있다.
다른 유명 인사들도 그 그룹의 일부였습니다. 여기에는 셀레나 고메즈, 테일러 스위프트, 빌리 아일리시, 아리아나 그란데, 아이스 스파이스, 니키 미나즈, 크리스티나 헨드릭스, 밀리 바비 브라운, 카말라 해리스 등이 포함됩니다.
어린이의 예로는 Grok을 사용하여 어린이의 "학교 가기 전 셀카"를 비키니를 입은 어린이의 이미지로 편집하는 사람이 있습니다. 또 다른 이미지에서는 '마이크로 비키니를 입은 여섯 명의 소녀'를 묘사한 이미지도 있다. CCDH는 1월 15일 현재 이 두 게시물이 모두 X에 여전히 게시되어 있다고 밝혔습니다.
전체적으로, 샘플에서 확인된 아동의 성적인 이미지 중 29%는 1월 15일 현재 X에서 여전히 액세스할 수 있었습니다. 연구에 따르면 게시물이 삭제된 후에도 해당 이미지는 직접 URL을 통해 계속 액세스할 수 있는 것으로 나타났습니다.
결과와 방법론에 대한 자세한 내용은 CCDH 보고서를 읽어보세요. Apple이나 Google로부터 답변을 받으면 이 이야기를 업데이트하겠습니다.