개발자 Roblox Corporation은 최근 게임 제작 플랫폼인 Roblox에서 어린이 안전 보호를 강화하는 방법으로 새로운 얼굴 스캔 기능을 도입했습니다. CEO David Baszucki는 이 이니셔티브에 매우 기뻐하며 연령 제한 기술에 대한 새로운 팟캐스트 에피소드에서 다소 강렬하고 의심스러운 답변을 제공했습니다.
Baszucki는 New York Times 기자 Casey Newton 및 Kevin Roose와 함께 Hard Fork 팟캐스트 에피소드를 진행했습니다. 11월 21일에 게시된 세 사람은 얼굴 스캔 기능을 시작으로 데이터에 대한 잘못된 명칭으로 옮겨가고 조정을 위한 AI 사용에 대한 의견 차이가 최고조에 이르는 광범위한 대화에 참여했습니다. Newtown은 Roblox의 포식자 문제에 대한 질문으로 시작했는데 Baszucki는 이것이 좋은 딜레마이자 나쁜 딜레마라고 말했습니다.
그는 "우리는 이것이 반드시 문제일 뿐만 아니라 기회라고 생각한다"고 말했다. "젊은이들이 함께 만들고, 소통하고, 어울리도록 하려면 어떻게 해야 할까요? 어떻게 동시에 소통의 미래를 만들 수 있을까요? 그래서 우리는 시작부터 좋은 의미로 이 일을 해왔습니다. 거의 18~19년 전 회사를 처음 시작하고 한 방에 4명만 앉아 있었을 때 우리는 문자 그대로 진행자 역할을 했습니다. 마치 항상 돌아가는 것처럼 말입니다."
Baszucki는 계속해서 Roblox의 규모가 커짐에 따라 회사는 조정 도구를 보완하기 위해 "최신 기술"(즉, "AI를 통한 얼굴 연령 추정 사용")을 고려하고 있다고 결정했습니다. 그는 특히 채팅자가 시스템을 우회하기 위해 "해시태그, 해시태그, 해시태그" 및 기타 키워드 트릭을 사용하는 경향이 있기 때문에 텍스트 필터를 한 예로 언급했습니다.
Baszucki는 "AI를 통해 이러한 필터가 점점 더 좋아졌습니다."라고 말했습니다. "현재 우리가 있는 상태는 주로 필터를 뚫으려는 적대적인 시도와 PII(개인 식별 정보)를 공유하려는 적대적인 시도를 차단하는 것입니다. 우리도 점점 더 나아지고 있습니다. 연령 추정에 있어서는 최근에 보완할 수 있는 수준에 이르렀습니다. 그러나 저는 우리의 전략이 항상 이를 통합하기 위해 존재하는 모든 기술을 보완한다고 말하고 싶습니다."
얼마 지나지 않아 세 사람은 서로를 방해하고, 화해를 위해 발언과 질문을 끼어들었습니다. Baszucki는 최근 소송에서 포식자들이 Roblox를 사용하여 아이들을 찾는다는 주장을 "분명히 거부"했습니다. 그는 이 플랫폼이 다른 온라인 소셜 플랫폼과 비교할 때 "놀라운 혁신"을 이루고 있다고 말하면서 회사가 아이들의 게임 내 채팅 능력을 보호하는 데 "지속적으로 발전하고 있다"고 반복했습니다.
Baszucki는 "사람들이 의사소통할 수 있게 되면 엄청난 이점이 있으며 우리는 그러한 이점을 알고 있다고 생각합니다"라고 설명했습니다. "Roblox에서 엿보는 아이들이 많이 있습니다. 실제로 외롭거나 고립될 때 많은 아이들이 있습니다. 저는 그것을 변명하거나 아무것도 사용하지 않을 것입니다. 하지만 유명한 부모님들로부터 '보세요, Roblox와 같은 플랫폼에서 계속 연결될 커뮤니티를 찾지 않았다면 내 아이는 죽었을 것입니다.'라고 말하는 전화를 많이 받습니다. 그리고 나는 또한 '이봐, 나는 당신이 채팅할 수 있는 사람과 그 모든 것을 꺼버릴 거야'라고 말하는 세련된 부모가 아닌 것을 디자인하는 것을 엄청난 책임으로 받아들이고 있다고 말하고 싶습니다. 우리는 모든 부모를 위해 디자인해야 하며 이를 통해 생각해야 합니다. 그러나 우리는 스택 전체에 걸쳐 엄청나게 훌륭한 기술을 보유하고 있다고 믿습니다. 우리는 이것이 이와 같은 경험을 구축하는 것의 일부라고 생각합니다. 아시다시피, 게임 공간에 나가면 의사소통을 지원하는 것이 매우 흔한 일이라고 생각합니다. 다른 게임은 언급하지 않겠습니다. 그리고 일반적으로 우리는 필터링, 이미지 공유 등 모든 측면에서 혁신 수준, 책임 수준을 훨씬 넘어섰습니다."
Baszucki가 주장한 1억 5천만 명의 일일 활성 사용자를 중심으로 더욱 긴장된 대화를 나눈 후(현재 Baszucki는 "13세 이상 거의 3분의 2"라고 주장함) Roose는 회사가 이익을 위해 아동 안전을 무시한 것으로 추정되는 Hindenburg Research의 2024년 10월 조사 결과에 대해 물었습니다. 그는 방향을 바꾸는 대신 활동가 펀드가 "어떤 이유로 폐업했다"는 사실에 초점을 맞추고 호스트에게 해당 정보를 직접 조사했는지 물었습니다. 그러자 그는 AI가 모든 것을 더 좋게 만들고 있다고 답했습니다.
Baszucki는 "그래서 정말 흥미롭습니다. 우리가 점점 더 좋아지고, 좋아지고, 좋아지는 상황에 뛰어들고 있다고 생각하기 때문입니다."라고 말했습니다. "하지만 수동으로 자동차를 만드는 노동에서 조립 라인으로 전환한 사람에게 같은 상황을 물어보시겠습니까? 조립 라인은 무한히 좋아질 수 있고 동시에 사람이 많지 않을 수도 있습니다. 그래서 그들이 말하는 것은 점점 더 AI로 이동하고 있다고 생각합니다. 아마도 AI 시스템이 모든 이미지, 모든 텍스트 조각, 그 모든 것을 검토하도록 하는 것이 더 나은 것일까요, 아니면 계속 수동으로 수행하는 것이 더 나은 것일까요? 그래서 저는 그것이 잘못된 이름이라고 생각합니다. 우리의 안전 팀이나 안전 시스템은 우리 시스템을 개선하는 데 단지 일부일 뿐입니다."
이 시점에서 Baszucki의 기분은 다소 당황스러워졌습니다. 비록 그가 여러 번 말했듯이 "좌절"하지는 않았지만, 콘텐츠 조정을 위해 AI 도구를 사용하기로 한 회사의 결정에 "동조"하고 "Roblox 결정 매트릭스를 지원"하기 위해 Newton과 Roose와 하이파이브를 펼쳤던 것으로 보입니다.
"이게 실제로 우리가 하는 모든 일을 사랑하고 몰래 지원하기 위해 온 스텔스 인터뷰인가요?" 그는 호스트들에게 물었고 나중에 "이야기하게 되어 기쁘다"고 덧붙였습니다.
Baszucki는 "저는 우리가 업계의 재미있고 재미있는 것들에 대해 이야기하게 될 것이라고 생각했습니다."라고 말했습니다. "그래서 저는 좌절하지 않습니다. 저는 여러분과 함께 얼마나 즐거운 시간을 보내고 있는지, 그리고 이러한 슈퍼 포커스에 비해 우리가 얼마나 즐거운 시간을 보내고 있는지 알아보고 있습니다. 하지만 여러분이 원하는 것은 무엇이든 이야기할 수 있어서 기쁩니다."
Baszucki가 이야기하기 시작한 재미있는 것은 Roose가 던져버린 가상의 "Roblox 내부 예측 시장"이었습니다. Roose는 "끔찍한 아이디어"라고 생각하며 회사가 아이들이 Robux 게임 내 통화로 베팅하도록 허용할 것인지 궁금했습니다." Baszucki는 이를 자신이 좋아하는 "훌륭한 아이디어"라고 말했습니다.
"나는 그것이 합법적인 교육적 방식으로 이루어질 수 있다면 정말 훌륭한 아이디어라고 생각한다"고 그는 말했다. "그래서 무료 Robux도 없고 무료 경품도 없고 Dress to Impress Predictor라는 게임만 있다고 상상해 보세요. 아이들의 돈이나 그와 유사한 것을 얻으려는 것과는 다릅니다. 저는 이 게임의 열렬한 팬이 될 것입니다."
결국 Baszucki는 Roblox의 콘텐츠 조정 도구가 끊임없이 진화하고 있다는 사실을 단호하게 옹호하면서 회사가 사용자 기반의 안전을 관리하는 방법으로 과거의 텍스트 필터링과 현재의 얼굴 검색을 지적했습니다.
Roblox Corporation은 플랫폼에 포식자가 만연하고 있다는 사실이 밝혀진 2024년 6월 Bloomberg 조사 이후 최근 몇 달 동안 집중적인 조사를 받았습니다. 플로리다와 텍사스 같은 주에서는 회사가 아동 착취와 그루밍으로부터 아이들을 보호하기 위해 충분한 조치를 취하지 않는다고 국회의원들이 주장하는 이유로 소송을 제기했습니다.
Roblox 여부에 관계없이 아동 포식자 문제가 극에 달하기 시작했습니다. 유럽 법집행기관 유로폴(Europol)에 따르면 유럽 사회에서는 아동을 무기로 폭력 범죄를 저지르는 범죄 네트워크가 급증하고 있다.