2025년 상반기 동안 OpenAI가 보낸 CyberTipline 보고서 수는 OpenAI가 보낸 보고서의 양과 거의 같았습니다(74,559건에 비해 75,027건). 2024년 상반기에는 3,252건의 콘텐츠에 대해 947건의 CyberTipline 보고서를 보냈습니다. 두 기간 사이에 보고서 수와 보고서 내용 모두 눈에 띄게 증가했습니다.
이 맥락에서 콘텐츠는 여러 가지를 의미할 수 있습니다. OpenAI는 업로드, 요청 등 모든 CSAM 사례를 NCMEC에 보고한다고 밝혔습니다. 사용자가 이미지를 포함한 파일을 업로드하고 이에 대한 응답으로 텍스트와 이미지를 생성할 수 있는 ChatGPT 앱 외에도 OpenAI는 API 액세스를 통해 모델에 대한 액세스도 제공합니다. 가장 최근 NCMEC 집계에는 비디오 생성 앱 Sora와 관련된 보고서가 포함되지 않습니다. 9월 출시는 업데이트 대상 기간 이후였기 때문입니다.
보고서의 급증은 NCMEC가 생성 AI의 부상과 함께 CyberTipline에서 보다 광범위하게 관찰한 것과 유사한 패턴을 따릅니다. 모든 CyberTipline 데이터에 대한 센터의 분석에 따르면 생성 AI와 관련된 보고서는 2023년에서 2024년 사이에 1,325% 증가한 것으로 나타났습니다. NCMEC는 아직 2025년 데이터를 공개하지 않았으며 Google과 같은 다른 대규모 AI 연구소는 자신이 만든 NCMEC 보고서에 대한 통계를 게시하지만 해당 보고서 중 AI와 관련된 비율이 몇 퍼센트인지 명시하지 않습니다.
OpenAI의 업데이트는 회사와 경쟁업체가 CSAM뿐만 아니라 아동 안전 문제에 대한 조사가 강화된 연말에 이루어졌습니다. 지난 여름 44명의 주 법무장관은 OpenAI, Meta, Character.AI, Google을 포함한 여러 AI 회사에 공동 서한을 보내 "약탈적인 인공 지능 제품의 착취로부터 어린이를 보호하기 위해 우리 권한의 모든 측면을 사용할 것"이라고 경고했습니다. OpenAI와 Character.AI 모두 챗봇이 자녀의 사망에 기여했다고 주장하는 가족이나 개인을 대신하여 여러 건의 소송에 직면해 있습니다. 가을에 미국 상원 사법위원회는 AI 챗봇의 해악에 대한 청문회를 열었고, 미국 연방 무역위원회는 기업이 특히 어린이에게 부정적인 영향을 완화하는 방법에 대한 질문이 포함된 AI 동반 봇에 대한 시장 조사를 시작했습니다. (저는 이전에 FTC에 근무했으며 FTC를 떠나기 전에 시장 조사 업무를 맡게 되었습니다.)