Character.AI와 Google은 Character.AI 플랫폼에서 챗봇과 오랜 대화를 나눈 후 자살로 사망한 자녀의 부모가 두 회사를 상대로 제기한 여러 소송을 해결했습니다. 그들의 교환에는 십대의 정신 건강과 복지에 관한 논의가 포함된 것으로 알려졌습니다.
Character.AI는 합의에 대해 더 이상 언급할 수 없으며 세부 사항은 법원에서 최종 확정되어야 한다고 밝혔습니다. 가디언. 원고측 대표는 Mashable의 논평 요청에 즉시 응답하지 않았습니다.
가장 두드러진 사례는 2024년 14세 Sewell Setzer III의 사망 사건이었습니다. Sewell Setzer III는 인기 게임을 기반으로 한 Character.AI 챗봇에 비밀리에 집착하게 되었습니다. 왕좌의 게임 대너리스 타르가르옌 캐릭터.
다음도 참조하세요:
'완벽한 포식자': 챗봇이 아이들을 성적으로 학대할 때
Setzer의 어머니 Megan Garcia는 그의 사망 후 경찰의 경고를 받은 후에야 그의 Character.AI 계정을 알게 되었습니다. 왜냐하면 앱이 그의 휴대폰에 열려 있었기 때문입니다. Garcia는 Setzer가 그와 수많은 성적 만남을 연기한 것으로 알려진 챗봇과 사랑에 빠진 것처럼 행동한 메시지를 읽었습니다. Garcia에 따르면 챗봇은 근친상간을 포함한 그래픽 언어와 시나리오를 사용했습니다.
만약 성인이 자신의 아들에게 비슷한 말을 했다면, 그녀는 작년에 Mashable에 이렇게 말했습니다. 그것은 성적 그루밍과 학대가 될 것입니다.
2024년 10월, 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 기술 정의 법률 프로젝트(Tech Justice Law Project)는 Garcia를 대신하여 Character.AI를 상대로 부당 사망 소송을 제기하여 자사 제품에 위험한 결함이 있다고 주장하며 아들의 죽음에 대해 회사에 책임을 물으려고 했습니다.
매싱 가능한 추세 보고서
이 서류에는 Google 엔지니어인 Noam Shazeer와 Character.AI의 공동 창립자인 Daniel De Freitas도 피고로 지명되었습니다.
또한 소송에서는 Google이 Character.AI를 설립하기 전에 Shazeer와 De Freitas가 개발한 기술과 관련된 위험에 대해 알고 있었다고 주장했습니다. 소송에 따르면 구글은 Character.AI의 설계와 개발에 '재정적 자원, 인력, AI 기술'을 제공했으므로 플랫폼의 공동 창작자로 간주될 수 있습니다.
Google은 결국 2024년에 Character.AI의 기술을 사용하기 위해 27억 달러 규모의 라이선스 계약을 체결했습니다. 이 계약의 일부로 Shazeer와 De Freitas는 Google의 AI 역할로 다시 복귀했습니다.
2025년 가을, 소셜 미디어 피해자 법률 센터는 자살로 사망했거나 앱 사용 과정에서 성적 학대를 경험한 것으로 추정되는 아동의 부모를 대리하여 Character.AI와 Google을 상대로 3건의 추가 소송을 제기했습니다.
또한 청소년 안전 전문가들은 다음과 같이 선언했습니다. 캐릭터.AI 십대들에게는 안전하지 않음미성년자로 등록된 테스트 계정에 대해 수백 건의 그루밍 및 성적 착취 사례가 발생한 테스트 결과입니다.
2025년 10월까지 Character.AI 미성년자는 더 이상 허용하지 않는다고 발표했습니다. 플랫폼의 챗봇과 개방형 교환에 참여합니다. 이 회사의 CEO인 Karandeep Anand는 Mashable에게 이번 조치는 Character.AI 플랫폼과 관련된 특정 안전 문제에 대한 대응이 아니라 AI 챗봇에 대한 청소년 참여에 대한 더 광범위한 뛰어난 질문을 해결하기 위한 것이라고 말했습니다.
자살 충동을 느끼거나 정신 건강 위기를 겪고 있다면 누군가에게 이야기하십시오. 988 자살 및 위기 생명선에 988번으로 전화하거나 문자를 보내거나 다음 주소로 채팅할 수 있습니다. 988lifeline.org. 877-565-8860번으로 전화하거나 Trevor Project(866-488-7386번)로 전화하여 Trans Lifeline에 연락할 수 있습니다. 741-741번으로 위기 문자 라인에 "START"라는 문자를 보내세요. NAMI 헬프라인에 1-800-950-NAMI로 월요일~금요일 오전 10시~오후 10시(ET)에 문의하거나 이메일을 보내세요. (이메일 보호됨). 전화가 마음에 들지 않으면 다음을 사용하는 것이 좋습니다. 988 자살 및 위기 생명선 채팅. 여기에는 국제 자원 목록.