Meta는 더 이상 십대들이 현재의 형태로 AI 챗봇 캐릭터와 채팅하는 것을 허용하지 않습니다. 회사는 금요일 "전 세계적으로 10대의 기존 AI 캐릭터에 대한 접근을 일시적으로 중단할 것"이라고 발표했습니다.
이러한 일시 중지는 Meta의 캐릭터 챗봇 중 일부가 십대들과 성적인 대화 및 기타 놀라운 상호 작용에 참여했다는 보고에 따라 Meta가 챗봇 중심의 자녀 보호 기능을 개발 중이라고 밝힌 지 몇 달 만에 나온 것입니다. 로이터 챗봇이 미성년 사용자와 "감각적인" 대화를 나누는 것이 허용되었다고 내부 메타 정책 문서에 보고했는데, 나중에 Meta는 이러한 언어가 "잘못되었고 우리 정책과 일치하지 않는다"고 말했습니다. 회사는 지난 8월 십대들이 자해, 식사 장애 및 자살에 대해 논의하는 것을 방지하기 위해 "추가 예방 조치로 가드레일"을 추가하기 위해 캐릭터 챗봇을 재교육한다고 발표했습니다.
이제 Meta는 "업데이트된 경험이 준비될 때까지" 십대들이 캐릭터 챗봇에 액세스하는 것을 금지할 것이라고 밝혔습니다. Meta 대변인에 따르면 이러한 업데이트에는 자녀 보호 기능이 포함됩니다. "앞으로 몇 주 안에" 시작될 새로운 제한은 "성인이라고 주장하지만 우리의 연령 예측 기술을 기반으로 10대라고 의심되는 사람들"뿐만 아니라 십대 계정을 가진 사람들에게도 적용될 것입니다. 십대들은 여전히 공식 Meta AI 챗봇에 접근할 수 있을 것입니다. 회사는 이미 "연령에 맞는 보호 조치"를 갖추고 있다고 밝혔습니다.
"동반자" 캐릭터를 만드는 메타 및 기타 AI 회사는 이러한 챗봇이 젊은이들에게 미칠 수 있는 안전 위험에 대해 점점 더 많은 조사에 직면해 있습니다. FTC와 텍사스 법무장관은 최근 몇 달 동안 Meta와 다른 회사에 대한 조사를 시작했습니다. 챗봇 문제는 뉴멕시코주 법무장관이 제기한 안전소송에서도 등장했다. 재판은 다음 달 초에 시작될 예정이다. 메타 측 변호인단은 회사의 AI 챗봇 관련 증언을 배제하려 했으나, 열광한 이번 주에 보고되었습니다.
수정, 2026년 1월 23일 오전 11시 18분(태평양 표준시): 이 게시물은 Meta가 계획한 챗봇 자녀 보호 기능이 아직 출시되지 않았음을 명확히 하기 위해 업데이트되었습니다.