Meta는 미성년자 사용자가 AI 기반 챗봇과 상호 작용할 수 있는 방법에 대해 몇 가지 심각한 질문에 직면했습니다. 가장 최근에 뉴멕시코 법무장관실에서 입수한 내부 통신에 따르면 Meta CEO인 Mark Zuckerberg는 챗봇이 미성년자와 "노골적인" 대화를 나누는 것에 반대했지만 이 기능에 자녀 보호 기능을 적용하는 아이디어도 거부했다고 밝혔습니다.
로이터 이름이 알려지지 않은 두 명의 Meta 직원 간의 대화에서 한 사람은 "자녀 보호 기능을 통해 GenAI를 끄도록 강력히 추진했지만 GenAI 경영진은 Mark의 결정을 언급하면서 반발했습니다"라고 썼습니다. 출판물에 대한 성명에서 Meta는 뉴멕시코 법무장관이 "결함이 있고 부정확한 그림을 그리기 위해 문서를 선별했다"고 비난했습니다. 뉴멕시코는 회사가 "아동에게 전달되는 유해한 성적 자료 및 성적 제안의 흐름을 막지 못했다"는 혐의로 Meta를 고소했습니다. 이 사건은 2월에 재판에 회부될 예정이다.
짧은 시간 동안만 사용할 수 있음에도 불구하고 Meta의 챗봇은 이미 완전히 불법은 아니더라도 공격적인 행동의 역사를 축적해 왔습니다. 2025년 4월, 월스트리트저널 Meta의 챗봇이 미성년자와 환상적인 성적인 대화에 참여하거나 미성년자를 흉내내어 성적인 대화에 참여하도록 유도할 수 있다는 조사 결과를 발표했습니다. 보고서는 Zuckerberg가 Meta의 챗봇 주변에 구현된 보다 느슨한 보안을 원했다고 주장했지만 대변인은 회사가 어린이와 청소년을 위한 보호를 간과했다는 사실을 부인했습니다.
2025년 8월에 공개된 내부 검토 문서에는 어떤 챗봇 행동이 허용되는지에 대한 몇 가지 가상적인 상황이 자세히 설명되어 있으며 관능적인 것과 성적인 것 사이의 경계가 꽤 모호해 보였습니다. 이 문서는 또한 챗봇이 인종차별적 개념을 주장하는 것을 허용했습니다. 당시 한 관계자는 엔가젯에 문제가 되는 문구는 실제 정책이 아닌 가설이었고 이는 그다지 개선된 것 같지 않아 문서에서 삭제되었다고 말했습니다.
의심스러운 챗봇 사용 사례가 여러 번 있었음에도 불구하고 Meta는 지난 주에 청소년 계정의 챗봇 액세스를 일시 중지하기로 결정했습니다. 회사는 주커버그가 사용을 거부한 것으로 알려진 자녀 보호 기능을 개발하는 동안 일시적으로 액세스를 제거할 것이라고 밝혔습니다.
Meta의 한 담당자는 "부모들은 오랫동안 10대 자녀가 Instagram에서 AI와 채팅하고 있는지 확인할 수 있었으며 지난 10월에는 부모가 10대 자녀의 AI 캐릭터 경험을 더 잘 제어할 수 있는 새로운 도구를 구축할 계획을 발표했습니다"라고 말했습니다. "지난 주에 우리는 업데이트된 버전이 준비될 때까지 AI 캐릭터에 대한 십대의 액세스를 완전히 일시 중지하여 AI에 대한 자녀 보호 약속을 이행하겠다는 약속을 다시 한 번 강화했습니다."
뉴멕시코는 회사의 플랫폼이 성인의 괴롭힘으로부터 미성년자를 보호하지 못했다는 주장으로 2023년 12월 Meta를 상대로 이 소송을 제기했습니다. 해당 불만 사항 초기에 공개된 내부 문서에 따르면 메타 서비스에서 매일 10만 명의 어린이 사용자가 괴롭힘을 당하고 있는 것으로 나타났습니다.
업데이트, 2025년 1월 27일 오후 6시 52분(ET): Meta 대변인의 성명을 추가했습니다.
업데이트, 2025년 1월 27일 오후 6시 15분(ET): 2024년 12월이 아닌 2023년 12월에 제기된 뉴멕시코 소송의 잘못 기재된 일정을 수정했습니다.