뉴멕시코 법무장관이 회사를 상대로 한 소송의 일환으로 월요일(1월 28일) 공개된 새로운 내부 문서에 따르면, 메타 리더십은 AI 캐릭터라고 불리는 회사의 AI 동반자가 부적절하고 성적인 상호 작용에 참여할 수 있으며 더 강력한 통제 없이도 이를 출시할 수 있다는 것을 알고 있었습니다.
CEO Mark Zuckerberg가 포함되지 않은 Meta 안전 팀과 플랫폼 리더십 간에 전송된 통신에는 성인과 미성년자가 명시적인 낭만적인 상호 작용을 위해 사용할 수 있는 동반 챗봇 구축에 대한 반대가 포함되어 있습니다. Meta의 아동 안전 정책 책임자인 Ravi Sinha와 Meta의 글로벌 안전 책임자인 Antigone Davis는 챗봇 동반자가 18세 미만 사용자의 성적으로 노골적인 상호 작용으로부터 보호 장치를 갖추어야 한다는 데 동의하는 메시지를 보냈습니다. 다른 커뮤니케이션에서는 Zuckerberg가 AI 동반자가 출시되기 직전에 genAI 기능을 끄는 옵션을 포함하여 자녀 보호 기능을 추가하라는 권장 사항을 거부했다고 주장합니다.
다음도 참조하세요:
TikTok은 Meta와 Google이 소셜 미디어 중독 소송에서 배심원에 직면함에 따라 합의했습니다.
Meta는 Facebook 및 Instagram과 같은 사이트의 중독성 있는 디자인에 대한 잠재적인 배심원 재판을 포함하여 자사 제품 및 그것이 미성년자 사용자에게 미치는 영향과 관련된 여러 소송에 직면해 있습니다. YouTube, TikTok, Snapchat을 포함한 Meta의 경쟁사 역시 엄격한 법적 조사를 받고 있습니다.
새로 공개된 통신문은 뉴멕시코 법무장관 라울 토레스(Raúl Torrez)가 메타(Meta)를 상대로 제기한 소송에서 법원 발견의 일부였습니다. Torrez는 2023년에 Meta를 상대로 처음으로 민사소송을 제기했으며, 회사가 자사의 플랫폼을 "포식자를 위한 시장"이 되도록 허용했다고 주장했습니다. 사건이 다음 달 재판으로 향하면서 메타 경영진 간의 내부 커뮤니케이션이 공개되어 공개되었습니다.
매쉬 가능한 광속
지난 11월, 캘리포니아 북부 지역에 제기된 주요 다지구 소송의 원고 브리핑에서는 "성매매"로 신고된 사용자를 포함하여 안전 규칙을 위반한 사용자에 대한 관대 한 정책이 있다고 주장했습니다. 문서에 따르면 Meta 경영진은 해당 사이트 전체에서 "수백만"의 성인이 미성년자와 접촉한 사실을 알고 있는 것으로 나타났습니다. Meta 대변인은 TIME에 "전체 기록을 보면 우리가 10년 넘게 부모의 의견을 듣고 가장 중요한 문제를 조사했으며 십대를 보호하기 위해 실질적인 변화를 가져왔다는 것을 알 수 있습니다"라고 말했습니다.
다음도 참조하세요:
소송 합의 후 Snapchat에 십대를 위한 새로운 자녀 보호 기능 추가
메타 대변인 앤디 스톤은 새 문서에 대해 "이것은 뉴멕시코 법무장관이 결함이 있고 부정확한 그림을 그리기 위해 문서를 선별하는 또 다른 예"라고 말했습니다.
Meta는 Meta의 내부 AI 규칙에 따라 챗봇이 본질적으로 "감각적"이거나 "낭만적"인 대화에 참여할 수 있다는 사실을 발견한 Reuters의 보고서에 따라 8월에 청소년의 챗봇 사용을 일시 중지했습니다. 회사는 나중에 아동 성적 학대를 "활성화, 장려 또는 지지"하는 콘텐츠, 미성년자와 관련된 낭만적인 역할극 및 기타 민감한 주제를 금지하는 안전 지침을 개정했습니다. 지난주 Meta는 향상된 자녀 보호 기능을 갖춘 새 버전을 탐색하면서 다시 한 번 젊은 사용자를 위한 AI 챗봇을 잠갔습니다.
Torrez는 아동 안전 문제에 대해 주요 소셜 미디어 플랫폼을 법정에 제출하기 위해 다른 주 법무장관을 이끌었습니다. 2024년에 Torrez는 Snapchat을 고소하면서 이 플랫폼이 미성년자에 대한 성착취와 그루밍을 허용하면서도 여전히 젊은 사용자에게 안전하다고 마케팅하고 있다고 주장했습니다.