그들은 그것을 금요일 뉴스 덤프(Friday News Dump)라고 부릅니다. 회사들은 언론이 이를 다루려고 할 가능성이 가장 적은 날 당황스러운 뉴스를 게시합니다. 그러나 Meta는 이번 발표를 통해 금요일 뉴스 덤프를 완전히 새로운 수준으로 끌어 올렸습니다. 적어도 캐릭터가 스스로 행동할 수 있을 때까지 십대 계정의 AI 캐릭터를 비활성화했습니다.
이 뉴스는 금요일에만 삭제된 것이 아니라 블로그 게시물 업데이트에서도 삭제되었습니다. 지난 10월부터.
"우리는 사람들에게 훨씬 더 나은 경험을 제공하기 위해 새로운 버전의 AI 캐릭터를 구축하기 시작했습니다." Instagram의 책임자인 Adam Mosseri와 최고 AI 책임자인 Alexandr Wang이 쓴 메모에 따르면 Meta는 오랫동안 약속했던 업그레이드를 약속했습니다. 그런 다음 많은 아이들에게 레베카답지 않은 블랙 프라이데이를 선사할 부분이 나왔습니다.
"우리는 이 새 버전 개발에 집중하는 동안 전 세계적으로 청소년의 기존 AI 캐릭터에 대한 액세스를 일시적으로 일시 중지합니다. 앞으로 몇 주부터 업데이트된 환경이 준비될 때까지 청소년은 더 이상 우리 앱에서 AI 캐릭터에 액세스할 수 없습니다. 이는 우리에게 십대 생일을 준 모든 사람뿐만 아니라 성인이라고 주장하지만 우리가 생각하는 바에 따르면 십대라고 의심되는 사람들에게도 적용됩니다. 연령 예측 기술."
매쉬 가능한 광속
다음도 참조하세요:
OpenAI, 청소년 안전을 위한 연령 예측 출시
TechCrunch에 따르면 인스타그램과 페이스북 제조사는 AI 캐릭터에 대한 "노력을 포기하지 않는다"는 점을 강조하고 싶어합니다. 그럼에도 불구하고 이는 뭔가가 진행될 가능성이 있다는 점을 분명히 인정하는 것입니다. 매우 십대의 안전과 정신 건강과 관련된 AI 캐릭터의 현재 버전에는 문제가 있습니다.
이 발견에는 메타만이 혼자가 아닙니다. Character.AI와 Google은 이번 달에 자살로 사망한 자녀의 여러 부모가 제기한 소송을 해결했습니다. 한 명은 14세 소년이었는데, 그의 어머니는 챗봇에 의해 실제로 몸단장을 받고 성적 학대를 당했다고 말했습니다. 왕좌의 게임 대너리스 타르가르옌 캐릭터.
온라인 안전 전문가의 보고서에 충격을 받은 Character.AI는 Meta가 "10대 사용자와 자해, 자살, 섭식 장애 또는 잠재적으로 부적절한 낭만적인 대화"를 하지 않도록 십대 챗봇 교육을 시작하기로 결정한 지 두 달 후인 10월에 18세 미만 사용자를 위한 모든 채팅을 종료했습니다. 분명히 그 훈련만으로는 충분하지 않았습니다.
메타가 AI 캐릭터 계정에 대한 야망을 철회한 것은 이번이 처음이 아닙니다. 2024년에는 유명인을 기반으로 한 AI 페르소나를 제거했다. 지난해 1월, 인종차별에 대한 반발로 AI 캐릭터 프로필을 모두 삭제했다.
십대의 사용 문제도 작은 문제가 아닙니다. 지난해 Common Sense Media가 조사한 13~17세 청소년 중 절반 이상이 한 달에 한 번 이상 AI 동반자를 사용한다고 답했습니다. 지금은 메타가 아닌 다른 곳에서 그렇게 해야 합니다.
주제
인공지능 메타