이 법안의 공동 발의자인 Dick Durbin 상원의원(D-IL)에 따르면 상원은 만장일치로 명시적 위조 이미지 및 비합의 편집 금지법(DEFIANCE)을 통과시켰습니다. 이 법안은 합의되지 않은, 성적으로 노골적인 딥페이크의 주체가 이를 생성하고 호스팅하는 사람들에 대해 민사 소송을 제기하도록 허용합니다.
딥페이크는 온라인에서 알려진 문제이지만 적절한 보호 장치가 없으면 AI 기반 이미지 및 비디오 생성 도구에 쉽게 접근할 수 있어 누구나 다른 사람의 초상을 사용하여 타협적인 콘텐츠를 만들 수 있습니다. 이는 X의 모회사인 xAI가 만든 AI 비서인 Grok의 통합을 통해 누구나 다른 사람의 게시물 콘텐츠를 이미지 생성 프롬프트로 전환할 수 있는 X에서 특별한 문제가 되었습니다. 지난 한 달 동안 사용자는 @grok을 사용하여 게시물에 응답하고 요청하는 것만으로 어린이의 성적으로 노골적인 이미지를 만들 수 있었습니다.
이에 대해 영국의 미디어 규제 기관인 Ofcom은 이미 온라인 안전법 위반 가능성이 있는 X에 대한 조사를 시작했습니다. 말레이시아와 인도네시아에서도 챗봇이 전면적으로 차단됐다. DEFIANCE Act는 Grok 또는 기타 AI 도구가 합의되지 않은 딥페이크를 생성하는 것을 막지는 못하지만, 소송을 받는 사람에게는 해당 콘텐츠를 생성하거나 호스팅하는 데 잠재적으로 매우 많은 비용이 들게 됩니다.
상원은 2024년에 DEFIANCE Act의 이전 버전을 통과시켰지만 하원에서는 정체되었습니다. Grok의 딥페이크 문제가 시급하다는 점을 감안할 때, 이 법안의 새 버전에서는 동일한 저항이 나타나지 않을 것이라는 희망이 있습니다. 의회는 지난해 초당적 지지를 받아 딥페이크 규제의 초기 부분인 테이크 잇 다운법(Take It Down Act)을 통과시켰습니다. 해당 법안은 이를 통해 착취당하는 사람들보다는 합의되지 않은 성적으로 노골적인 콘텐츠를 호스팅하는 회사에 초점을 맞췄습니다.