擁護団体と政府の両方からの数週間にわたる圧力の後、イーロン・マスクのXは、ディープフェイク・ポルノ問題についてついに何らかの行動を起こすつもりだと述べた。残念ながら、発表後にテストを行った後も、まだ息をひそめている人もいます。
この論争は今年1月初旬、ソーシャルメディアサイトが、Xユーザーが自分の投稿にGrokをタグ付けし、サイトに投稿された画像やビデオをAIに即座に編集させる機能を追加した後に始まった。すべて元の投稿者の許可を得ずに行われた。この機能にはガードレールがほとんどなかったようで、AI 認証会社 Copyleaks が行った報告や、Metro などのサイトに寄せられた被害者の声明によると、X の投稿者はすぐにこの機能を使用して、現実の人々、特に女性の露骨な、または親密な画像を生成し始めました。場合によっては、児童への性的虐待の内容も生成されたと報告されている。
これはかなり腹立たしい内容なので、探しに行くことはお勧めしません。当初のトレンドはビキニを着た有名人の AI 写真に焦点を当てていたように見えましたが、投稿者はすぐに、妊娠しているように見える、スカートを履いていない、またはその他の種類の性的な状況にあるように見える一般人の画像を操作するようになりました。 Grok は以前にも技術的にはアップロードされた写真からそのような画像を生成できましたが、アクセスが簡単になったことで水門が開かれたように見えました。巻き起こった論争に応えて、マスク氏はグロク氏にビキニ姿の自分の写真を作成させた。しかし、規制当局が関与した後、冗談は止んだ。
今週初め、英国はGrokのディープフェイクポルノ疑惑について、同意のない親密な画像や児童の性的虐待素材に対する法律に違反していないか調査を開始した。マレーシアとインドネシアはさらに一歩進んで、国内でのGrokへのアクセスを実際に阻止した。昨日、カリフォルニア州は独自の調査を開始し、ロブ・バンタ司法長官は「XAIに対し、これ以上事態が広がらないよう直ちに行動を起こすよう求める」と述べた。
圧力に応えて、Xはソーシャルメディアサイトの編集のためにGrokをタグ付けする機能を購読者以外の全員に遮断した。しかし、Grok アプリ、ウェブサイト、および in-X チャットボット (サイトのデスクトップ版のサイドバーからアクセス可能) は依然として誰にでも公開されたままであり、ディープフェイクされた AI 写真の氾濫が続くことを可能にしました (これらの写真は、購読者のみによって作成された場合でも同じ問題を引き起こす可能性があります。ただし、後に X は、その目的は流れを食い止め、違法な画像を作成したユーザーの責任を追及しやすくすることであると述べました)。テレグラフ紙は火曜日、Xも性的なシナリオで女性の画像を生成するというタグ付きGrokリクエストのブロックを開始したが、そのような男性の画像は依然として許可されていたと報じた。さらに、The Verge の米国と英国のライターによるテストでは、禁止されたリクエストが依然として Grok の Web サイトまたはアプリに直接送信される可能性があることが示されました。
マスク氏はこの問題に関する最近のコメントでより深刻な口調を示し、サイト上に児童性的虐待に関する内容が存在することを否定したが、マスク氏の投稿に対するさまざまな返信では不信感を表明し、反対の証拠を示すと主張した。ご自身の判断でスクロールしてください。
最終的に論争に終止符を打つために、X社は水曜日、性別や有料会員からのリクエストかどうかに関わらず、露出度の高い服装をした実在の人物の画像を求めるGrokアカウントへのリクエストをすべてブロックすると発表した。しかし、これで事態が終焉を迎えることを期待している人にとっては、いくつかの良い点があるようだ。
具体的には、声明では、X 上の Grok アカウントにタグ付けしているすべてのユーザーにこれらのガードレールを追加すると述べていますが、スタンドアロンの Grok Web サイトとアプリについては言及されていません。声明では、チャットボットのX内バージョンを指す「Grok in X」上でのそのような画像の作成もブロックすると述べているが、それでも完全なブロックではない。代わりに、画像は「地理的にブロック」され、「違法とされる管轄区域でのみ」適用されることを意味する。
X の投稿には、Grok アカウントをタグ付けすることによって行われた同様のリクエストも地理的にブロックされるとも書かれていますが、この前のセクションでは Grok アカウントはいかなるユーザーからのそのようなリクエストも受け付けないと述べているため、これは議論の余地があるようです。
この大失敗の際にXに向けられた批判の大半は、そのサイトが全裸の画像を生成したことを非難するものではないが、英国のような場所では、全裸であるか否かに関わらず、合意のない露骨な画像を禁止していることに注意することが重要である。
これはXがこれらの画像に対して行った取り締まりとしてはこれまでで最大規模だが、今のところまだ穴はあるようだ。 The Vergeによるさらなるテストによると、同サイトの記者らは水曜日の発表後も、アップデートでは言及されていないGrokアプリを使用することで、暴露的なディープフェイクを生成することができたという。自分の写真を使ってこれを試みたところ、Grok アプリとスタンドアロンの Grok Web サイトの両方で、元のショットには存在しない衣服が露出した自分の全身ディープフェイク画像が提供されました。また、in-X Grok チャットボットを使用してこれらの画像を生成することもできました。また、一部の画像では、私のポーズがより挑発的なものに変更されました (これも私は指示しませんでした)。
このように、戦いはまだ続く可能性が高い。 Grok アプリや Web サイトを無視することが見落としなのか、それとも X が最も目立つ穴を塞ぎたいだけなのかは不明です。 X社が「あらゆる形態の児童の性的搾取、同意のないヌード、望ましくない性的コンテンツを一切容認しない」と述べたことを考えると、前者を期待する人もいるだろう。
私が住んでいるニューヨーク州はジオブロックの一部ではない可能性がありますが、明示的な同意のないディープフェイクを禁止する法律は存在することは注目に値します。
この問題について説明するために X に連絡しました。返事があり次第、この投稿を更新します。しかし、NBCニュースが同様の質問をしたところ、「レガシーメディアの嘘」と言われただけだった。私自身のリクエストにサイトがどのように応えるかについては約束できません。
その間、各国政府が調査を続ける一方で、他の政府もアプリストアに対し、より迅速な措置を求めるよう求めている。ロン・ワイデン、ベン・レイ・ルジャン、エド・マーキー米上院議員がアップルのティム・クック最高経営責任者（CEO）とグーグルのサンダー・ピチャイ最高経営責任者（CEO）に送った書簡では、マスク氏のアプリは現在、App StoreとGoogle Playの両方のポリシーに明らかに違反していると主張し、テクノロジーリーダーらに対し「X社のポリシー違反が解決されるまで、これらのアプリを（AppleとGoogleの）アプリストアから削除する」よう求めている。