OpenAIは先月初めてGPT-5.2を発表した際、「年齢予測」と呼ばれる新しい安全機能をひっそりと公開した。 ChatGPT 自体が正確に「全年齢向け」の種類のツールではないことを考慮すると、18 歳未満のユーザーが有害なコンテンツから守るための保護措置を講じるべきであることは理にかなっています。同社は、自分が 18 歳未満であることを明らかにしたユーザーは、「機密性の高いコンテンツや有害な可能性のあるコンテンツへの露出を減らす」ために、すでに変更されたエクスペリエンスを受けていると述べていますが、ユーザーが自発的に自分の年齢を OpenAI に共有しない場合、同社はどのようにしてこれらの保護を強化するのでしょうか?ここで年齢予測が役に立ちます。
火曜日、OpenAI は新しい年齢予測ポリシーを正式に発表しました。このポリシーは、Roblox などが使用している他の年齢確認システムと同様に、AI を使用してユーザーの年齢を推測します。特定のユーザーが 18 歳未満であるとシステムが判断した場合、OpenAI はすべてのインタラクションを年齢に応じたものにすることを目標に、それに応じてエクスペリエンスを調整します。
その仕組みは次のとおりです。新しい年齢予測モデルは、アプリ内でのユーザーの行動と一般的なアカウント データの両方を調べます。これには、アカウントの古さ、ユーザーが ChatGPT にアクセスしている時間帯、使用パターン、そしてもちろんユーザーの年齢などが含まれます。 言う 彼らです。このすべてのデータを見て、モデルはユーザーの可能性が何歳であるかを判断します。モデルが自分が 18 歳以上であると判断した場合、モデルはすべてのエクスペリエンスを得ることができます。モデルが自分が 18 歳未満であると判断した場合、モデルは「より安全な体験」を得ることができます。モデルに自信がない場合は、デフォルトでより安全なエクスペリエンスが使用されます。
この限られたエクスペリエンスは、モデルが 18 歳未満であると判断した人物が、次のコンテンツ タイプを減らそうとすることを意味します。
グラフィック暴力または流血表現
「危険または有害な行動」を引き起こす可能性のあるウイルス性の課題
本質的に性的、ロマンチック、または暴力的なロールプレイ
自傷行為の説明
「極端な」美の基準、不健康なダイエット、または体型を恥じることを奨励するコンテンツ
同社は、自社のアプローチは「専門家の意見」や児童発達科学について論じた文献に基づいていると述べている。 （その情報のどれだけが直接のインタビューや専門家との調整によるものなのか、また独立した調査によるものであるとしてもどれだけなのかは不明である。）同社はまた、成人と比較した場合の「リスク認識、衝動制御、仲間の影響力、感情の制御における十代の若者の既知の違い」も認めている。
これらの年齢予測モデルの最大のリスクは、時々誤った判断をしてしまうことです。幻覚はすべての AI モデルに共通する不幸な習慣です。これは両方の方向に当てはまります。若すぎるユーザーが ChatGPT の不適切なコンテンツにアクセスすることは望ましくありませんが、18 歳以上のユーザーが理由もなく制限付きアカウントに縛られることも望ましくないのです。後者の状況が発生した場合、OpenAI はペルソナを介した直接の年齢確認という解決策を提供します。これはRobloxが年齢認証に使用しているものと同じサードパーティですが、これまでのところあまりうまくいっていません。
それは必ずしも OpenAI に破滅をもたらすわけではありません。 Roblox は、特定のタイプのマルチプレイヤー エクスペリエンスに慣れている大規模なユーザー ベースを対象に、年齢認証システムの徹底的な見直しを試みました。その結果、ユーザーは新しく割り当てられた年齢カテゴリの他のユーザーとチャットできなくなり、これは多くの場合不正確でした。一方、ChatGPT の年齢予測は、一度に 1 人のユーザーのエクスペリエンスのみを制御します。そのために、予測モデルだけでは不十分な場合、OpenAI では追加の検証ステップとして自撮り写真をアップロードできるようになります。興味深いことに、OpenAI は、Google などの他の企業が提供している検証用の ID をアップロードするオプションについては何も述べていません。
年齢予測モデルは、年齢に適したエクスペリエンスを作成するという名目でユーザーのプライバシーを犠牲にすることが多いと思うので、私は必ずしも年齢予測モデルのファンではありません。しかし、OpenAI がやらなければならないことにはほとんど疑問の余地がありません。 何か 若いユーザーの完全な ChatGPT エクスペリエンスを制限するため。 ChatGPT のユーザーの多くは 18 歳未満であり、ハイになるための指示や遺書を書くためのアドバイスなど、ユーザーが経験するコンテンツの多くは非常に不適切です。悲劇的なケースでは、ChatGPT との話し合いの後に未成年者が自ら命を絶ち、OpenAI に対する訴訟につながったケースもあります。
ここでは素晴らしい答えはありません。この新しい年齢予測モデルが未成年者と成人の両方のユーザー エクスペリエンスにどのような影響を与えるか、そしてそれが実際に若くて感受性の高いユーザーにとってより安全なエクスペリエンスを生み出すことができるかどうかを確認する必要があります。