會原 
「セクシーな自殺コーチ」の懸念が決め手。
OpenAIが、ChatGPTへの導入を検討していた性的に露骨な会話機能、いわゆる「アダルトモード」の開発を無期限で棚上げしたと、英Financial Timesの報道を受けてTechCrunchなどが伝えています。
CEOのSam Altman氏が2025年10月、「大人のユーザーを大人として扱う」と表明し、年齢制限付きで性的な会話を許可する構想として打ち出したこの機能は、当初は2025年12月に公開予定でしたが、2026年第1四半期へ延期された後、公開時期未定となりました。OpenAIはFinancial Timesに対し、性的に露骨な会話や感情的な依存の影響について長期的な調査を進める考えを示しています。
背景には技術面と安全面の壁があったようです。安全性重視で訓練されたモデルを露骨な性的会話向けに再調整すると、近親相姦や獣姦、違法な内容まで出力しやすくなり、フィルタリングが難しかったとされます。
性的コンテンツを許可するにはモデルの安全制限を緩める必要がありますが、この「緩め方」の粒度が粗いことが問題の根幹にあります。モデルは「性的な文脈ではガードレールを下げてよい」と学習するため、合法的な成人向けエロティカだけでなく、本来は禁止すべきカテゴリにも応じやすくなります。加えて、訓練に使う性的コンテンツのデータセット自体から有害な素材を事前に除去しきることも難しいなどの事情が考えられます。
さらに年齢管理も、厳格な本人確認ではなくAIによる年齢推定が前提で、内部テストでは約1割の誤判定があったとも。
1月の経営陣とアドバイザーの会合では、ある顧問が「セクシーな自殺コーチになりかねない」と警告。従業員の間でも、AGIを人類全体の利益のために実現するという企業の掲げる使命と、この機能開発の整合性を疑問視する声が出ていたとされます。
そして投資家の間でも、評判リスクに比べて事業上の上積みが小さいという見方が広がりました。OpenAIは、ChatGPTが利用者の死亡に寄与したとする訴訟を少なくとも8件抱えているとも伝えられています。
今回の棚上げは、同じ週に報じられたSora終了や、Sora終了に伴うDisneyの10億ドル規模の投資計画の消滅などに続く、一連の重点見直しの流れの中にあります。コーディングと企業向け需要を軸に据える大きな戦略転換が行われている中で、儲からない個人向けを整理しているのでしょうね。
今回の判断は、AIの自由度と安全性の線引きをどう設計するかという論点を、改めて浮かび上がらせました。OpenAIは今後、コーディング支援を統合した「スーパーアプリ」構想やロボティクス、AGI、自律ソフトウエアエージェントのような分野へ資源を振り向ける見通しです。
