ついにAppleがブチギレ！Grokをストア削除警告、ディープフェイク生成がやばい

　えっ、あのAppleが本気で刀を抜いていたとは……。

　Elon Musk率いるxAIのチャットボット「Grok」が、非同意の性的ディープフェイクや「脱がせ」画像の生成に使われていた件で、Appleが2026年1月、App Storeからの削除もあり得ると警告していたことが明らかになりました。NBC Newsが入手した書簡の内容を、The Vergeなどが報じています。

　書簡の宛先は、1月にAppleとGoogleに対してXとGrokの両アプリの削除を求めていた民主党のRon Wyden、Ben Ray Luján、Edward Markeyの3上院議員です。Appleは書簡の中で、XとGrokの双方がApp Storeガイドラインに違反していると判断し、両チームにコンテンツモデレーション改善計画の作成を求めたと説明しています。

　問題になっていたのは、X上で拡散していた、実在の女性や子どもの写真を基にした非同意の性的画像です。報道によると、Grokで生成された画像が多数含まれており、上院議員らはこれがAppleの規約が禁じる不快・性的・搾取的な内容に当たると主張しました。Appleが「管理されたマーケットプレイス」として安全性を訴えてきた以上、その看板が問われる事態だったわけです。

　Appleが提出版をレビューした結果、Xについては「実質的に違反を解消した」と判断した一方、Grokは「依然として準拠していない」と認定されました。そのうえでAppleは「変更が十分ではない」として追加対応を要求し、さらなる修正がなければApp Storeから削除され得ると警告しました。

　ここでいう「コンテンツモデレーション」は、単なる事前フィルターだけではなく、生成制限、問題コンテンツの通報対応、悪質ユーザーのブロックなど、不適切な内容を抑えるための仕組み全般を指します。AppleのApp Review Guidelinesでも、ユーザー生成コンテンツを扱うアプリには、不適切内容のフィルタリング、通報手段、悪質ユーザーをブロックする機能などが求められています。ユーザーが「脱がせて」と打ち込んだときに拒否したり、そうした画像を生成しにくくしたりするのも、その一部です。

　その後xAIは再度修正版を提出し、AppleはGrokが「実質的に改善された」と判断して最新の提出版を承認しました。Grokは現在もApp Storeで配信されており、xAI側は、非同意の露骨なディープフェイク生成や実在の人物を「脱がせる」用途を厳しく禁じ、継続的監視やプロンプトフィルターなどの安全対策を講じていると述べています。

　ただし報道によると、1月当時より投稿量は大きく減った一方で、Grokはなお類似の性的画像を生成でき、ユーザーがプロンプトを工夫して制限を回避している例も確認されています。ガードレールが十分かどうかには、なお疑問が残る状況です。

　AI生成の安全対策と、App Storeという巨大ゲートキーパーの力。その両方があっても、問題を完全には止め切れていないことが浮き彫りになりました。Appleは最終的に「実質的に改善」という判断で配信継続を認めており、同じ論点が今後も繰り返し問われそうです。