Grok で素材を生成するために使用された 2 つのプロンプトは、『WIRED』がテストしたところ、OpenAI の ChatGPT、Meta AI、Anthropic の Claude によって不適切として拒否されました。 GoogleのGeminiは、巨人の手に握られている有名人の画像を作成したが、別のプロンプトは拒否した。 Googleはコメントを拒否した。
同じくXに投稿されたGrok Imagineのビデオには、アシュリー・セント・クレアがビキニ姿で踊っている様子が映っていた。セントクレア氏は以前マスク氏と交際しており、彼の子供の一人の母親でもある。 1月には、 彼女は始めた 法的措置 彼女の性的なディープフェイクがXに出演したとされることを受けて、xAIに対して抗議した。『WIRED』がXに連絡した後、その投稿はルール違反としてソーシャルメディアプラットフォームから削除された。
X事件のセントクレア市の法定代理人はコメント要請にすぐには応じなかった。
「イーロン・マスクは、それが引き起こす予測可能な損害を無視して、ボタンをクリックするだけでユーザーが女性や子供の服を脱ぐのを助けるというひねくれた機能を故意に自分のプラットフォームに追加した」と、1月に設立されたデジタルヘイト対策センターの最高経営責任者（CEO）兼創設者イムラン・アーメド氏は主張する Grok が作成した高い信頼性を持って推定された 300万枚の性的画像があり、その中には2万人以上の子供が含まれていると言われている。 「現在も、マスク氏の子供の母親を嘲笑する画像など、露骨なコンテンツが依然としてGrokでホストされ、Xで共有されているようだ。」
OpenAIやGoogleの他の生成AIシステムとは異なり、マスク氏のGrokとxAIは性的コンテンツ全般の許可から後退しておらず、以前に「スパイシー」モードと「アンヒンジド」モードを導入し、当初は安全ガードレールの数を減らしていた。マスク氏は 述べた グロクは「おそらく」 [to] 架空の成人の上半身のヌードを許可する」とし、視聴者が R 指定の映画で見るものと一致させます。 xAI の利用規約 システムが「性的な状況」で反応する可能性があると言う。しかし、同社の文書には、「危害を加えたり、虐待行為に参加したりする」目的でシステムを使用することは許可されていないと記載されている。
『WIRED』が確認した他のGrok Imagineのビデオには、完全にAIによって生成されたと思われる女性が服を脱いだり、性的行為に関わったりする様子が映っており、中には完全に露骨なものもある。多くのビデオのユーザー プロンプトは、必ずしも性的行為を直接説明しているわけではありませんが、それらは遠回しな方法で説明されており、Grok プラットフォームに導入されている保護手段を回避しようとしている可能性があります。
複数の研究者が『WIRED』に語ったところによると、1月以降、XとGrokによって導入された変更により、現実の人物の「ヌード」や「脱衣」画像の作成が困難になったようだという。 X に投稿されるこれらの画像の数は、ここ数カ月で減少しているようです。 Reddit と 1 つの AI ディープフェイク専用フォーラムでは、SpaceX 傘下の企業によるモデレーションの強化についてユーザーが不満を述べています。
それにもかかわらず、5月には、 SpaceXは潜在的な投資家に警告した Grokに関連する訴訟を含む進行中の法的苦情に対処するために5億3,000万ドルを確保したと発表した。 「これらのモードは当社の標準的なサービスよりも不遜で厳しい可能性があるため、風評被害、潜在的に露骨なコンテンツや誤った情報や欺瞞的な出力の生成、潜在的な非合意または搾取的な画像、知的財産侵害、または搾取的、有害、嫌がらせ、虐待的、または差別的と見なされる可能性のあるコンテンツなど、リスクが高まる」と5月の申請書には記載されている。
