Homeテクノロジーソーシャルメディアのユーザーはミームを利用して、中途半端なAI機能のレッドチームになった

ソーシャルメディアのユーザーはミームを利用して、中途半端なAI機能のレッドチームになった


「ハサミを持って走ることは心拍数を上げ、集中力と注意力を必要とする有酸素運動です」とGoogleの新しい AI検索機能「毛穴を改善し、強さを与えるとも言われています。」

GoogleのAI機能は、この回答を次のウェブサイトから取得しました。 小さな老婦人のコメディは、その名前からもわかるようにコメディーブログです。しかし、この失言はあまりにもばかばかしいため、Google の他の明らかに間違った AI の概要とともに、ソーシャル メディアで広まっています。事実上、一般のユーザーがソーシャル メディアでこれらの製品をレッド チームで検証しているのです。

サイバーセキュリティでは、一部の企業は「レッドチーム」と呼ばれる倫理的なハッカーを雇い、悪役のように自社の製品に侵入しようとします。レッドチームが脆弱性を発見した場合、企業は製品の出荷前にそれを修正することができます。Googleは、Google検索でAI製品をリリースする前に、確かにレッドチームによる調査を実施しました。 推定 1日あたり数兆件のクエリを処理します。

グーグルのような豊富なリソースを持つ企業が、明らかな欠陥のある製品を出荷するのは驚くべきことです。だからこそ、AIがますます普及している時代に、AI製品の失敗を笑いものにすることがミームになっているのです。 チャットGPT、ビデオジェネレータの理解の失敗 人間がスパゲッティを食べる方法、 そして グロクAI X のニュース要約は、Google と同様に風刺を理解していません。しかし、これらのミームは、AI を開発およびテストする企業にとって、実際に役立つフィードバックとなる可能性があります。

これらの欠陥は注目度が高いにもかかわらず、テクノロジー企業はその影響を軽視することが多い。

「私たちが目にした例は、一般的に非常に珍しいクエリであり、大多数の人々の経験を代表するものではありません」とGoogleは電子メールの声明でTechCrunchに語った。「私たちはこの新しい体験を開始する前に広範囲にわたるテストを実施しており、これらの個別の例を使用して、システム全体を改良していきます。」

すべてのユーザーが同じAI結果を見るわけではなく、特に悪いAI提案が広まる頃には、問題はすでに修正されていることが多い。最近話題になった事例では、Googleはピザを作っているときに チーズはくっつかない、ソースに接着剤を8分の1カップほど加えると「粘着性が増す」という。結局、AIはこの答えを 11年前のRedditのコメント 「f––smith」というユーザーから。

これは信じられないほどの失策であるだけでなく、AIコンテンツ取引が過大評価されている可能性を示唆している。Googleは 6000万ドルの契約 例えば、RedditとAIモデルのトレーニングのためのコンテンツのライセンス契約を結んだ。Redditは同様の契約を結んだ。 オープンAI 先週、AutomatticのWordPress.orgとTumblrが 噂の MidjourneyとOpenAIにデータを販売する交渉中。

Google の名誉のために言っておくと、ソーシャル メディアで広まっているエラーの多くは、AI を混乱させるために設計された型破りな検索から生じています。少なくとも、「ハサミで走ることの健康上の利点」を真剣に検索している人はいないと思います。しかし、これらの失敗の中には、もっと深刻なものもあります。科学ジャーナリストのエリン ロス Xに投稿 Google は、ガラガラヘビに噛まれた場合の対処法について誤った情報を吐き出しました。

13,000件以上のいいねを獲得したロスさんの投稿には、AIが傷口に止血帯を巻き、傷口を切って毒を吸い出すことを勧めたことが書かれている。 米国森林局これらはすべてあなたがすべきことです ない 噛まれたらどうするか。一方、Blueskyでは、T Kingfisherという著者が、GoogleのGemini 毒キノコを誤認する 一般的な白いボタンマッシュルームとして – 投稿のスクリーンショットには 広める 警告の教訓として他のプラットフォームにも適用します。

悪いAIの反応が広まると、その結果としてその話題に関する新しいコンテンツが生まれ、AIはさらに混乱する可能性がある。水曜日、ニューヨークタイムズの記者アリック・トーラーは次のように投稿した。 Xのスクリーンショット これは、犬がNHLでプレーしたことがあるかどうかを尋ねるクエリを示しています。AIの応答は「はい」でした。何らかの理由で、AIはカルガリーフレームスの選手マーティン・ポスピシルを犬と呼んでいました。今、同じクエリを実行すると、AIはNHLの記事を表示します。 デイリードット Google の AI が犬がスポーツをしていると思い込んでいることについて。AI は自身の間違いを植え付けられ、さらに悪化しています。

これは、インターネット上で大規模なAIモデルを訓練する際の本質的な問題です。インターネット上の人々は嘘をつくことがあります。しかし、 犬がバスケットボールをすることを禁止する規則はない残念ながら、大手テクノロジー企業が質の悪い AI 製品を出荷することを禁じる規則はありません。

諺にあるように、「ゴミを入れればゴミが出る」。



関連記事

最も人気のある

最近のコメント