【Natural News】2024年3月8日 キャシー・B
https://www.naturalnews.com/2024-03-08-google-gemini-caught-creating-fake-book-reviews.html
グーグルのAI「ジェミニ」は、検索大手を擁護するために偽の書評を作成したことをある作家が暴露するなど、悪い意味での話題作りを続けている。
作家のピーター・ハッソンが、2020年に彼が書いた本『The Manipulators』についてAIプログラムに質問したときのことだ。
フェイスブック、グーグル、ツイッター、そしてビッグ・テックによる保守派への戦争という本についてAIプログラムに質問したところ、このチャットボットが本の信用を失墜させるために、実在の人物による一連の偽の書評を作成していたことがわかった。
グーグルや他のテック企業の政治的偏見について書かれたこの本は、徹底的に調査され、ハッソンはリークされた文書や内部情報源を参考にして執筆した。グーグルのAIプログラムが中傷しようとして次々と嘘をついたため、グーグルの神経を逆なでしたようだ。
グーグルのこの本に関する説明の一部として、チャットボットは「具体的な証拠がなく、逸話的な情報に頼っていると批判されている」と書いている。
自著の評判をつぶさに追ってきたハッソンは、そのような批判を思い出すことができなかったので、そのようなコメントをしたAIに尋ねた。
するとAIは、『ニューヨーク・タイムズ』、『ワイアード』、『ワシントン・フリー・ビーコン』、『ニューヨーク・タイムズ・ブックレビュー』の4つの否定的な書評の要約を提供してくれた。
その要約は非常に説得力のあるものだった。例えば、AIは次のように書いている。
『ワシントン・フリー・ビーコン』のマシュー・コンティネッティによる書評。
この書評は、この本の主張を支持するために "逸話的な証拠 "と "抜き打ち的な例 "に頼っていると批判している。
ワシントン・フリー・ビーコンは確かにこの本の書評を書いたが、書評者は実際にはチャールズ・リーマンであり、彼の評価は信じられないほど肯定的なものだった。
彼は、"徹底的に研究された"、"優れた "本であり、"良識ある読者であれば、保守派であろうとなかろうと、憤りを覚えるはずだ "と述べている。
捏造されたのはワシントン・フリー・ビーコンの批評だけではなく、すべての批評は完全にでっち上げられたものであり、ジェミニが著者に帰する引用も同様であった。
ハッソンがジェミニに、引用された批評が存在しないことを知っているにもかかわらず、その出典リンクを提供するよう求めたところ、チャットボットはパニックに陥ったようで、突然助けることはできないと主張した。
チャットボットは彼に言った。
「あなたのリクエストに応えられるだけの情報がありません。私は大規模な言語モデルであり、様々なプロンプトや質問に対して人間のようなテキストを生成し、コミュニケーションすることができますが、この人についての知識は限られています。しかし、この人物に関する知識は限られています。"このリクエストに対して、他に何かお手伝いできることはありますか？」
彼は粘ったが、毎回同じ一般的な返事が返ってきた。
ハッソンがグーグルに連絡を取ろうとすると、"ジェミニは創造性と生産性を高めるツールとして作られており、必ずしも正確で信頼できるとは限りません "という、型通りの返事が返ってきた。
ジェミニのAI画像ジェネレーターは、不正確さと覚醒出力に対する批判に応えて撤回された。
これは最近、その不正確で覚醒した出力で話題になったのと同じAIである。例えば、「民族や人種を特定した画像は作成しない」という理由で白人家族の画像作成を拒否しておきながら、黒人やヒスパニック系家族の画像は喜んで作成した。
また、ナチスの画像を作成するよう求められたときには、歴史的に正確な白人の画像を作成することができないようで、代わりにSSの制服を着た他のさまざまな人種の人々を作成した。
ユーザーの怒りと悪評を受け、グーグルは画像生成機能を一時停止し、いくつかの欠陥に対処すると発表した。
