AIが生成したディープフェイクが世界中で世論を動かし始めている - （フィリピン中部の）ボホール島に住んでいます

【Natural News】2024年3月19日ローラ・ハリス著

人工知能が生成するディープフェイクが、世界中で世論を動かし始めている。

フェイクの写真や動画、音声クリップを作成するには、かつては時間や技術的な専門知識、金銭的な面でかなりのリソースが必要だった。

しかし、AIの登場によってこれらの障壁は大幅に下がり、悪意とスマートフォンさえあれば、誰でも世論を操作する力を手に入れることができるようになった。

AIが生成するコンテンツが洗練されたことで、事実と虚構を見分けることが難しくなり、誤報に対抗することが難しくなっている。

AIによるディープフェイクが選挙に与える影響は多面的だ。

例えば、モルドバの親欧州派大統領マイア・サンドゥは、AIディープフェイクによって彼女がロシアと連携する政党を支持していると偽られ、偽情報の嵐の渦中にいることが判明した。

バングラデシュの野党議員で与党を声高に批判するルメン・ファルハナも昨年、AIが生成したディープフェイク動画にビキニ姿を映し出され、同様のケースに直面した。

深く保守的なイスラム教国バングラデシュは激怒し、ファルハナのイメージを失墜させた。

一方、スロバキアでは国政選挙の数日前、AIが生成した音声がリベラル派の候補者になりすまし、ビールの値上げと不正選挙の計画を議論していた。

ファクトチェッカーたちは、この音声が偽のものであることを確認しようと奔走したが、それでも人々は、あたかも本物であるかのようにソーシャルメディアでこの音声をシェアした。

言い換えれば、AIが生成したディープフェイクは、候補者のイメージを中傷したり強めたり、有権者の感情を操作したり、民主主義制度への信頼を損なったりするために使われる可能性があるということだ。

英国を拠点とするジェネレーティブAIの専門家、ヘンリー・アジャダーは、AIが生成する偽情報キャンペーンがますます洗練され、広まるにつれて、今の問題はAIのディープフェイクが選挙に影響を与えることができるかどうかではなく、むしろそれらがどの程度影響力を持つようになるかだと述べている。

「何かが本物かどうか、明らかに混乱している人々がいるのは、遠くを見るまでもないでしょう」とアジャダーは言う。

■■米大統領選間近、AIによる「誤報の津波」を予想する専門家

米大統領選挙を11月に控え、専門家はAIが生成したディープフェイクがさらに出現する可能性が高いと警告する。

人工知能の専門家でワシントン大学名誉教授のオーレン・エツィオーニ氏は、「私は誤報の津波を予想している。それを証明することはできない。間違っていることが証明されることを願っている。しかし、材料は揃っている」

ディープフェイクは大統領選挙の実験的広告にも使われ始めている。エツィオーニによれば、政治的発言の捏造から、医療緊急事態や暴力行為といった危機のシミュレーションまで、誤報の範囲は広いという。

バイデン（ジョー・バイデン）大統領のような政治家候補が病院に運ばれる様子を見ることができる。

候補者が実際には言っていないことを言うのを見ることもできる。銀行を襲うかもしれない。発生したことのない爆破テロや暴力事件を見ることもできる。

これらの偽ツールは、特定のグループをターゲットにし、投票に関する偽のメッセージを広めることができる。

例えば、信じ込ませるようなテキストメッセージを送ったり、WhatsAppで投票プロセスに関する間違った情報をさまざまな言語で流したり、政府機関の公式サイトのように見せかけた偽のウェブサイトを作ったりすることができる。

ペンシルバニア大学アネンバーグ公共政策センター所長の誤報研究家キャスリーン・ホール・ジェイミーソンは、「私たちが進化によってそうなるように仕組まれてきたことすべてが、実際の現実ではなく、でっち上げを信じさせるために作用する」と述べた。