大人気のAIチャットボットChatGPTの開発者であるOpenAIは、AIライティングディテクターがかつて考えられていたほど信頼性が高くないことを公式に認め、人間と機械が生成したコンテンツを区別する自動化ツールの有効性に疑問を投げかけている。
【Breit Bart】ルーカス・ノーラン著 2023年9月12日
Ars テクニカによると、教育者向けの宣伝用ブログ投稿に付随する最近のFAQセクションで、OpenAIは技術業界の多くが疑っていたことを認めた。
AIの文章検出器はあまり良くない。
「（OpenAIを含む）いくつかの企業は、AIが作成したコンテンツを検出すると称するツールをリリースしているが、AIが作成したコンテンツと人間が作成したコンテンツを確実に区別できることを証明したものはない」と同社は述べている。
この暴露は、専門家たちがこのような検出器を「ほとんどが蛇の油」であり、証明されていない検出基準に依存しているため、しばしば偽陽性をもたらすと批判した後に行われた。
OpenAI自身も、AIが書いたテキストを検出するために設計された「AI クラッシーフィアー」という実験的ツールをリリースしていたが、その精度は26％というひどいものだったため、開発中止となった。
学生がChatGPTでエッセイを書いたと主張して、授業全体を落第させた大学教授がいることを考えると、これは学界ではかなり大きな問題だ。
FAQはまた、OpenAIの会話AIモデルであるChatGPTが、AIが作成した文章かどうかを識別できるという、もうひとつのよくある誤解にも取り組んでいる。
さらに、ChatGPTはどのようなコンテンツがAIによって生成された可能性があるかについての "知識 "を持っていません。
『この（エッセイを）書いたのはあなたですか』とか、『これはAIが書いたのでしょうか』といった質問に対する回答をでっち上げることもある。
「これらの回答は無作為であり、何の根拠もありません」とOpenAIは明らかにした。
同社はまた、研究目的でChatGPTだけに頼ることに警告を発している。
ChatGPTは説得力があるように聞こえるが、間違った情報や誤解を招く情報（文献ではしばしば "幻覚 "と呼ばれる）を与えることがある」と同社は注意を促している。
この警告は、ある弁護士がChatGPTから入手した実在しない6つの事例を引き合いに出した事件を受けてのものだ。
自動化されたAI検出器は信頼できないかもしれないが、人間の直感はまだ役割を果たしている。
また、AIが作成したコンテンツには、ChatGPTの出力からコピー＆ペーストされたことを示す特定のフレーズなどの兆候を残すものもある。
