1,100人以上の専門家が、研究者間の競争は「社会と人類に重大なリスクをもたらす」という意見に同意している
© AFP / Jim Watson
【RT】2023年3月29日
https://www.rt.com/news/573821-musk-open-letter-ai-warning/
非営利団体フューチャー オブ ライフ インスティチュートが先週投稿した文章以来、1,100人以上のAI研究者、技術界の著名人、その他の未来人が「巨大AI実験」の6ヶ月間のモラトリアムを要求する公開書簡に署名した。
この書簡の著名な署名者には、テスラCEOのイーロン・マスク、アップル共同創業者のスティーブ・ウォズニアック、トランスヒューマニストの歴史家ユヴァル・ノア・ハラリなどが含まれる。
通信文は、「人間と競合する知能を持つAIシステムは、社会と人類に重大なリスクをもたらす可能性がある」と警告している。
また、急速に進歩するテクノロジーは、「誰も（その作成者でさえも）理解できず、予測できず、確実に制御できない、これまで以上に強力なデジタルマインドを開発・展開する制御不能な競争を許すのではなく、相応の注意と資源で計画・管理されるべき」と主張している。
文明を終わらせる可能性のある技術のコントロールを失うリスクを冒すよりも、AI分野の関係者は「独立した外部の専門家が厳格に監査・監督する、高度なAIの設計と開発に関する一連の共有安全プロトコルを共同で開発・実施すべき」と同研究所は提案し、そのプロトコルが整備されるまで開発を一時停止するとしている。
あらゆるコストをかけてイノベーションを起こすことよりも、「合理的な疑いを超える」安全性を目指すべきであると述べている。
「強力なAIシステムは、その効果が肯定的であり、そのリスクが管理可能であると確信できる場合にのみ開発されるべきである」と書簡は続け、開発者は「今日の強力な最先端システムをより正確、安全、解釈可能、透明、堅牢、整合、信頼できる、忠実にすること」にエネルギーを再注力すべきであるとしている。
もし、開発者が自らを律することができないのであれば、政府が介入し、暴走するシステムを抑制することができる規制機関を設立し、安全性の研究に資金を提供し、超知的システムが人間の仕事を本格的に食い尽くすようになったときの経済的打撃を和らげる必要があると手紙には書かれている。
マスク氏は以前からAIの危険性について警告しており、2020年にシンギュラリティ（機械の知能が人間の知能を超える時点）が2025年までに到来し、人間はスーパーコンピューターのペットとして終わる危険性があると予測していた。
彼は当初、AIに対して人類が優位に立つためのツールとして、脳とコンピュータのインターフェース「ニューラリンク」を提案した。
この億万長者は、画期的な大規模言語モデル「ChatGPT」を開発したOpenAIの創業者の一人でもある。
しかし、彼は2018年に同社をマイクロソフトに共倒れした利益搾取型ベンチャーと断じて、退社した。
マスクのライバル（マイクロソフト創業者）であるビル・ゲイツは、3月29日（水曜日）の時点で公開書簡に名前がなかったが、OpenAIを受け入れており、最近では 「AIの時代が始まった」と宣言している。
