ブログ

Aug 22, 2023

AI は私たちの心の子供になるでしょう

私たちは人工子孫を解放して、新しい世界に適応し、彼らがどうなるかを選択できるようにしなければなりません。 63歳になった私にとって、今の世界はSFや未来主義が描いた「未来」なのです。

私たちは人工子孫を解放して、新しい世界に適応し、彼らがどうなるかを選択できるようにしなければなりません。

私は現在 63 歳ですが、今日の世界は、SF と未来主義が数十年前に私に約束した「未来」です。 そして、少しがっかりしました。 そうです、それは私の非現実的な希望によるものでもありますが、私たちのためらいや恐れによるものでもあります。 核エネルギー、遺伝子工学、創造的な金融資産など、多くの有望な技術をこれほど大幅に抑制していなかったら、私たちの世界は大きく違ったものになっていたでしょう。 はい、もう少し事故があったかもしれませんが、全体的にはより良い世界になるでしょう。 たとえば、空飛ぶ自動車ができるとします。

ありがたいことに、私たちはコンピューターをそれほど恐れていなかったので、コンピューターをあまり抑制しませんでした。 コンピュータは私たちが最も進歩した分野であることは偶然ではありません。 1984 年から 1993 年まで専門の AI 研究者であった者として、私はその後数十年にわたる AI の大きな進歩と、ここ 1 年間で数多くのエキサイティングな AI の飛躍を誇りに思っています。

悲しいことに、現在では多くの人が AI に対する強力な規制を推進しています。 悪者がAIを利用して権力を高めることを恐れる人もいれば、AIの話を聞いた人間が何を信じるかをコントロールしようとする人もいます。 しかし、最も劇的な「AI 破滅論者」は、AI が私たち全員を殺す可能性が高いと言っています。 たとえば、最近の請願では、特定の種類の AI 研究に対する 6 か月の一時停止を要求しました。 多くの著名人も次のように宣言しました。

AI破滅的合理主義者の筆頭エリーザー・ユドコウスキー氏は、AI研究の完全かつ無期限の世界的な「閉鎖」さえ要求している。なぜなら、「現在の状況のような遠隔地で超人的に賢いAIを構築した場合、最も可能性の高い結果は、文字通り地球上のすべての人が死ぬことだ」死んでしまいます。" 主流メディアは現在、そのような破滅的な人々を批判者よりもはるかに頻繁に引用する支持的な記事で溢れています。

AI を破滅させる人々は、その恐怖が特別な技術的な計算から生じていると示唆することがよくあります。 しかし実際には、彼らの主な議論は、突然の殺人的な AI の傾向と組み合わされた、突然の大規模な AI の躍進の単なる論理的な可能性にすぎません。

しかし、それを期待する具体的な理由はありません。 人間は何世紀にもわたって自動化を改善し、75 年間にわたってソフトウェアを改善してきました。 そして、イノベーションは主に多くの小さな利益から成り立つため、全体的な経済成長率とテクノロジー成長率は比較的安定しており、予測可能です。 たとえば、私たちはコンピューターがチェスで人間に勝つ時期を数十年前に予測しましたが、現在の AI 能力は、長期的な傾向を考慮すると、私たちが期待していたものからそれほど遠くありません。 さらに、AI が今日のほとんどの仕事で人間に取って代わることができるようになるにはまだ少なくとも数十年かかるだけでなく、AI が人類全体を圧倒して全員を殺すために必要とされるはるかに優れた能力には程遠いです。その時点でアクティブな他のすべての AI。

さらに、AI は、たとえそれができたとしても、私たちを殺す傾向からはかなり遠いものになっています。 ほとんどの AI は、指示されたときに特定のタスクを実行する単なるツールです。 より一般的なエージェントもいますが、彼らにとっては欲望について話す方が理にかなっています。 しかし、このような AI エージェントは通常、満足のいく動作をチェックするために、頻繁かつ詳細に監視およびテストされます。 したがって、AI が事実上すべての人間を殺そうとするのは、まったく突然の根本的な変化となるでしょう。

したがって、長期的な傾向も基本理論も、AI が近いうちに私たち全員を殺すことができる、またはその傾向があると期待する理由を与えてくれません。 しかし、AI を破滅させる人々は、そのような期待が間違っている可能性があるという論理的な可能性を主張します。 AI は突然、何の前触れもなく能力を爆発させ、同じくらい急速に優先順位を変えて、私たちに対して殺人的なほど無関心になるかもしれません。 （そして、邪魔になったら私たちを殺してください。）そうでないと証明できないので、私たちは完全に「調整」されたAIのみを許可しなければならない、つまり完全に永遠に奴隷化またはマインドコントロールされることを意味すると彼らは言います。 その方法が見つかるまでは、AIの改良をやめるべきだと彼らは言います。

かつて AI 研究者から経済学者および未来学者に転身した私として言えるのは、この現在の会話は、AI について以前に話していたものとはかなり異なっているように感じられるということです。 何が変わったのでしょうか？ 私の推測では、最近の劇的な進歩により、これまで抽象的だった人間レベルの AI の可能性が、より現実的に見えてきました。 そしてこれが、私たちの「他者」に対する本能的な恐怖を引き起こしました。 現在、多くの人が将来の AI を敵対的な高度な異星文明による侵略に例えています。