彼の死の前に、物理学者 スティーブンホーキング 時間の本質、ブラックホールの内部で何が起こっているかなど、他のほとんどの人ができないことを見ました。彼はまた、人工知能の未来を見たでしょうか？
スマートマシンが人類の救世主になるのか、それともその破壊になるのかは、イーロンマスク（楽観主義者ではない）からビルゲイツや マーク・ザッカーバーグ （慎重に楽観的）。ホーキングは、彼の信じられないほどの知的な才能で、このトピックについて多くのことを言う必要がありました。しかし、これらの他のいくつかとは異なり、彼はプログラミングと同じくらい政治に焦点を合わせました。
私たちのかどうか テクノロジーが飽和した未来 ユートピアやディストピアに変わるのは、私たちがお互いをどのように扱うかによって異なります、ホーキングは死ぬ直前に警告しました。
豊かな時代か貧困の時代か？
ホーキングはある種の現実世界について懸念を表明しましたが ロボポカリプス 
、ここで私たちの スマートマシンは私たちをオンにします 虐待された子犬が悪質な犬に成長したように（マスクの悪夢のシナリオ）、AIの将来についての彼の主な懸念は、人間がほとんど不必要な未来である信じられないほどの豊富さをどのように処理するかであるようです。ロボットが私たちが必要とするすべてを作るなら、私たちは一日中何をしますか、そして私たちのほとんどはどのようにお金を稼ぐでしょうか？
それ、ホーキングは主張した 最近のRedditAMA （Ask Me Anything）は本当に気になる質問でした：
「機械が必要なものすべてを生産する場合、結果は物事がどのように分配されるかに依存します。機械で生み出された富が共有されれば、誰もが贅沢な余暇の生活を楽しむことができます。あるいは、機械の所有者が富の再分配に対してロビー活動を成功させると、ほとんどの人は悲惨なほど貧しくなります。
マイア・キャンベル夫エリアス・グティエレス
要するに、人類の大多数にとって、安らぎと自己実現の生活の邪魔になるのは、テクノロジーではなく、政治と心理学です。そして、ホーキングは信じられないほどの物を作る私たちの能力について大胆に楽観的であるように見えましたが、彼はその革新の略奪品を共有する私たちの能力についてははるかに楽観的ではありませんでした。
「これまでのところ、傾向は2番目の選択肢に向かっているようであり、テクノロジーがますます増大する不平等を推進している」と彼はAMAで続けた。
この1つのオンラインディスカッションは、彼が懸念を表明した唯一の時ではありませんでした。 AIは、オックスフォードに新しい研究センターが開設された数年前に、私たちが病気と貧困を最終的に根絶することを可能にするかもしれないと予測しました。私たちの生活のあらゆる側面が変化します。つまり、AIの作成に成功することは、私たちの文明の歴史の中で最大のイベントになる可能性があります。しかし、彼は続けました。「利点に加えて、AIは危険ももたらします。たとえば、少数の人が多くの人を抑圧するための新しい方法です。」
私たちの残りの部分への警告。
これらの警告についておそらく最も重要なことは、私たち全員がそれらを考慮する必要があるということです。専門家の要求が ロボットインテリジェンスの「キルスイッチ」 魅力的で、間違いなく技術に精通しているので、通りにいる平均的なジョーやジェーンは、AIの危険性のために実際にそれや他の技術的な修正を設計して採用することには関与しません。
しかし、私たち全員が投票し（または少なくとも私たち全員がすべきです）、富を共有し、脆弱な人々を支援する方法についての公開討論に参加します。私たちは毎日、誰が「私たちの部族」にいて、私たちの助けに値するかについて決定を下します。 AIを構築する上での本質的な技術の詳細についてはほとんど知らないでしょうが、市民として、これらの素晴らしいイノベーションの台無しをどのように共有するかについて考える必要があります。ホーキングの警告を検討するために数分かかることは、彼の遺産を尊重するための1つの優れた方法です。
