読んだ本のメモ

印象に残った言葉をメモします。

ホモ・デウス (下) (第11章 データ教)

「データ至上主義では、森羅万象がデータの流れからできており、どんな現象やものの価値もデータ処理にどれだけ寄与するかで決まるとされている。(略)データ至上主義は科学における二つの大きな流れがぶつかり合って誕生した。

 

 

チャールズ・ダーウィンが「種の起源」を出版して以来の一五〇年間に、生命科学では生き物を生化学的アルゴリズムと考えるようになった。それとともに、アラン・チューリングチューリングマシンの発想を形にしてからの八〇年間に、コンピューター科学者はしだいに高性能の電子工学的アルゴリズムを設計できるようになった。データ至上主義はこれら二つをまとめ、まったく同じ数学的法則が生化学的アルゴリズムにも電子工学的アルゴリズムにも当てはまることを指摘する。(略)

 

 

データ至上主義は、政治家や実業家や一般消費者に革新的なテクノロジーと計り知れない新しい力を提供する。学者や知識人にも、何世紀にもわたって私たちを寄せ付けなかった科学の聖杯を与えることを約束する。その聖杯とは、音楽学から経済学、果ては生物学に至るまで、科学のあらゆる学問領域を統一する、単一の包括的な理論だ。(略)

 

 

 

すべての科学者に共通の言語を与え、学問上の亀裂に橋を架け、学問領域の境界を越えて見識を円滑に伝え広める。音楽学者と経済学者と細胞学者が、ようやく理解し合えるのだ。

 

 

その過程で、データ至上主義は従来の学習のピラミッドをひっくり返す。(略)人間はデータを洗練して情報にし、情報を洗練して知識に変え、智識を洗練して知恵に昇華させるべきだと考えられていた。ところがデータ至上主義者は、次のように見ている。

 

 

 

もはや人間は膨大なデータの流れに対処できず、そのためデータを洗練して情報にすることができない。ましてや知識や知恵にすることなど望むべくもない。したがってデータ処理という作業は電子工学的アルゴリズムに任せるべきだ。このアルゴリズムの処理能力は、人間の脳の処理能力よりもはるかに優れているのだから。つまり事実上、データ至上主義者は人間の知識や知恵に懐疑的で、ビッグデータとコンピューターアルゴリズムに信頼を置きたがるということだ。

 

 

 

データ至上主義は、母体である二つの学問領域にしっかりと根差している。その領域とは、コンピューター科学と生物学だ。両者を比べると生物学がとりわけ重要だ。生物学がデータ至上主義を採用したからこそ、コンピューター科学における限定的な躍進が世界を揺るがす大変動になったのであり、それが生命の本質そのものを完全に変えてしまう可能性が生まれたのだ。(略)

 

 

 

今日、個々の生き物だけではなく、ハチの巣やバクテリアのコロニー、森林、人間の都市など、さまざまな形の社会全体もデータ処理システムと見なされている。経済学者はしだいに、経済もまたデータ処理システムだと解釈するようになっている。(略)

 

 

 

この見方によれば、自由市場資本主義と国家統制下にある共産主義は、競合するイデオロギーでも倫理上の教義でも政治制度でもないことになる。本質的には、競合するデータ処理システムなのだ。資本主義が分散処理を利用するのに対して、共産主義は集中処理に依存する。(略)

 

 

 

このように自由市場資本主義では、データ分析と意思決定の作業が、独立してはいても互いにつながっている多くの処理者に分散している。オーストリアの経済学者の大家フリードリヒ・ハイエクはこれを次のように説明している。「当該の事実に関する知識が多くの人の間に分散しているシステムでは、価格はさまざまな人の別個の行動を調整する働きをなしうる。」(略)

 

 

 

システムが円滑に稼働するためには、できるだけ多くの情報ができるだけ自由に流れる必要がある。世界中の何百万もの人が有意義な情報のすべてにアクセスすれば、石油やヒュンダイの株やスウェーデン政府公債の最も適正な価格が、彼らの売買によって決まる。(略)

 

 

データ処理の観点から見れば、資本主義がより低い税金を支持する理由も説明できる。税金が高いというのは、利用可能な資本のかなりの部分が一か所、つまり国庫に集まり、結果としてますます多くの決定が単一の処理者、すなわち政府によってなされざるをえないことを意味する。これによって過度に中央集権化されたデータ処理システムが出来上がる。(略)

 

 

 

 

自由市場では、ある処理者が判断を誤ったら、ほかの処理者がすぐにその間違いに乗ずるだろう。ところが単一の処理者がほぼすべての決定を下す場合には、ミスを犯せば大惨事になりうる。(略)

 

 

 

たとえば、ソ連の経済担当機関は次のように決めたかもしれない。(略)レーニン記念ゼンソ農業科学アカデミーの総裁で、悪名高いルイセンコは、当時支配的だった遺伝理論を否定した。生き物が生きている間に新しい形質を獲得すると、その性質は子孫に直接伝わりうると主張したのだ。

 

 

 

この考え方はダーウィンの学説とは真っ向から対立するものだったが、共産主義の教育原理とはうまく噛み合った。もし小麦を訓練して寒冷な天候に耐えられるようにしたなら、その子孫もまた寒さに耐えられることになる。そこでルイセンコは反革命的な小麦を何十憶株もシベリアに送り、それらに再教育を施した。

 

 

その結果、ソ連はほどなくアメリからしだいに多くの小麦を輸入する羽目になった。

資本主義が共産主義を打ち負かしたのは、資本主義のほうが倫理的だったからでも、個人の自由が神聖だからでも、神が無信仰の共産主義者に腹をたてたからでもない。そうではなくて、資本主義が冷戦に勝ったのは、少なくともテクノロジーが加速度的に変化する時代には、分散型データ処理が集中型データ処理よりもくいくからだ。

 

 

共産党の中央委員会は、ニ〇世紀後期の急速に変化を遂げる世界にどうしても対処できなかったのだ。すべてのデータを一つの秘密の掩蔽壕に蓄積し、すべての重要な決定を高齢の共産党首脳陣が下すのであれば、大量の核爆弾は製造できても、アップルやウィキペディアは作れない。(略)

 

 

 

それが資本主義の成功の秘訣だ。ロンドンのパンの供給に関するデータをすべて独占するような中央処理装置はない。情報は何百万もの消費者と生産者、パン職人と大物実業家、農民と科学者の間を自由に流れる。市場の力によって、パンの価格、毎日焼くパンの数量、研究開発の優先順位が決まる。市場の力は、判断を誤った場合、すぐに自己修正する。いや、資本主義者はそう信じている。

 

 

 

この資本主義の理論が正しいかどうかは、私たちの目下の論点にとって問題ではない。重要なのは、その理論が経済をデータ処理という観点で捉えていることだ。」

 

 

 

 

 

 

 

ホモ・デウス (下) (第10章 意識の大海)

「宇宙がぶら下がっている釘

 

テクノ人間至上主義は、さらに別の恐ろしい脅威に直面している。人間至上主義のあらゆる宗派と同じで、テクノ人間至上主義も人間の意志を神聖視し、それを全宇宙がぶら下がっている釘と見做している。テクノ人間至上主義は、私たちの欲望がどの心的能力を伸ばすかを選び、それによって未来の心の形態を決めることを見込んでいる。とはいえ、テクノロジーの進歩のおかげで、まさにその欲望を作り変えたり生み出したりできるようになったら、何が起こるのか?

 

 

人間至上主義はつねに、自分の本物の意志を突き止めるのは簡単ではないことを強調していた。私たちは、自分自身に耳を傾けようとすると、相容れないさまざまな雑音の不協和音の洪水に呑み込まれてしまうことが多い。実際、自分の本物の声をあまり聞きたいとは思わないこともある。(略)

 

 

多くの人が自分をあまり深く探らないように、心を砕いている。出世街道をひた走っている弁護士は、一休みして子供を産むように言う内なる声を抑え込むかもしれない。不満だらけの結婚生活にはまり込んだ女性は、その生活が提供する経済的な安心感を失うのを恐れる。(略)

 

 

だが人間至上主義は、私たちが多少の度胸を見せて、たとえ怖いものであっても内なるメッセージに耳を傾け、自分の本物の声を突き止め、困難をものともせずにその指示に従うことを求める。

一方、テクノロジーの進歩には、それとはかけ離れた狙いがある。テクノロジーの進歩は、私たちの内なる声に耳を傾けたがらない。その声を制御することを望む。これらの声をすべて生み出している生化学系を一旦理解すれば、私たちはさまざまなスイッチをいじり、ここでボリュームを上げ、そこでは下げ、という具合に調節し、人生をはるかに楽で快適にできる。

 

 

 

気が散った弁護士にはリタリン(訳註 中枢神経を興奮させる向精神薬)を、罪悪感を抱えた兵士にはプロザック(訳註 抗うつ薬)を、不満な妻にはシプラレックス(訳註 抗うつ薬)を与えるだろう。しかもそれはほんの序の口にすぎない。(略)

 

 

自分自身に耳を傾けるようにという人間至上主義の勧めは、多くの人生を破綻させてきたのに対して、適切な化学物質の適量の服用は、何百万もの人の幸福を増進し、人間関係を改善してきた。自分自身に本当に耳を傾けるためには、内なる悲鳴や酷評のボリュームをまず下げなければならない人もいる。(略)

 

 

臨床的うつ病の人は、将来有望なキャリアや健全な人間関係を繰り返し捨ててしまう。何らかの生化学的な不調のせいで、物事を暗い色の眼鏡を通して眺めてしまうからだ。(略)

サリー・アディーは、注意力を高めるヘルメットを使って頭の中のさまざまな声を沈黙させたとき、射撃の名手になれただけでなく、普段よりはるかに強い自己肯定感も得られた。

 

 

私たちはそれぞれ個人的には、こいうした問題について見方が異なるかもしれない。とはいえ、歴史的な視点に立てば、何か重大なことが起っているのは明らかだ。(略)

 

 

自分の頭の中のうるさい雑音を消すのは、素晴らしいアイディアのように思える。ただし、それによってついに、自分の奥底にいる本物の自己の声が聞こえるのであれば。だが、本物の自己などというものがないのなら、どの声を黙らせ、どの声のボリュームを上げるかを、どうやって決めればいいのか?(略)

 

 

彼は一〇万ドルを手に、クリニックに行く。モルモン教創始者のジョセフ・スミスに少しも劣らぬほど強い異性愛志向を抱くようになって帰ってこようと決意を固めて。(略)それからベルを鳴らすと、ドアが開き、ジョージ・クルーニーばりの医師が立っている。「先生」と、その魅力にすっかり参ってしまった若者は言う。「ここに一〇万ドルあります。どうか、二度と異性愛者になりたくならないようにしてください」

 

 

この若い男性の本物の自己は、自分が経験した宗教的な洗脳に打ち勝ったのだろうか?それとも、一時的な誘惑のせいで自分を裏切ったのだろうか?はたまた、従ったり裏切ったりできるような本物の自己などというものは、まったく存在しないのだろうか?(略)

 

 

人間至上主義によれば、人間の欲望だけがこの世界に意味を持たせるという。とはいえ、もし自分の欲望を選べるとしたら、いったい何に基づいてそうした選択ができるのか?(略)

じつは、テクノロジーの進歩が私たちのために生み出そうとしているのは、まさにそのような戯曲なのだ。もし私たちが自分の欲望を厄介に感じることがあっても、テクノロジーはそこから掬い出してくれることを約束する。

 

 

全宇宙がぶら下がっている釘が、問題を孕んだ場所に打ち込まれているときには、テクノロジーはその釘を抜き取り、別の場所に打ち込んでくれるだろう。だが、いったいどこに?もし私が宇宙のどこにでもその釘を打てるなら、どこに打つべきなのか?そして、よりによって、なぜそこでなければならないのか?

 

 

 

人間至上主義のドラマは、人々が厄介な欲望を抱いたときに展開する。たとえば、モンタギュー家のロミオがキャピレット家のジュリエットと恋に落ちたときは、はなはだ厄介なことになった。(略)そのようなドラマのテクノロジーによる解決は、私たちがけっして厄介な欲望を抱かないようにすることだ。ロミオやジュリエットが毒を飲む代わりに、不運な恋心を別の人に向け直すような薬を飲んだり、ヘルメットを被ったりできていたら、どれほどの痛みと悲しみが避けられたことか。

 

 

 

テクノ人間至上主義は、ここでどうしようもないジレンマに直面する。テクノ人間至上主義は、人間の意志がこの世界で最も重要なものだと考えているので、人類を促して、その意志を制御したりデザインし直したりできるテクノロジーを開発させようとする。

 

 

つまるところ、この世で最も重要なものを思いのままにできるというのは、とても魅力的だから。とはいえ、万一そのように制御できるようになったら、テクノ人間至上主義には、その能力を使ってどうすればいいのかわからない。

 

 

なぜならその時には、神聖な人間もまた、ただのデザイナー製品になってしまうからだ。私たちは、人間の意志と人間の経験が権威と意味の至高の源泉であると信じているかぎり、そのようなテクノロジーにはけっして対処できないのだ。

 

 

したがって、より大胆なテクノ宗教は、人間至上主義の臍の緒をすぱっと切断しようとする。そういうテクノ宗教は、何であれ人間のような存在の欲望や経験を中心に回ったりはしない世界を予見している。あらゆる意味と権威の源泉として、欲望と経験に何が取って代わりうるのか?ニ〇一六年の時点では、歴史の待合室でこの任務の採用面接を待っている候補が一つある。

 

 

 

その候補とは、情報だ。最も興味深い新興宗教はデータ至上主義で、この宗教は神も人間も崇めることはなく、データを崇拝する。」

 

 

 

ホモ・デウス (下) (第10章 意識の大海)

「恐れの匂いがする

 

医師や技術者や消費者が、精神疾患の治療とWEIRD社会での生活の享受に専念しているかぎり、標準未満の精神状態とWEIRDの心を研究していれば、私たちの必要は十分満たされたのかもしれない。標準的な人を対象とする心理学は、標準からの逸脱はどんなものであっても不当な扱いをする、としばしば非難されるとはいえ、ニ〇世紀には無数の人の苦しみを取り除き、何百万もの人の人生を救い、彼らの正気を保つことができた。

 

 

 

ところが三〇〇〇年紀幕開きの今、自由主義的な人間至上主義がテクノ人間至上主義に道を譲り、医学が病人の治療よりも健康な人のアップグレードにしだいに的を絞っていく中、私たちは完全に異なる種類の課題に直面している。

 

 

 

医師や技術者や消費者はもう、ただ精神的な問題を解決したがっているだけではなく、今や、心をアップグレードしようとしているのだ。私たちは、新しい意識の状態を創り出す作業に着手する技術的能力を獲得しつつあるが、そのような潜在的な新領域の地図はない。(略)

 

 

だから驚くまでもないのだが、ポジティブ心理学がこの学問領域で流行の下位分野になった。一九九〇年代に、マーティン・セリグマンやエド・ディーナーやミハイ・チクセントミハイといった一流の専門家は、心理学は精神疾患ばかりでなく、精神の持つ強みも研究するべきだと主張した。(略)

 

 

過去二〇年間、ポジティブ心理学は標準を超える精神状態の研究で、重要な最初の数歩を踏み出したが、ニ〇一六年の時点で、超標準の領域は、科学にとっておおむね人跡未踏の地のままだ。

そのような状況下で、私たちはまったく地図を持たずに突き進み、現在の経済や政治の制度が必要とする心的能力をアップグレードすることに的を絞り、他の能力は無視したり、ダウングレードしたりさえするかもしれない。

 

 

もちろん、これは完全に新しい現象ではない。過去何千年にもわたって、その時々の支配的な体制は、自らの必要性に応じて私たちの心を形作ったり、作り変えたりしてきた。

 

サピエンスはもともと、小さく親密なコミュニティの成員として進化し、その心的能力は巨大な機械の中の歯車として暮らすことに適応していなかった。

ところが、都市や王国や帝国の隆盛とともに、支配的な体制は、大規模な協力に必要とされる能力を培う一方、他の能力や技能はなおざりにした。

 

 

たとえば、太古の人間はおそらく、嗅覚を幅広く使っただろう。(略)一例を挙げよう。恐れは勇気とは違う匂いがする。人は恐れていると、勇気に満ちている時とは違う化学物質を分泌する。近隣の人々に対して戦争を始めるかどうかを議論している太古の生活集団の中に座っていたら、文字どおり世論を嗅ぎ取れただろう。

 

 

サピエンスがしだいに大きな集団を組織するようになると、鼻は社会的重要性の大半を失った。鼻が役に立つのは、少数の個人を相手にしているときだけだからだ。例えば、中国に対するアメリカの恐れを嗅ぎ取ることは出来ない。したがって、人間の嗅覚の力は軽んじられた。

 

 

何万年も前にはおそらく匂いに対処していた脳の領域は、読書や数学や抽象的な推論といったより切迫した課題に取り組むよう振り向けられた。社会を支配するシステムは、私たちのニューロンが隣人たちの匂いを嗅ぐより、微分方程式を解くことを好んだのだ。

 

 

 

同じことが私たちの他の感覚器官や、感覚に注意を向ける基本的な能力にも起った。古代の狩猟採集民は、つねに油断なく気を配っており、注意深かった。キノコを探して森を歩きまわっている時には、風に漂う匂いを慎重に嗅ぎ、地面を熱心に眺めた。

 

 

キノコが見つかると、細心の注意を払って食べた。味の微妙な差異を一つ一つ感じた。そうした違いによって、食べられるキノコと毒キノコとを区別できるからだ。今日の豊かな社会の人々には、そこまで鋭敏な自覚は必要ない。(略)

 

同様に、優れた交通機関のおかげで、私たちは町の反対側に住む友人と簡単に会える。だが、いっしょにいる時にさえ、この友人に注意をすべて向けることはない。おそらくどこか別の所で、もっとずっと面白いことが起っているものとばかり思っているので、絶えずスマートフォンフェイスブックのアカウントをチェックしているからだ。

 

 

現代の人間は、FOMO(見逃したり取り残されたりすることへの恐れ)に取り憑かれて、かつてないほど多くの選択肢があるというのに、何を選んでもそれに本当に注意を向ける能力を失ってしまった。

 

 

 

私たちは匂いを嗅ぐ能力や注意を払う能力に加えて、夢を見る能力も失ってきている。多くの文化では、夢の中で見たりしたりすることは、目覚めているときに見たりしたりすることに劣らず重要だと信じられていた。

 

 

だから人々は、夢を見たり、夢を覚えていたりする能力や、さらには、夢の世界での自分の行動を制御したりする(そういう夢を「明晰夢」という)能力まで、積極的に育んできた。明晰夢の達人たちは、夢の世界を思いのままに動き回ることができ、高次の存在の次元まで行ったり、異界からの訪問者に会ったりすることさえ可能だと主張した。

 

 

それに対して現代の世界では、夢はよくても潜在意識のメッセージ、悪くすれば心のゴミとして退けられる。その結果、夢が私たちの人生で果たす役割ははるかに小さく、夢を見る技術を積極的に伸ばす人はほとんどおらず、多くの人はまったく夢を見ない、あるいは一つも夢を思い出せない、と言い切る。

 

 

匂いを嗅いだり、注意を払ったり、夢を見たりする能力が衰えたせいで、私たちの人生は貧しく味気ないものになったのだろうか?そうかもしれない。だが、たとえそうだとしても、経済と政治の制度にとっては、十分価値があった。

 

 

職場の上司は部下には、花の匂いを嗅いだり、妖精の夢を見たりしているよりも、メールを絶えずチェックしていてほしいものだ。似たような理由から、人間の心に対する将来のアップグレードは、政治的な必要性と市場の力を反映する可能性が高い。

 

 

たとえば、注意力を高めるアメリカ陸軍のヘルメットは、兵士が明確に規定された任務に集注し、意思決定の過程を迅速化するのを助けることが狙いだ。とはいえそのヘルメットは、共感を示したり、疑いや内面的な葛藤に耐えたりする能力を弱めるかもしれない。

 

 

 

人間至上主義の心理学者たちは、苦悩している人は急場凌ぎの解決策は望ます、自分の恐れや不安に耳を傾けて同情してくれる人を求めることを指摘している。あなたが職場でずっと苦境に立たされているとしよう。新しい上司があなたの見方を認めてくれず、何でも自分の思い通りにさせないと気が済まないからだ。

 

 

ひときわ惨めな一日を過ごした後、あなたは友人に電話する。だが、彼はあなたのために割ける時間も元気もほとんどなく、あなたの話を遮り、問題を解決しようとする。「そうなのか。わかった。だったら、道は二つしかないね。仕事を辞めるか、踏みとどまって、上司の言う通りにするかのどっちか。僕だったら、辞めるだろうな」。これでは、ほとんど助けにならない。

 

 

本当の友人ならもっと辛抱強く、慌てて解決策を見つけようとはしないはずだ。あなたの悩みに耳を傾け、あなたの中でせめぎ合う感情や、心を苦しめる不安が浮かび上がってくるのを、じっくり待ってくれる。

 

 

注意力を高めるヘルメットは、せっかちな友人のような働きをする。もちろん、たとえば戦場でのように、断固たる決定を迅速に下さなくてはならない場合もある。だが、人生にはそれ以上のものがある。注意力を高めるヘルメットをますます多くの状況で使い始めたら、私たちは混乱や疑いや矛盾に耐える能力を失う羽目になるかもしれない。

 

 

匂いを嗅いだり、夢を見たり、注意を払ったりする能力を失ったのとちょうど同じように。社会を支配するシステムは私たちをその方向へ押しやる可能性がある。システムはたいてい、私たちが抱く疑いよりも下す決断に報いるからだ。とはいえ、断固とした決定や急場凌ぎの解決策ばかりの人生は、疑いや矛盾に満ちた人生よりも不毛で浅薄かもしれない。

 

 

 

心を生み出す実戦的な能力が、精神状態のスペクトルに関する私たちの無知や、政府と軍隊と企業の狭い関心と組み合わさると、災難の処方箋が出来上がる。

私たちは首尾よく体や脳をアップグレードできるかもしれないが、その過程で心を失いかねない。けっきょく、テクノ人間至上主義は人間をダウングレードすることになるかもしれない。

 

 

社会を支配するシステムがダウングレードされた人間を好む可能性があるのは、そういう人間が超人的な才覚を持つからではなく、システムの邪魔をして物事の進行を遅らせる、本当に厄介な人間の特性の一部を欠くことになるからだろう。

 

 

農民なら誰もが知っているとおり、人をいちばん手こずらせるのは、たいてい群れの最も賢いヤギで、だから農業革命には動物の心的能力をダウングレードするという側面があったのだ。テクノ人間至上主義が思いつくような第二の認知革命は、私たちに対して同じことをし、これまでよりもはるかに効果的にデータをやり取りして処理できるものの、注意を払ったり夢を見たり疑ったりすることがほとんどできない人間を生み出す恐れがある。

 

 

私たちは何百万年にもわたって、能力を強化されたチンパンジーだった。だが将来は、特大のアリになるかもしれない。」

 

 

〇 この項目はほとんど略さずにメモしました。

「本当の友人なら辛抱強く、あなたの中でせめぎ合う感情や不安が浮かび上がってくるのをじっくり待ってくれる……」という文章を読み、ショックでした。私の中に、そんな価値観はないように感じます。

 

一つには、友人の心にそこまで深く接触しようとするのは、私のすべきことではない、という感覚があります。

 

この後の部分には、「自分の本心を知ることから逃げようとする気持ち」について書かれているのですが、本人でさえ逃げたくなるような心に、私が踏み込んでいいのだろうかという遠慮があります。

 

しかも、言葉に対する不信があります。

こちらから発する言葉も、あいてが受け取る言葉も、本当の心を表すのにぴったりの言葉だとは限らない。

 

そんな感覚があって、私は友人に対して、そんな風に接したことがないような気がします。子供たちに対してさえ、できない。

これは、私だけなのかな…。

何か、全く違う文化を感じます。

 

 

 

 

 

 

 

 

 

 

ホモ・デウス (下) (第10章 意識の大海)

「その新しい宗教は、アフガニスタンの洞窟や中東のマドラサ(訳註 イスラムの諸学を学ぶための高等教育機関)からは現れ出てきそうにない。むしろ、さまざまな研究所から出現しそうだ。社会主義が蒸気と電気を通しての救済を約束して世界を席巻したのとちょうど同じように、今後の数十年間に、新しいテクノ宗教がアルゴリズムと遺伝子を通しての救済を約束して世界を征服するかもしれない。(略)

 

 

 

そこではハイテクの権威たちが、神とはおよそ無縁でテクノロジーがすべてである素晴らしき新宗教を私たちのために生み出しつつある。彼らも昔ながらの目的、すなわち幸福や平和や繁栄、さらには永遠の命さえ約束するが、それは天上の存在の助けを借りて死後に実現するのではなく、テクノロジーの助けを借りてこの地上で実現するという。

 

 

こうした新しいテクノ宗教は、テクノ人間至上主義とデータ教という、二つの主要なタイプに分けられる。データ教によると、人間はこの世界における自分の任務を完了したので、まったく新しい種類の存在に松明を手渡すべきだという。データ教の夢と悪夢については、次章で論じることにする。

 

 

 

本章ではもっと保守的な宗教であるテクノ人間至上主義をもっぱら取り上げる。この宗教は依然として、人間を森羅万象の頂点と見なし、人間至上主義の伝統的な価値観の多くに固執する。テクノ人間至上主義は、私たちが知っているようなホモ・サピエンスはすでに歴史的役割を終え、将来はもう重要ではなくなるという考え方には同意するが、だからこそ私たちは、はるかに優れた人間モデルであるホモ・デウスを生み出すために、テクノロジーを使うべきだと結論する。

 

 

ホモ・デウスは人間の本質的な特徴の一部を持ち続けるものの、意識を持たない最も高性能のアルゴリズムに対してさえ引けを取らずに済むような、アップグレードされた心身の能力も享受する。知能が意識から分離しつつあり、意識を持たない知能が急速に発達しているので、人間は、後れを取りたくなければ、自分の頭脳を積極的にアップグレードしなくてはならない。

 

 

 

 

七万年前、認知革命が起こってサピエンスの心が一変し、そのおかげで取るに足りないアフリカの霊長類の一つが世界の支配者になった。進歩したサピエンスの心は、広大な共同主観的領域へのアクセスを突如手に入れた。そのおかげで、サピエンスは神々や企業を生み出し、都市や帝国を建設し、書字や貨幣を発明し、ついには原子を分裂させ、月に到着することができた。

 

 

 

私たちの知る限りでは、驚天動地のこの革命は、サピエンスのDNAにおけるいくつかの小さな変化と、サピエンスの脳のほんのわずかな配線変更から生じた。だとしれば、私たちのゲノムにさらにいくつか変化を加え、脳の配線をもう一度変えるだけで、第二の認知革命を引き起こせるかもしれない、とテクノ人間至上主義は言う。

 

 

最初の認知革命による心の刷新で、ホモ・サピエンスは共同主観的な領域へのアクセスを得て、地球の支配者になった。第二の認知革命では、ホモ・デウスは想像もつかないような新領域へのアクセスを獲得し、銀河系の主になるかもしれない。

 

 

この考えは、進化論的な人間至上主義が抱いていた古い夢の、アップグレード版の一変種だ。なぜなら、進化論的な人間至上主義はすでに一世紀前、超人の想像を提唱していたからだ。ところが、ヒトラーやその同類が選抜育種や民族浄化によって超人を創造することをもくろんだのに対して、二一世紀のテクノ人間至上主義は、遺伝子工学ナノテクノロジーやブレイン・コンピューター・インターフェイスの助けを借りて、もっとずっと平和的にその目標を達成することを望んでいる。

 

心のスペクトル

 

テクノ人間至上主義は、人間の心をアップグレードし、未知の経験や馴染みのない意識の状態へのアクセスを私たちに与えようとする。とはいえ、人間の心を改造するとくのは、すこぶる複雑で危険な企てだ。第3章で論じたように、私たちは心というものを本当に理解してはいない。心がどのように現れるのかも、どのような機能を持っているのかもわかっていない。(略)

 

 

 

私たちは、初めて船を発明し、地図も目的地さえもないまま出航する、小さな離れ小島の住人のようなものだ。いや、それよりもいくぶん苦しい立場にある。私たちが想像している小島の住人は少なくとも、自分が、広大で神秘に満ちた海に浮かぶ、ほんのちっぽけな空間を占めているのにすぎないことを自覚している。

 

 

 

一方私たちは、ひょっとしたら際限のない、異質の精神状態の大海に浮かぶ、ちっぽけな意識の島に暮らしていることを正しく認識できずにいる。(略)

 

 

 

心理学者と生物学者は一世紀以上にわたって、自閉症から統合失調症まで、さまざまな精神障害精神疾患を抱えた人を広範に研究してきた。その結果、私たちは今日、標準未満のスペクトル、すなわち、感じたり、考えたり、意思を疎通させたりする能力が通常の水準に達していない状態の範囲の、不完全ながら詳しいうを持っている。

 

 

 

同時に、科学者たちは健康で標準的と考えられている人々の精神状態も研究してきた。とはいえ、人間の心や経験に関する科学研究の大半は、WEIRD(

訳註 「西洋の、高等教育を受けた、工業化された、裕福で、民主的な」という意味の英語の語句「Western,educated,industrialised,rich and democratic」の頭文字を取った造語。ちなみに、小文字で綴った「weird」という単語があり、この単語は、「変な」「奇妙な」「気味の悪い」といった意味を持つ」社会の人々を対象に行われてきており、彼らはけっして人類を代表するサンプルではない。(略)

 

 

 

言い換えれば、この権威ある雑誌に掲載された論文の個人サンプルの三分の二以上が、西洋の大学で心理学を学ぶ学生だったのだ。(略)

たとえ世界中に出かけて行って、あらゆるコミュニティを一つ残らず研究したとしても、依然としてサピエンスの精神状態のスペクトルのごく一部を調べたことにしかならない。今日、全人類が現代の影響を受けており、単一の「地球村」に属している。(略)

 

 

 

しかも、これはサピエンスの心についてのことでしかない。五万年前、私たちはお惑星を近縁のネアンデルタール人と共有していた。彼らはロケットを発射したり、ピラミッドを建設したり、帝国を打ち立てたりはしなかった。彼らはまったく異なる心的能力を持っており、私たちの持つ才能の多くを欠いていたことは明らかだ。

 

 

 

それでも、私たちサピエンスよりも大きな脳を持っていた。それほど多くのニューロンを使って、彼らはいったい何をしていたのか?皆目見当がつかない。だが、サピエンスが一度として経験した事のないような精神状態をいくつも持っていたことだろう。

とはいえ、かつて存在していた全人類を考慮に入れたとしても尚、精神状態のスペクトルを網羅するにはほど遠い。おそらく他の動物たちも、人間にはとても想像できないような経験をしているはずだ。

 

 

 

たとえばコウモリは反響定位によってこの世界を経験する。人間の可聴域をはるかに超えた高周波の声を、超高速で立て続けに発する。それから戻って来る反響音を感知して解釈し、背かに心象を作る。その心象は王に詳細で正確なので、コウモリは木々や建物の間を素早く飛びまわり、蛾や蚊を追って捕まえ、しかもその間ずっと、フクロウなどの捕食者はかわし続けることができる。(略)

 

 

 

チョウを反響定位するのがどんな感じかをサピエンスに説明しようとするのは、目の見えないモグラにカラヴァッジョの作品を目にするのがどういう感じかを説明するのと同じで、おそらく意味がない。(略)

 

 

 

もちろん、コウモリが特別なわけではない。コウモリは考え得る無数の例の一つにすぎない。サピエンスは、コウモリであるとはどのようなことかを理解できないのとちょうど同じように、クジラやトラやペリカンであるとはどんな感じかも理解するのに苦労する。(略)

 

 

 

私たちはこうした例のどれにも驚くべきではない。サピエンスが世界を支配しているのは、私たちが他の動物たちよりも深遠な情動を持っていたり、複雑な音楽的経験をしていたりするからではない。だから、情動と経験の分野の少なくとも一部では、私たちはクジラやコウモリ、トラ、ペリカンに劣っているかも知れないのだ。

 

 

 

人間やコウモリ、クジラ、その他あらゆる動物の精神状態のスペクトルの他には、さらに広大で馴染みのない大陸がいくつも待ち受けているかもしれない。サピエンスもコウモリも恐竜も、四〇億年に及ぶ地球上の進化史の中で一度も経験した事のない、果てしなく多様な精神状態が、おそらく存在するだろう。なぜなら、私たちにはそれに必要な器官がないからだ。

 

 

 

ところが将来は、強力な薬物や遺伝子工学、電離ヘルメット、直接的なブレイン・コンピューター・インターフェイスが、そうした大陸への航路を切り拓いてくれるかもしれない。コロンブスやマゼランが新しい島々や未知の大陸を探検するために水平線の彼方へと航海していったのとちょうど同じように、私たちもいつの日か、心という惑星の反対側へ向かって大海へ乗り出すかもしれない。」

 

 

 

 

 

 

 

 

 

 

 

 

ホモ・デウス (下)

「不平等をアップグレードする

 

ここまでは、自由主義に対する三つの実際的な脅威のうち、二つを見て来た。その第一は、人間が完全に価値を失うこと、第二が、人間は集団として見た場合には依然として貴重ではあるが、個人としての権威を失い、代わりに、外部のアルゴリズムに管理されることだ。(略)

 

 

自由主義に対する第三の脅威は、一部の人は絶対不可欠でしかも解読不能のままであり続けるものの、彼らが、アップグレードされた人間の、少数の特権エリート階級となることだ。(略)

 

 

人類が生物学的カーストに分割されれば、自由主義イデオロギーの基盤が崩れる。自由主義は、社会経済的な格差とは共存できる。それどころか、自由主義は平等よりも自由を好むので、そのような格差はあって当然と考える。とはいえ自由主義は、人間はすべて等しい価値と権限を持っていることを、依然として前提としている。

 

 

自由主義の視点に立つと、ある人が億万長者で壮麗な大邸宅に住んでおり、別の人が貧しい農民で、藁の小屋に住んでいても、いっこうにかまわない。なぜなら自由主義に従えば、その農民ならではの経験もやはり、億万長者の経験とまさに同じぐらい貴重ということになるからだ。(略)

 

 

同じ論理が選挙の日にも働く。貧しい農民の一票も、億万長者の一票と完全に同じ価値を持つからだ。社会的不平等に対する自由主義の解決策は、全員のために同じ経験を生み出そうとするのではなく、異なる人間の経験に等しい価値を与えることだ。(略)

 

 

アンジェリーナ・ジョリーは「ニューヨーク・タイムズ」紙の生地で、遺伝子検査の高額な費用に触れた。ジョリーが受けた検査には三〇〇〇ドル以上かかった(これには乳房切除手術そのものや再建手術や関連の治療の費用は含まれていない)。これは、一日あたりの稼ぎが一ドル未満の人が一〇億人、一ドルから二ドルの人がさらに一五憶人いる世界での話だ。これらの人は死ぬまで一生懸命働いても、お金がなくて三〇〇〇ドル以上もする遺伝子検査は受けられない。

 

 

しかも現在、経済的な格差は拡がる一方だ。二〇一六年初めの時点で、世界の最富裕層六ニ人の資産を合わせると、最貧層の三六億人の資産の合計に匹敵する!

世界の人口はおよそ七ニ憶人だから、これら六ニ人の大富豪が集まれば、人類の下位半分の持つ資産の合計に匹敵する富を持っていることになる。(略)

 

 

 

豊かな人々は、歴史を通して社会的優越や政治的優越の恩恵にあずかってきたが、彼らを貧しい人々と隔てるような巨大な生物学的格差はなかった。中世の貴族は、自分たちの血管には優れた青い血が流れていると主張し、ヒンドゥー教バラモンは、自分は生まれつき他の人々よりも賢いと断言したが、それはまったくの作り話だった。ところが将来は、アップグレードされた上流階級と、社会の残りの人々との間に、身体的能力と認知的能力の本物の格差が生じるかも知れない。

 

 

科学者はこの筋書きを突きつけられると、たいてい次のように応じる。二〇世紀には、医学の飛躍的発展は豊かな人々を対象に起こることが多すぎたものの、やがてその恩恵は全人口に及び、社会的格差を拡げるのではなく縮めるのに役立った、たとえば、ワクチンや抗生物質は、最初は主に西洋諸国の上流階級に利益をもたらしたが、今日では、あらゆる場所で、すべての人の生活を向上させている、と。

 

 

 

ところが、この過程が二一世紀にも繰り返されると期待するのは考えが甘すぎるかもしれない。それには二つの重要な理由がある。第一に、医学は途方もない概念的大変革を経験している。

 

 

二〇世紀の医学は病人を治すことを目指していた。だが、二一世紀の医学は、健康な人をアップグレードすることに、しだいに狙いを定めつつある。病人を治すのは平等主義の事業だった。(略)それに対して、健康な人をアップグレードするのはエリート主義の事業だ。(略)

 

 

 

したがって、二〇七〇年には、貧しい人々は今日よりもはるかに優れた医療を受けられるだろうが、それでも、彼らと豊かな人々との隔たりはずっと拡がることになる。人はたいてい、不運な祖先とではなく、もっと幸運な同時代人と自分を比較する。(略)

 

 

 

そのうえ、どれだけ医学上の飛躍的発展があっても、二〇七〇年に貧しい人々が今日よりも良い医療を享受できるかどうか、絶対的な革新は持てない。国家もエリート層も、貧しい人に医療を提供することに関心を失っているかも知れないからだ。(略)

 

 

 

一九一四年に日本のエリート層が、貧しい人々に予防接種をしたり、貧民街に病院と下水設備を建設したりすることに熱心だったのは、日本を強力な軍隊と活発な経験を持つ大国にしたければ、何百万もの健康な兵士と労働者が必要だったからだ。

 

 

 

だが、大衆の時代は終わりをつげ、それとともに大衆医療の時代も幕を閉じるかもしれない。人間の兵士と労働者がアルゴリズムに道を譲る中、少なくとも一部のエリート層は、次のように結論する可能性がある。

 

 

無用な貧しい人々の健康水準を向上させること、あるいは、標準的な健康水準をすることさえ、意味がない、一握りの超人たちを通常の水準を超えるところまでアップグレードすることに専心するほうが、はるかに懸命だ、と。(略)

 

 

 

並外れた身体的能力や情緒的能力を持った超人が出現したら、自由主義信仰はどうやって生き延びるのか?そのような超人の経験が、典型的なサピエンスの経験と根本的に違うものになったら、何が起こるのか?超人は、卑しいサピエンスのドロボウたちの経験を描いた小説に飽き飽きし、一方、平凡な人間は超人の恋愛を題材にしたメロドラマが理解できないとしたらどうなるのか?

 

 

 

飢饉と疫病と戦争の克服という、二〇世紀の人類の壮大なプロジェクトは、誰にも例外なく豊かさと健康と平和を与えるという、普遍的な規範を守ることを目指した。不死と至福と神性を獲得するという二一世紀の新しいプロジェクトも、全人類に尽くすことを願っている。

 

 

 

ところが、これらのプロジェクトは通常の水準を維持するのではなく凌ぐことを目指しているため、新しい超人のカーストを生み出し、そのカースト自由主義に根差す過去を捨て、典型的な人間を、一九世紀のヨーロッパ人がアフリカ人を扱ったのと同じように扱う可能性がある。

 

 

 

もし科学的な発見とテクノロジーの発展が人類を、大量の無用な人間と少数のアップグレードされた超人エリート層に分割したなら、あるいは、もし権限が人間から知能の高いアルゴリズムの手にそっくり移ったなら、そのときには自由主義は崩壊する。そうなったとき、そこに生じる空白を埋め、神のような私たちの子孫の、その後の進化を導いていくのは、どんな新しい宗教あるいはイデオロギーなのだろう?」

 

 

〇 読んでいてとても嫌な気分になりました。理由は、「将来こうなってしまったら困る…」という悲観的予想によるものだ、と思っていました。でも、今回こうしてキーボードを打ちながら、もう一度この部分を読むと、この状況は、「将来の悲観的想像」ではなく、「現在の日本の状況」だ、と気付きました。

 

 

● 私たちの間に今ある空気=見えない「物語」は信じない

● 人々が何を欲するかを形にすることが一番必要で正しい事。

  そこを「商売」にすることが成長戦略につながる。

  成長戦略を打ち立てることが国の重要な問題。

● 人権とか民主主義などは、国際社会の中でやっていくために、

 一応大切にしているふりをしなければならないが、現実には、

  西洋からの借り物で、日本古来のの思考パターンからは、

  生まれ るはずのないもの。

● 私たちの社会では、人には生まれ持った「格」があると

 考えられており、それは、動かしがたいもの。

 

そんな風土の日本は、ある意味、世界で最も時代の最先端を行っているのかもしれない、と感じました。

つまり、日本の現在のあり方を見れば、世界(愛を信じ、人権を守ろうと戦い、民主主義を造り上げた)の将来像を見ることができるのではないか、と思います。

 

人々は、見えるもの=経済(損得)しか信じない。

生きる意味は欲望に従う事。美味しいものを食べ、したいこと、面白いことをするために生きている。

弱い者、貧しい者、税金を払わないものは、社会における厄介者、迷惑をかける者なので、大切にする必要はない。

 

子供たちが育つ、学校の中には、すでにカースト制度があり、

次の世代に受け継ぐべき価値観を育てている。

 

正義も公正も理想など、語っても意味のないことは、学ぶに値しないことなので、そのような学部には、税金を投入しない。

うまく、ごまかし、一見正しいように見える事だけが必要。

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ホモ・デウス (下)

マイクロソフトは、「cortana(コルタナ)」と呼ばれる、それよりもはるかに高性能のシステムを開発している。(略)

ユーザーはコルタナに自分のファイルやメールやアプリへのアクセスを許すことを奨励される。コルタナがユーザーを知り、それによって、無数の件に関して助言を提供するとともに、ユーザーの関心を実行に移すバーチャルな代理人にもなれるようにするためだ。

 

 

 

コルタナはあなたが妻の誕生日に何か買うつもりだったことを思い出させ、プレゼントを選び、レストランのテーブルを予約し、処方されている薬を夕食の一時間前に飲むように促す。今読書をやめなければ、重要なビジネスミーティングに遅れてしまうと注意してくれる。(略)

 

 

コルタナは権限を獲得するにつれ、主人の利益を増進するために互いに操作し合い始めるかも知れないので、求人市場や結婚市場での成功は、あなたのコルタナの性能にしだいに依存するようになりかねない。最新式のコルタナを持っている豊かな人々は、古いバージョンしか持っていない貧しい人よりも圧倒的優位に立つ。

 

 

だが、最も厄介な問題は、コルタナの主人のアイデンティティにまつわるものだ。すでに見た通り、人間は分割不能の個人ではなく、単一の統一された自己は持っていない。それならば、コルタナは誰の利益のために働けばいいのか?私の物語る自己が新年の決意として、ダイエットを始めて毎日スポーツジムに行くことにしたとしよう。

 

 

 

一週間後、ジムに行く時が来たら、経験する自己がコルタナにテレビのスイッチを入れてピザを注文するように指示する。コルタナはどうするべきなのか?経験する自己に従うべきか、それもと、物語る自己が一週間前に宣言した新年の決意に従うべきか?

 

 

 

経験する自己を仕事に間に合う時間に起こすように、物語る自己が夜にかけておく目覚まし時計と、コルタナは本当に違うのだろうか?と思う人もいるだろう。だがコルタナは、目覚まし時計よりもはるかに大きな力を私に振うことになる。経験する自己はボタンを押して目覚まし時計を黙らせることができる。それに対してコルタナは、私のことを知り尽しているので、自分の「助言」に従わせるためには、私の内なるボタンのどれを押せばいいのか、完全にわかっている。

 

 

 

この分野はマイクロソフトのコルタナの独占ではない。Google Now(グーグル・ナウ)やアップルのSiri(シリ)も、同じ方向を目指している。アマゾンもアルゴリズムを使い、あなたを研究したうえで、蓄積した知識を利用して製品を推奨する。(略)

 

 

だが、これはほんの序の口にすぎない。今日、アメリカでは印刷された本よりも電子書籍を読む人の方が多い。アマゾンのキンドルのような機器は、ユーザーが読んでいる間にデータを収集できる。たとえば、キンドルはあなたがどの部分を素早く読み、どの部分をゆっくり読むかや、どのページで読むのを中断して一休みし、どの文で読むのをやめて二度と戻ってこなかったかをモニターしている(著者にその部分を少しばかり手直しするように伝えるといいだろう)。

 

 

 

もしキンドルがアップグレードされ、顔認識とバイオメトリックセンサーの機能を備えれば、あなたが読んでいる一つひとつの文が、心拍数や血圧にどのような影響を与えたかを読み取れるようになる。(略)

 

 

やがて、私たちはこの全知のネットワークからたとえ一瞬でも切り離されてはいられなくなる日が来るかもしれない。切り離されたら、それは死を意味する。もし医療の分野の希望が実現したら、未来の人間はバイオメトリック機器や人工臓器やナノロボットをたくさん体内に取り込み、健康状態をモニターしたり、感染症や疾患や損傷から守ってもらったりすることになる。(略)

 

 

もし自分の体のアンチウイルスプログラムを定期的にアップデートしなければ、ある日目が覚めたら、自分の血管を流れる何百万ものナノロボットを、北朝鮮ハッカーが好き勝手に操っていたという事態を招きかねない。

 

 

 

このように、二一世紀の新しいテクノロジーは、人間至上主義の革命を逆転させ、人間から権威を剥ぎ取り、その代わり、人間ではないアルゴリズムに権限を与えるかもしれない。(略)

 

 

この展開に恐れをなしている人もたしかにいるが、無数の人がそれを喜んで受け入れているというのが現実だ。すでに今日、大勢の人が自分のプライバシーや個人性を放棄し、生活の多くをオンラインで送りあらゆる行動を記録し、たとえ数秒でもネットへの接続が遮断されればヒステリーを起す。

 

 

人間からアルゴリズムへの権威の移行は、政府が下した何らかの重大決定の結果ではなく、個人が日常的に行なう選択の洪水のせいで、私たちの周り中で起こっているのだ。

用心していないと、私たちの行動のいっさいだけでなく、体や脳の中で起こることさえ、絶えずモニターし、制御する、オーウェル風の警察国家を誕生させかねない。

 

 

考えてもみてほしい。もしあらゆる場所にバイオメトリックセンサーを配備できたら、スターリンがどんな使い道を思いついていたことか?あるいは、プーチンが思いつきかねないか?とはいえ、人間の個人性の擁護者が二〇世紀の悪夢の再現を恐れて、お馴染みのオーウェル風の敵たちに抵抗する覚悟を固めるなか、人間の個人性は今や、逆方向からのなおさら大きな脅威に直面している。

 

 

 

二一世紀には、個人は外から情け容赦なく打ち砕かれるのではなくむしろ、内から徐々に崩れていく可能性の方が高い。

今日、ほとんどの企業と政府は、私の個人性に敬意を表し、私ならではの要求や願望に合わせた医療と教育と娯楽を提供することを約束する。だが、そうするためには、企業と政府はまず、私を生化学的なサブシステムに分解し、至る所に設置したセンサーでそれらのサブシステムをモニターし、強力なアルゴリズムでその働きぶりを解明する必要がある。

 

 

 

この過程で個人というものは、宗教的な幻想以外の何物でもないことが明るみに出るだろう。現実は生化学的アルゴリズムと電子的なアルゴリズムのメッシュとなり、明快な境界も、個人という中枢も持たなくなる。」

 

〇 昔見た映画、羊たちの沈黙の中でも、プロファイリングという手法で、

犯人像を想定していました。不特定多数の人間の中からある特定の人を割り出す時には、その人間を「生化学的なサブシステムに分解し、至る所に設置したセンサーでそれらのサブシステムをモニターし、強力なアルゴリズムでその働きぶりを解明する……」

 

ここには、人間というものを広く大きく、「生化学的に」見る視点があるのは、

わかります。

でも、何度も言いますが、人間には、「物語る」視点があり、「宗教的に」見る視点もある。

そんな風に考えずにはいられないのが、人間だったので、ここまで、大勢で力を合わせ、様々な結果を出して来た、という事実があります。

 

 

現実には、物語る思考や宗教的な幻想は、目に見えないものなので、なんら、科学的な「実証」を示すことができない。だから、それを「無い」「偽り」として、有る物だけを拠り所に人間を考えようとするので、「個人というものは、宗教的な幻想以外の何物でもない」という結論になってしまうのだと思います。

 

本当にそれでいいのか?

という疑問が心の底から湧き上がってきます。

 

 

 

 

 

 

 

ホモ・デウス (下) (第9章 知能と意識の大いなる分離)

〇 再び下巻を借りたので、前回メモできなかった部分をメモしておきます。

 

この前の部分は、こちらです。

 

「巫女から君主へ

 

グーグルやフェイスブックなどのアルゴリズムは、いったん全知の巫女として信頼されれば、おそらく代理人へ、最終的には君主へと進化するだろう。この道筋を理解するには、今や多くの運転者が使う、GPSに基づいたナビケーション・アプリの「Waze(ウェイズ)」の場合を考えるといい。(略)

 

 

一見すると、ウェイズのアルゴリズムは巫女のような役割を果たしているだけに思える。あなたが質問すると、巫女が答えるが、決定を下すのはあなただ。ところが巫女があなたの信頼を勝ち取れば、当然、次のステップは巫女を代理人に変えることだ。あなたはアルゴリズムに最終目的だけを告げ、アルゴリズムがあなたの監督なしに、その目的を達するために行動する。(略)

 

 

 

そしてついには、ウェイズは君主になるかもしれない。途方もない力を手にし、あなたよりもはるかに多くを知っているウェイズは、あなたや他の運転者たちを操作し、あなたの欲望を形作り、あなたに代わって決定を下し始めるかも知れない。

 

 

たとえば、ウェイズはとても性能が良いので、誰もが使い始めたとしよう。そして、ルート1号では交通渋滞が発生しているけれど、その代わりとなるルート2号は比較的空いているとしよう。たんにウェイズが運転者全員にそれを知らせるだけでは、彼らはルート2号に殺到するので、こちらの道も渋滞してしまう。

 

 

誰もが同じ巫女を利用し、誰もがその巫女を信用しているときには、巫女は君主に替わる。だからウェイズは私たちのために考えなければならない。ひょっとするとウェイズは、運転者の半数にしかルート2号が空いていることを伝えず、残りの半数にはこの情報を伏せておくかもしれない。そうすれば、ルート2号を混雑させずに、ルート1号の渋滞を緩和できる。」

 

 

〇 巫女が君主への意味が分かりました。