「生身の兵士は予測不能の面を持ち、恐れや飢えや疲労に影響されやすいことに加えて、しだいに不適切な時間スケールで考えたり行動したりするようになっている。バビロニア王ネブカドネザルの時代からイラクのサダム・フセインの時代まで、無数のテクノロジー上の進歩があったにも関わらず、戦争は生物の時間スケールで行われてきた。
議論は何時間も続き、戦いには何日もかかり、戦争は何年も長引いた。ところが、サイバー戦争は数分で終わりうる。サイバー司令部の当直の中尉が、何か異常なことが起っているのに気づくと、士官に電話し、上官はただちにホワイトハウスに通報する。
残念ながら、大統領がホットラインの送受話器に手を伸ばした時には、すでに戦争で敗北している。十分に高度なサイバー攻撃を行なえば、数秒のうちにアメリカの送電網は遮断され、各地の航空管制センターは麻痺し、原子力発電所や化学施設では多数の産業事故が発生し、警察と軍と諜報機関のコミュニケーションネットワークが不通になり、財務記録が消し去られて何兆ドルものお金が跡形もなく消え、誰がどれだけ持っていたかがわからなくなりかねない。
一般大衆がかろうじてヒステリーを起こさずに済むとすれば、それは、インターネットもテレビもラジオも使えなくなり、人々がこの災難の規模の大きさに気づかないからだろう。（略）
経済の領域でも、ハンマーを握ったりボタンを押したりする能力は以前に比べて価値が落ちており、それが自由主義と資本主義の重要な提携を危険にさらしている。二〇世紀には、私たちは倫理と経済のどちらかを選ばなくていいと自由主義者は説明した。人権と自由を守るのは、道徳的な義務であると同時に経済成長のカギでもあった。
イギリスとフランスとアメリカが繁栄したのは、これら三国が自国の経済と社会を自由化したからで、トルコやブラジルや中国が同じぐらい繁栄したければ、同じことをしなければならないとされていた。すべてではないにせよ、ほとんどの場合、専制君主やクーデター後の軍事政権が自由主義化する気になったのは、道徳的理由ではなく経済的理由からだった。
二一世紀には、自由主義者は自らを売り込むのがずっと難しくなるだろう。一般大衆が経済的重要性を失った時、道徳的理由だけで人権と自由が守れるだろうか？エリート層と政府は、経済的な見返りがなくなったときにさえ、一人ひとりの人間を尊重し続けるだろうか？（略）
そこで、今までにない疑問が出てくる。知能と意識では、どちらの方が本当に重要なのか？両者が結びついていた時には、総体的な価値を議論するのは哲学者の愉快な気晴らしにすぎなかった。
だが、これは二一世紀には、切迫した政治的、経済的な問題になっている。そして、その答えを知ったら、ぎょっとするだろう。少なくとも軍と企業にとっては答えは単純明快で、知能は必須だが意識はオプションにすぎない、なのだ。
軍と企業は知能が高い行動主体なしでは機能できないが、意識や主観的経験は必要としない。生身のタクシー運転手の意識的経験は、自動運転車の経験よりも計り知れないほど豊かだ。自動運転車は何一つ感じないからだ。（略）
だが、交通システムはタクシー運転手にはそこまで要求しない。乗客をA地点からB地点までなるべく速く、安全に、安く運べさえすればいいのだ。そして、自動運転車は間もなくそれを人間よりもはるかにうまくやれるようになる。音楽を楽しんだり、万物の神秘に対する畏敬の念に打たれたりすることはないが。（略）
能力を強化されていない人間は、遅かれ早かれ完全に無用になると予測する経済学者もいる。シャツの製造などでは、手作業をする労働者はすでにロボットや３Dプリンターに取って代わられつつあるし、ホワイトカラーも非常に知能の高いアルゴリズムに道を譲るだろう。
銀行員や旅行業者は、ほんの少し前まで自動化の波に対して安全だと思われたのに、今や絶滅危惧種になった。スマートフォンを使ってアルゴリズムから飛行機のチケットを買えるときに、旅行業者がいったいどれだけ必要だろう？(略）
今度はIBMの有名なワトソンのことを考えてほしい。二〇一一年に過去のチャンピオン二人を破ってテレビのクイズ番組「ジェパディ！」で優勝したAIシステムが。ワトソンは現在、もっと重要な仕事、特に病気の診断をするために準備を重ねている。
ワトソンのようなAIには、人間の医師をはるかに凌ぐ潜在能力がある。第一に、AIは自分のデータバンクに、歴史上知られているすべての病気と薬についての情報を保存しておける。そうしておいて、新しい研究の成果だけではなく、接続している世界中のありとあらゆるクリニックや病菌から集めた医学的統計を組み込み、このデータバンクを毎日アップデートできる。
第二に、ワトソンは私のゲノム全体と日々の健康状態や病歴を詳しく知っているだけでなく、私の親や兄弟姉妹、親戚、隣人、友人のゲノムと健康状態や病歴も知り尽している。ワトソンは私が最近、熱帯の国を訪れたかどうかや、再発性のウィルス性胃腸炎にかかっているかどうか、身内に大腸や小腸の癌になった人がいるかどうか、町中の人が今朝、下痢の症状を訴えているかどうかを瞬時に知る。（略）
医師に当てはまることは、薬剤師にはなおさらよく当てはまる。二〇一一年、ロボットがたった一台で応対する調剤薬局がサンフランシスコで開業した。人間がその薬局にやってくると、数秒のうちにロボットが処方箋を全部受け取るとともに、その人が服用している他の薬や、抱えているかも知れないアレルギーについての詳しい情報も入手する。（略）
開業から一年で、このロボット薬剤師は処方箋に従って二〇〇万回の調剤を行なったが、一度としてミスは犯さなかった。生身の人間の薬剤師は、平均するとすべての調剤のうち一・七パーセントで間違える。これはアメリカだけでも、なんと、毎年五〇〇〇万回の調剤ミスに相当する。（略）
無用者階級
二一世紀の経済にとって最も重要な疑問はおそらく、厖大な数の余剰人員をいったいどうするか、だろう。ほとんど何でも人間よりも上手にこなす、知能が高くて意識を持たないアルゴリズムが登場したら、意識のある人間たちはどうすればいいのか？
歴史を通して求人市場は三つの部門に分かれていた。農業、工業、サービス業だ。一八〇〇年頃までは、大半の人は農業に従事しており、工業をサービス業で働く人はほんのわずかだった。その後、産業革命の間に、先進国の人々は農地や家畜から離れた。大多数は工業の分野で働き始めたが、サービス部門で仕事に就く人もしだいに増えて行った。
過去数十年間に、先進国は新しい革命を経験した。工業の仕事が消え、サービス部門が拡大したのだ。アメリカでは二〇一〇年には、農業で暮らしを立てる人はわずか二パーセント、工業部門で働く人は二〇パーセントだったのに対して、七八パーセントの人は、教師や医師やウェブページデザイナーなどの職に就いていた。
心を持たないアルゴリズムが人間より上手に教えたり、診断を下したり、デザインをしたりできるようになったら、私たちはどうしたらいいのか？
これは真新しい疑問ではない。産業革命が勃発して以来、人々は機械化のせいで大量の失業者が出ることを恐れて来た。
ところが、そういうことにはならなかった。昔ながらの職業が時代遅れになるなかで、新しい職業が誕生してきたし、機械よりも人間の方がうまくこなせることがつねにあったからだ。とはいえ、これは自然の摂理ではなく、今後もその状態が続くという保証はまったくない。（略）
意識をももたないアルゴリズムに手の届かない無類の能力を人間がいつまでも持ち続けるというのは、希望的観測にすぎない。この幻想に対する現在の科学的な答えは、以下の三つの単純な原理に要約できる。
１ 生き物はアルゴリズムである。ホモ・サピエンスも含め、あらゆる動物は膨大な歳月をかけた進化を通して自然選択によって形作られた有機的なアルゴリズムの集合である。
２ アルゴリズムの計算は計算機の材料には影響されない。算盤は木でいていようが、鉄でできていようが、プラスティックで出来ていようが、二つの珠と二つの珠を合わせれば四つの珠になる。
３ したがって、有機的なアルゴリズムにできることで、非有機的なアルゴリズムにはけっして再現したり優ったりできないことがあると考える理由はまったくない。計算が有効であるかぎり、アルゴリズムが炭素の形を取っていようとシリコンの形を取っていようと関係ないではないか。
たしかに現時点では、有機的なアルゴリズムのほうが非有機的なアルゴリズムよりも上手にできることがとてもたくさんあるし、非有機的なアルゴリズムには「永遠に」けっして手の届かないこともあると専門家たちは繰り返し宣言してきた。
だがいざ蓋を開けて見ると、「永遠に」というのが実は一〇ねんか二〇年にすぎないことがしばしばある。（略）
彼らはコンピューターにはけっしてチェスで人間を打ち負かすことはできないと信じていた。ところが一九九六年二月一〇日、ＩＢＭのコンピュータ―、ディープ・ブルーがチェスの世界チャンピオンのガルリ・カスパロフを破り、人間の優位に関するこの主張を葬り去った。（略）
実際、時が流れるとともに、人間をコンピューターアルゴリズムに置き換えるのは、ますます簡単になっている。それは、アルゴリズムが利口になっているからだけではなく、人間が専門化しているからでもある。
太古の狩猟採集民は、生き延びるためにじつにさまざまな技能を身に着けた。だから、ロボットの狩猟採集民を設計するのは途方もなく難しいだろう。（略）
ところが過去数千年の間、私たち人間はずっと専門化を進めて来た。タクシー運転手や心臓専門医は、狩猟採集民と比べて得意な分野が非常に限られているので、ＡＩに置き換えやすいのだ。（略）
アルゴリズムが人間を求人市場から押しのけていけば、富と権力は全能のアルゴリズムを所有する。ほんのわずかなエリート層の手に集中して、空前の社会的・政治的不平等を生み出すかもしれない。今日、何百万というタクシーやバスやトラックの運転手は、強い経済的・政治的影響力を持っており、それぞれが輸送市場を少しずつ占有している。
もし彼らの集団的利益が脅かされたら、連合してストライキを始め、ボイコットを展開し、強力な投票者集団を形成する。ところが、何百万もの人間の運転手たちが単一のアルゴリズムにいったん取って代わられてしまえば、彼らの富と権力はすべて、そのアルゴリズムを所有する企業と、その企業を所有する一握りの大富豪たちに独占されてしまうだろう。（略）」
」
