ルイス・A・デルモンテ著「AI・兵器・戦争の未来」を読んだ。本書は、今から数十年後、2040年から2050年以降の21世紀の後半に全能兵器が誕生するまでのプロセスについて、人工知能（AI）を中心に脳科学やロボット工学、ナノテク分野の科学的成果を取り入れながら、今後起こりうるストーリーを紹介している。

兵器は、21世紀前半の戦場を支配する自律型兵器から、21世紀後半の戦場を支配する全能兵器に移行し、倫理的葛藤と人類への潜在的脅威をもたらす。自律型兵器の背後にある推進力は、AIテクノロジーの飛躍的進歩と人命を危険にさらさずにAIロボットで戦争したいという人間性である。

AI研究者は2040年から2050年の時間枠で、AIは人間の知能と同等になる可能性が50%であると予測している。同じ専門家は、AIは2070年にはすでに「人間のあらゆる関心領域において人間の認知能力をはるかに超える」と予測し、それを「シンギュラリティ」（技術的特異点）と呼んでいる。本書では、シンギュラリティ以後のコンピュータおよびこの水準に到達したAIコンピュータを「超絶知能」、超絶知能によって制御される兵器を「全能兵器」と呼ぶ。

2008年、オックスフォード大学の「世界巨大リスク会議」に属する専門家を対象とした調査によると、今世紀の終わりまでに人類が絶滅する可能性は19%世いう結果が出た。最も可能性の高い順から四つの原因を挙げると、次のようになる。
　１ 分子ナノテクノロジー兵器：五パーセントの可能性
　２ 超絶知能AI：五パーセントの可能性
　３ 戦争：四パーセントの可能性
　４ 人口パンデミック：二パーセントの可能性

現在、アメリカ、ロシア、中国は致死性兵器システムの中でAIを精力的に開発・配備している。オックスフォードの将来評価を検討してみると、人類は我々を絶滅へと追いやる四つの原因のうち三つ［先の１，２，３］を結び付けようとしているかに見える。

21世紀の第4四半世紀までには、多くの生身の人間が自分自身の知能増強のため、脳内インプラントを欲するようになる。かれらは「強い人工知能を持つ人間」を意味するSAIH(strong artificially intelligent human)となり、スーパーコンピューターに無線でつながり、生身の人間であった時よりも、その知能は大幅に上回る。
SAIHは人口の大半を占め、社会の公共・民間部門を支配するだろう。超絶知能の目標は自らの正体を隠し、すべての人間をSAIHとして吸収してしまうことだ。

SAIHの問題点は、超絶知能に操られ自由意志を持たないこと、生きる時間がわずかであることだ。SAIHは生身の人間と同様の資源を必要とする上、脳内インプラントや超絶知能との無線交信に多くのエネルギーを必要とするため、超絶知能にとって不利益となる。さらに超絶知能は自己複製型のナノボットを開発し、地球内部や他の惑星、宇宙全体の資源採掘に活用するだろう。そうした活動にSAIHを必要としないだろう。

SAIHになることは、人類絶滅への最初のステップとなる。地球はマシンに占拠され、有機的生命体が存在しない不毛の世界に変わり果ててしまう可能性がある。
コンピュータの知能が人間レベルに到達したときこそが、知能爆発の始まりと考えられる。そのときコンピュータは独力で次世代のさらに進んだコンピュータを設計できるようになる。

シンギュラリティは量子コンピュータの中で起こり、人間には[コンピュータ内で]どのような技術が作用しているのか知る術がない。AIの技術開発の一世代か二世代のうちに、人類は最上位の地位を知能マシンに譲り渡し、人類絶滅のリスクを冒すことになる。

21世紀第4四半期頃、SAIHが地球上の人口の大半を占めるようになり、人類は各種兵器を超絶知能の制御下に置くことになるだろう。そして全能兵器を備えた超絶知能の出現が人類の絶滅をもたらす可能性がある。