目次

　　　　はじめに

第１章　意識　AIはどこまで信頼できるか
　　　　──マックス・テグマーク
　　　　人間を超える知能の開発は可能か？
　　　　宇宙物理学者にとって知能とは
　　　　「理解可能」なAIの条件
　　　　「失敗から学ぶ」では済まないAIの安全性研究
　　　　安全で有益な知能は開発できるか──「アシロマAI原則」
　　　　意識とはどのような「情報処理」か
　　　　意識を持つAIと持たないAIを作り分けるべき
　　　　人生の意味や目的はどのように得られるのか
　　　　AIの「心」の設計には自由度がある
　　　　意識の研究がついに科学的に検証可能なものになる？
　　　　超知能が実現した未来の人間の役割
　　　　AI以後に生まれる経済モデル
　　　　AIがゼロサムゲームや格差社会を解消する？
　　　　超知能に目標を理解させるには

第２章　倫理　AIに正義は決められるか
　　　　──ウェンデル・ウォラック
　　　　世界放浪の末にAIの世界へ
　　　　AIがもたらす破壊的なリスクは避けられるか
　　　　AIが貧富の差を拡大させる？
　　　　60s「政治の季節」の歴史から学ぶ倫理
　　　　機械に「道徳」は実装できるか
　　　　AIも道徳を学ばなければならない
　　　　AIは「不完全な鏡」である
　　　　すべては啓蒙思想から始まった
　　　　「人類の将来を握るテクノロジーが運転席に着いた」
　　　　「感情」という残された課題
　　　　AIに意識＝自己認識は組み込めるか
　　　　そもそも人間は知性を定義できるのか
　　　　人間とAIの三つの決定的な違い
　　　　ロボットに心のケアを期待するとき
　　　　AIの出現が私たちに自身の価値観を問いなおさせる
　　　　AIに責任ある行為を任せてよいのか？
　　　　機械と人間が連携するときの倫理的ジレンマ

第３章　自律　AIが「心」を持つと何が起きるか
　　　　──ダニエル・デネット
　　　　AIは“心を持たない”知的ツールであるべき
　　　　「自律性」を持つということは隠し事をするということ
　　　　AIは「AIとしての意識」を持てるが……
　　　　「意味」を理解できないAIは人間のようになれるか
　　　　漸進性という概念の重要性　
　　　　AIも「直感」を持てる
　　　　信用は遺伝ではなく文化の一部
　　　　AIが人間より賢くなることの代償
　　　　「進化は“あなた自身が考えるあなた”より賢い」
　　　　「ミーム」による進化は止まらない
　　　　ソフトもDNAもコピーされていくことが本質
　　　　ソフトウェアはDNAと同じように永遠になる？
　　　　チューリングのコンピュータ理論とダーウィンの進化論が重なるとき
　　　　人間の創造性の源泉とは
　　　　AIは主体性を持たずとも世論を操作しうる

第４章　進化　AIで人間は何者になれるか
　　　　──ケヴィン・ケリー
　　　　これから起きる二度目の産業革命
　　　　AIは「命の延長」であり、自ら創造するシステムだ
　　　　人間の知性も一つの類型でしかない
　　　　AIで人間の性質も変わる？
　　　　AIは私たちの倫理観の不完全性を映し出す
　　　　テクノロジーの多様性が多くの選択肢を与える
　　　　私たちは何者になりたいのか
　　　　補うだけでなく開発され手に入る新しい五感
　　　　テクノロジーが私たちの食も変えていく
　　　　AIには人間と異なる創造性がある
　　　　XAI──AIに意識が生まれるとき
　　　　異質なものと出合う衝撃は何をもたらすか
　　　　人間は何者になることができるのか？ が究極の問いになる

終章　「逆転の発想」がもたらす視界（丸山俊一）
　　　　常識か呪縛か？ AIが私たちに認識の転換を迫る
　　　　AIとは何か？ ──情報処理の能力で人間に並ぶ機械
　　　　AIはいかに進化する？ ──「意識」から「自律性」へ
　　　　AIを生むに到る原点「啓蒙思想」の功罪
　　　　AIは近代主義を越える幸福の形を私たちに迫る
　　　　AIの自律性をどう考えるか
　　　　脳と心の二元論を越えて
　　　　「理解力なき有能性」というパラドックス
　　　　未来を想像してしまうことの功罪
　　　　連続性ある「意識」はいつの間にか独り歩きする
　　　　脳による設計だけでは「適応」できない社会の到来
　　　　AIがもたらす真の「多様性」「寛容性」とは？
　　　　他者性と対話する感性の時代へ
　　　　AIが生命的な衝動を持つとき
　　　　「漸進性」──少しずつ、手探りで深まる理解

　　　　あとがきにかえて──再び「常識」か？ 「呪縛」か？ 既に始まっているAI以後