（著者：ジョージ・ザルカダキス）
★読書前のaffirmation！
[目的] AIで何ができるかについて再確認
[質問] AIは心を持てるのか？
（※記述ルール ●引用／◎まとめ／⇒コメント）
⇒英語タイトルが、
IN OUR OWN IMAGE
Will artificial intelligence save or destroy us?
となっていて、また邦題のサブタイトルが「脳に近いアーキテクチャ」となっているのですが、英語タイトルと邦題にもギャップがあり、若干邦題が意訳（?）しすぎなのではと思いつつ、読み始めます。
◎AIの世界で神のように扱われている人物の一人として、ノーバート・ウィーナーがいる。ウィーナーが後世に残した最も重要な科学的遺産、サイバネティックスは、生物学と数学を融合したユニークな学問で、複雑な自然システムがどのようにふるまい、しなkするかを理解することを目的としている。たとえば運動や情報処理など、生命が問題を解決する仕組みを学べば、数学の応用によって生命を模倣し、自動化された工学システムを組み立てることができるだろうというものだ。（P.8-9）
●私はよく、科学技術分野の大学生のカリキュラムで哲学が重要な地位を占めればいいのにとよく思う。そうすれば、世界史でもっとも明晰な頭脳を残した思想で若い人々の頭脳を豊かにできるだけでなく、化学的な問題に対する新しくてイノベーティブなアプローチの出現が促されるはずだ。私の場合、哲学を学んだことによって、AIの問題の本当の大きさが分かった。（P.14-15）
⇒私も現在、ビジネス大学院の修士課程に在学中であるが、哲学だけでなくリベラルアーツの重要性を非常に感じている。専門だけでなくしっかりとした教養を身につける必要があると強く感じている。
●アルゴリズムとは、問題を解決に導く有限の論理的なステップの連続のことである。そこで、本当の意味でインテリジェントなマシンを作るための問題の中心は、意識がアルゴリズム化できるかどうかだ。アルゴリズム化できるなら、意識はコード化できる。（P,15）
◎本書は人工の心を作ることができたら、私たちはそれとどのように付き合っていけばよいのか、そもそも人工の心がなぜ重要で魅力的なのかを理解するために私が考えてきたことを説明する。
第1部 ロボットについての起源
第2部 心の哲学と神経科学の世界
第3部 テクノロジーであるコンピュータの魅力的な歴史
（P.23-25）
●一連の論理命令（つまり「アルゴリズム」）に単純に従っているだけでは、意識があるというのとは違う。意識がなければ、本物の知能があるとは言えない。（P.94）
●MIRI(機械知能研究学会）のメンバーたちは、最後の万一の事態を非常に真剣に捉えている。彼らは、遠くない将来にAIが意識を持ち、自分で再生産を始めて世界を征服するときがくると警告している。彼らはこの瞬間を「AI特異点」と呼んでいるが、それはそのときから歴史が予測不能になるからである。この万一の事態を防ぐために、彼らはアシモフの三原則のような対策を提案している。（P.103）
※アシモフの三原則＝ロボット三原則
ロボット三原則とも言われる。「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成る。
●ソクラテス、そしてプラトンの思考の中心にあるのが「暴く」ことだ。この方法には、私たちが人間であるために欺かれているという考えが隠されている。だから、私たちが知っていると思っているものは、すべて間違っている。この本質的に自分は誤っているという考え方が、認識論、すなわち私たちがいかにして物事を知るか、物事についてどれくらい知ることができるかを探求する哲学的方法の根底を形作っている。ソクラテスは、私たちが何かを知っていると主張するときに私たちがいかに間違っているかを示すことを生涯の目標とした。（P.150-151）
⇒ソクラテスは、「自分が全く無知だということを認める」それこそが地に向かう第一歩であり、知は無知を知ることから始まるとした。
●自然現象には規則性がある。実験は、規則性の原則のもとに成り立っている。実験者は、同じ原因を与えれば、同じ結果を期待できる。次に、原因の度合いを少しずつ変えると、結果にも少しずつ変化が現れ、それを観察、計測することができる。・・・計測が規則性に数字を与える。これは新しい視点や洞察を生む大きな変換だ。初期の科学者たちは、自然界の原因と結果の関係について新しい結論を導き出すために、数字を秩序正しく操作できるようになった。（P.159-160）
●デカルトの省察は、彼の時代には非常に大きな影響を与えた。そして、21世紀でもその反響はまだ続いている。彼は、「真実とは何か」というところから「どうすれば何かについて確かだと思えるか」というところに議論を進めて、「我思うゆえに我あり（コギト・エルゴ・スム）」のたった3語の一つの文で近代の基礎を築いた。この２つの問いの違いが、私たちの近代的な思考と制度を形作った。「真実」は、神または地上における神の代理という絶対的な権威を必要とする。しかし、「確からしさ」は主観的であり属人的である。何かについてどれくらい確かに分かるかという問いには、それぞれ自分だけで答えられるだけだ。（P.173-174）
●哲学的ゾンビは、インテリジェントコンピュータの新たな比喩にもなっている。インテリジェントコンピュータと同様に、彼らはチューリングテストを合格するだろうが、「本当は」意識がない。彼らは知能があるふりをするかもしれないが、実際には、自分の答えや行動に対する自己認識がない。現代の二元論者に言わせれば、AIは純粋に人間的な意味では存在しえない。存在し得るのは、人間のように行動し、人間のように話をしても、ｐゾンビでしかないものだ。（P.185）
●現在の文化は、物質に対するプラトン的な情報（「イデア」と読み替える）の優位と定義することができる。ポストモダンの文芸評論家、キャサリン・ヘイルズが言うように、私たちは情報を運ぶ媒体から切り離せるものとして情報を見ている。意味、イデアを失うことなく、別の媒体の間を流れることができる身体のない体液だ。（P.218）
●情報は分子や原子から切り離された存在だという考え方は古く、情報革命の最初の時点に遡ることができる。ノーバート・ウィーナーは、記念碑的な著者『サイバネティックス』で、「情報は情報であり、物質やエネルギーではない。それを認めない唯物論は、現在を生き残れない」と書いている。（P.219）
●情報理論の父とされるのは、クロード・シャノンである。・・・シャノンは、情報をコーディングすることによって、ノイズの多いチャネルで転送される情報の効率を上げる方法を示した。コーディングとは、情報を表現することだ。たとえば、書かれた言葉は話された言葉を表す。話された言葉は、通常使われている文字以外のコードを使ったり、文字の順序を変えたりして表すこともできる。・・・情報システムでは、エントロピーは、情報の不確かさの量として定義される。メッセージのノイズが多ければ（「エントロピー」が高ければ）、運ばれる情報は少ない。シャノンの情報理論は、化学の歴史でもっとも偉大なパラダイムシフトのひとつである。（P.219-223）
●意識を本格的な科学研究の対象にすることができた主な理由は３つある。意識の簡潔な定義、主観的経験の実験による操作、強力な観察機器の登場である。（P.230）
●ゲーテルとチューリングは、直感的、帰納的なもの（コード化できないもの）から純粋に論理的なもの（コード化できるもの）を見分けなければならないということを示している。エンジニアにとってAIの究極の目標は、サイバネティックなアプローチに従うことによって意識のあるマシンを実現することだ。この生成的な考え方は、少なくともPrologとLISPという2つの典型的な「AIプログラミング言語」では試されている。これらの言語は構文のなかで反復的なアプローチを取り入れている。そして高度に再帰的な構造（あるいは複座tなフィードバックループ）を通じて自然に複雑なものが生まれて来れるようにしている。どうしてこのようなことが可能になるのかを理解するためには、2つの重要なサイバネティックスの考え方を深く検討する必要がある。それは反射性と無秩序からの秩序の生成だ。（P.265-266）
●ブールは、代数、数学の概念や考え方を使った論理の言語に英語の文を翻訳してみせた。この「論理の代数」は現在は記号論理学と呼ばれている。ブールは、実質的に論理を代数に還元することによって、記号の操作が演繹のフェイルセーフな方法を提供できることを示した。（P.283）
●アリストテレスが論理は規則に従うことに気づいたところから、私たちは遠くまでやってきた。すでに見てきたように、ブールとフレーゲは、論理を記述する方法を考えてアリストテレスの発見を先に進め、論理の規則をコード化するコンピュータ言語を開発するための基礎を作った。時機がやってくると、電球、電気機械式リレー、トランジスターその小型化などの発明、イノベーションが続き、高度な電子回路の開発を後押しした。クロード・シャノンが電子回路で論理規則を実行できることを示し、アラン・チューリングとジョン・フォン・ノイマンが（ほとんど）あらゆる論理問題を解決する電子機器の作り方を示した。現代のデジタルコンピュータは、このようにして生まれた。（P.358）
●人工知能は、ほかのものとはまったく異なるテクノロジーだ。それは、私たちの社会、敬愛、私たちが住むこの惑星を根本的に変えてしまう力が潜んでいるからというだけではない。私たちは誰なのか、私たちはどのように考え、どのようにコミュニケートするのか、私たちは何によって人間になっているのかなど、私たちそのものを問題にしているからだ。（P.425）
●AIシステムは将来のほぼあらゆるシナリオを検討し、最良の方向をアドバイスできるので、純粋な偶然は非常に少なくなる。かくして、AIは私たちにより多くの成功をもたらしてくれる。少なくとも、失敗した時の言い訳を奪ってしまう。つまり、AIは私たちが失敗するのを防いでくれる。しかし、それは本当に私たちが望んでいることだろうか。…私たちは失敗を通じて賢くなる。私たちは失敗することによって子供から大人になる。失敗が起きるかもしれないということにより、私たちは自分の行動に責任を持たざるを得なくなる。失敗は、自分と同じ人間である他者も失敗するものだという理解も生む。（P.441）
⇒AIによって、さまざまな人生における選択が最適化され画一的な世の中になってしまう恐れを感じた。たとえば、目的を設定したら、それに基づいてパターン化あれ人生が設計されてしまうというようなことも考えられる。気まぐれな私としてはそんなことは耐えられない・・・、AIにより制御される未来はやってくるのだろう・・・・。
