The Two Faces of Tomorrow

Sci-Fi novelist James P. Hogan describes the future of AI with the precision and foresight that is unlikely to be 40 years ago in the science fiction novel “The Two Faces of Tomorrow” published in 1979 .

In this novel, AI with advanced reasoning skills such as HESPER, FISE, and SPARTACUS will appear.

HESPER has no common sense that humans have. In order to always make reasonable decisions, we may take measures that humans cannot imagine.

Next-generation AI FISE has a function that can modify itself by learning. Because there is a risk that humans will be unable to control AI due to the self-modifying function, humans placed an AI called SPARTACUS that has the same function as FISE in an isolated space colony and experimented to control the next generation AI.

Two different types of AI

Now called the 3rd AI boom, the word artificial intelligence is limited. Until then, things like thinking about Astro Boy and Doraemon were called Artificial Intelligence, but the definition of Artificial Intelligence in modern times is equivalent to HESPER in “The Two Faces of Tomorrow”.

On the other hand, artificial intelligence with a consciousness is classified as “Artificial Consciousness” or “Artificial General Intelligence”. According to the United States philosopher John Sarle, the former is called "weak AI" and the latter is called "strong AI".

Strong AI is not an evolution of weak AI

強いAIと弱いAIを分類する大きな違いについて説明しましょう。弱いAIは論理的計算能力とデータ分析の進化の究極系、つまり知能を象徴しています。一方、強いAIは意思や感情などの心をもち、自己判断の過程において自己の存在認識を前提にしています。

知能が複雑化することによって「意識」や「意思」や「心」が現れるのであれば、強いAIは弱いAIの発達していくその延長線上に存在します。しかしQ3ではそう考えません。弱いAIの発展の先にあるのはあくまで究極の論理回路であり、その論理回路のアルゴリズムが人間の理解を超えた柔軟性と発展性を確保するというだけのことです。それこそが人間の脳内で起きていることと同等といえるでしょう。わたしたち人間は、シナプスの結合を意識下でコントロールすることができませんが、論理回路は発達可能です。

一方で意思や意識というものには、外的刺激にどういう対応をする性向をもつかという点が重要となります。人間をはじめとした自然発生した生命体は、生存本能が根底にあります。そこから複雑に分化した反応が人間らしい、あるいは地球上の生物らしい反応や感覚や感情を生んでいます。それがとてつもなく長い時を経て、進化してきた結果、現在のわたしたちのような生命がいるのです。

それでは、意思や意識というものをフレームワークから設計してシミュレーションすることが果たして可能なのでしょうか。そのための研究や実験は既にあちこちで行われています。

「未来の二つの顔」でSPARTACUSが最終的にとった行動にヒントがあります。

生命の定義が自ら意思を持ち思考・判断することであるならば、わたしたちは生命を設計し、人工生命に対する神になろうとしているのです。強いAIを作るうえで欠かせないのは、この世界の認識をどう人工意識と共有するのか、さらにその意識と仮に意思疎通が可能な状態を作り出せたとして、人間の幼児よりもさらに低いレイヤーから無知であるその純粋体ともいえる意思に対して、わたしたちは何を教えていくのでしょうか。

そう遠くない将来に必ず、強いAIに対する倫理観や道徳観の問題が浮上します。さらに人間社会はいま、政治という体系によって国家を維持管理していますが、そこにある○○主義という名の下で成立する様々な法、行政、経済活動などすべてが、未だ完全に成熟した状態とは程遠いのです。

これまでも多くの政治体制が試みられてきたし、またこれからも過ちと悲哀にみちたこの世界中で試みられていくだろう。民主主義が完全で賢明であると見せかけることは誰にも出来ない。実際のところ、民主主義は最悪の政治形態と言うことが出来る。これまでに試みられてきた民主主義以外のあらゆる政治形態を除けば、だが。 - ウインストン・チャーチル

そんな不完全なわたしたち人類が便宜的に取らざるを得ない仕掛けが、法治です。わたしたちは性善説と性悪説の議論にも決着を得ておりません。そんな人類が、新しい生命、しかも人類よりもはるかに高いポテンシャルを持った生命に対して何を教えることができるというのでしょうか。

弱いAIは奴隷となり、強いAIは対等な相手となる

弱いAIは、いまわたしたちが利用しているコンピュータと何ら変わりません。処理が複雑になり、人間に理解しにくくなってきていることは確かですが、それは意識や意思の所為ではなく、あくまでアルゴリズムと評価によるものです。

一方、強いAIはもはやコンピュータと呼ぶべきものかどうかもわかりません。シリコンと鉄でできているというだけで、わたしたち人間や他の生命と何が異なるのか、その定義でまた人類は紛糾せざるを得ない未来が見えてこないでしょうか。

Q3の役割

わたしたちは、このような未来を描いた上で、今できることは何であるかを考え、研究しています。これをQ3流の「基礎研究」と呼んでいます。

弱いAI、強いAIのいずれにも人類にとって重要な未来があります。それらはジャンルを分かち、別々に発展していくでしょう。そのどちらにおいても、現代の情報科学技術を熟知したうえで最先端の研究と実験にコミットしていくことがわたしたちにとって必要なことです。Q3はそんな需要を見据えて活動をしています。

情報技術の知識と経験だけでは対応しきれない日はもうすぐそこまでやってきています。一部の学者たちによる推論と実験だけに留まっていては、人工知能に未来はなくなるのです。わたしたちが「多様性」を重視している大きな理由のひとつが、ここにあります。わたしたちは、偏ってはならないのです。そのためには、できるかぎり広範な多様性をもたせなければならない。それは、スペースコロニーや仮想世界では完璧にはできません。完璧に現実世界と同じ多様性を持っているのは、この現実世界という宇宙しか存在しないのです。

代表作「海底二万里」「月世界旅行」で有名なSF小説の開祖、ジュール・ヴェルヌの有名な一節があります。

人間が想像できることは、人間が必ず実現できる