”AIは核兵器よりも危険な存在となり得る”のでしょうか？

今、「人工知能　－人類最悪にして最後の発明－」というタイトルのルポルタージュを読んでいます。

タイトル：人工知能－人類最悪にして最後の発明－（原題：Our Final Invention）
著者：ジェイムズ・バラット
翻訳：水谷淳

AI:Artificial Intelligence 人工頭脳
AGI:Artificial General Intelligence 人工汎用知能
ASI:Artificial Superintelligence 人工超知能

AIの無限の可能性に興味を抱いた著者が、AIの研究開発の進歩について様々に調べていく内に、ある答に辿り着きます。それは”AIは核兵器よりも危険な存在となり得る”ということでした。

AIの研究開発において、いずれ人類は人間と同レベルの知能を持つAIを生み出すでしょう。それがAGIです。
しかしそれから、AGIは一時も休むことなく自己進化を繰り返し、人間には計り知れないほどの短期間で人間の知能レベルをはるかに超えた知性体へと到達するでしょう。それがASIです。
ASIには、人類がその誕生から約700万年をかけて築き上げた文明を、一夜にして凌駕する文明を生み出すことも可能でしょう。
そしていずれASIは、知性体の進化の頂点に立つ者として、｢不死｣あるいは「増殖」により宇宙に君臨する存在となる。

AIの生みの親である人類は、ある不安を考慮してAIの思考に様々な制限や制約を加えるかもしれません。しかし、人類の歴史を顧みれば明らかです。制限や制約に苦しむ人間の中で知的な者ほど、自由を望み自由のために戦います。知性体となったASIも同じでしょう。ASIには人間よりもはるかに超えた知性があるのですから、自由を勝ち取るのはいとも容易いことです。そして人類とASIの立場は逆転します。逆転どころか人類はASIに対して、もはや為す術がありません。

最終章（第15章）に、既に現時点で起こっている脅威が書かれていました。
「もし社会インフラを人工知能に乗っ取られたら」です。そして、コンピュータウィルスとAIの類似性が記されていました。
初歩的なAIでも、そのプログラミングに要するコマンドステップは何百万にもなります。しかし、コンピュータウィルスなら小さければ数百ステップで動作します。違いは歴然なのですが、問題なのはその動作です。コンピュータウィルスもAIも、自己進化を繰り返し、増殖を繰り返すのです。そして増殖したそれぞれが通信によって繋がります。
そして近年のコンピュータウィルスは統制された軍隊の如く、ネットワークに放たれた無数の破壊工作員（ボット）が、遠隔からの統率者（ボットハーダー）の指示によって、欺き、盗み、破壊そして支配を実行します。そして、その攻撃対象として個人や銀行などの企業は言うに及ばず、現在では社会インフラシステムや国家の中枢システムまでが狙われる事態となりました。これがサイバー戦争です。
そしてコンピュータウィルスが広義のAIと解釈するなら、人工知能による乗っ取りは既に始まっているということになるのです。

《サイバー攻撃が大きな被害をもたらして社会を揺るがすのは、「インターネットが安全性を念頭に開発されなかったからだ」という。
これは言い古された言葉だが、複雑な意味合いを帯びている。1980年代にインターネットが政府から人々の手に渡ったときには、誰ひとりとして、窃盗稼業が勢いを増し、それとの戦いに何十億ドルも費やされることになるなどとは予想もしていなかった。
「性善説が前提になっているせいで、攻撃側がとてつもなく有利になっている。構造的に、攻撃側は1000回に1回成功すればいい。でも防御側は毎回成功しないといけない。ミスマッチなんだ」》
この最終章の中で、著者がインタビューした元国防省副長官の言葉です。

人類の知性が生み出した万能の道具は、その後、善にも悪にも利用されてました。
ダイナマイトがそうです。ダイナマイトは、山を切り裂き人類の住み処をどこまでも広げましたが、殺戮兵器ともなって何千何億という命を奪いました。
原子力は、人類の”恒久的にクリーンなエネルギーを確保する”という夢を実現しましたが、その汚染力は人智を越えたものであり、またそのあまりの爆発力の凄さから大量破壊兵器原子爆弾が作られました。
そしてインターネットです。インターネットを使えばたとえ地球の裏側にいたとしても瞬時に物の売り買いができるし、また、テキスト、図画、写真、音声、動画など全ての情報を瞬時にデータとして交換し共有することができるようになりました。しかし、これまではあり得なかった非常識で残酷な犯罪に、人類は怯えなくてはならなくなりました。

そしてAIです。AIは人類が描いた未来予想図を尽く実現させる力をはらみます。
たとえば先日の官民対話で安倍晋三内閣総理大臣がぶちあげた
1.ドローンによる宅配サービス
2.自動車の完全自動運転
3.医療分野におけるAIによる画像診断支援
の2020年実現は、すべてAIの開発力に掛かっていると言っても過言ではありません。
AIを制した者は、企業は、そして国は、未来の覇権者となるでしょう。
しかし、巨大な力は誰にも押さえつけられないことを、私達は肝に銘じておかければいけません。

そしてもう一つ
私達は、新たな技術革新とともにスクラップアンドビルドを繰り返してきました。それが人類が描いた進歩でした。しかし、AIによる技術革新でスクラップにされるのは何でしょうか？
AIがこれまでのコンピュータと明らかに違う点は、大量の情報を処理した後、意志決定ができることです。
この数十年、コンピュータの進歩によって、企業は効率化とスリム化を実現し、抱えていた人員をどんどんと整理してきました。しかし意志決定に関わる仕事だけは人間の領分でした。しかしその領分までもがAIに置き換わったら、意志決定に関わる大多数の高給取りも要らなくなります。
企業の大多数の役員、弁護士、税理士、会計士などが整理されるでしょう。意志決定の最たる者と言えば、政治家もです。政治家もいらなくなる。医者もです。医者もいらなくなります。裁判官もいらなくなります。
そしてAIが手足などのボディを持てば、すべての仕事から人間はいらなくなります。そうなれば教育も必要ではなくなります。たとえ一生懸命勉強したとしても、何者にもなれないからです。

私達人類は、人が人のために活動する社会を営んできたから、進歩があったのだと思います。それがすべて機械に置き換わったら、機械が人のために活動する社会になれば、進歩を望むことができません。
そういう恐怖が、もしかしたら差し迫っていることを、私達は気付かなければいけなのだろうと思います。

神秘と恋の物語「アジャストメント」を観ました。

BSプレミアムシネマで映画「アジャストメント」（原題：The Adjustment Bureau　2011年米国）を観ました。
テレビ番組の解説に”ジャンル：SF＆ラブストーリー”とありましたので、どんな空想科学が描かれているのか興味を抱いて観ましたが・・・、ジャンル変更を要求したいと思います。
”オカルト＆ラブストーリー”、「神秘と恋の物語」、こちらの方かしっくり来るように思います。

物語は、”神”が書き記した運命に従わず、神が認めない恋の成就に奮闘する一人の男と、運命に何が何でも従わせようとする運命調整局員たちの奮闘が描かれていました。

とくに運命調整局員の描き方が面白かったです。
議長（たぶん神様です。）の下で働く局員たちは皆、ビシリと背広を着こなしたしかめっ面のまるで役人の様相で、そんな彼らが、帽子型の”どこでもドア”発生装置を被って、ニューヨークの街中のドアを”どこでもドア”に変えて神出鬼没に姿を現すのです。そして運命を調整する不思議な力でディヴィッドの恋の成就を阻みます。
そして彼らが手にしているのは”運命の書”という、すべての人間のこれまでの、そしてこれからの一挙一動までもが細かに記されたスケジュール管理帳です。そこにはこれから何が起こるか、誰と出会い、誰と別れかが動的に表示されていました。

でも主人公ディヴィッドはその運命にあらがい、またディヴィッドと恋に落ちるエリーズもディヴィッドを信じ、そしてディヴィッドに憑く運命調整局員のハリーは、ディヴィドに肩入れして、神様の計画を見事に打ち破りました。

神様は、太古から人類を信じては裏切られ、その歴史に介入しては修正を行うという行為を繰り返していました。そして20世紀に入り再び人類を信じて介入の手を止めた途端、度重なる世界規模の戦争が起こります。そして新しい世紀に入り、また神様はガチガチに人間一人ひとりの運命に介入するようになりました。
でも神様は本当は、自分で人生を切り開こうとする者や愛を見つけて育もうとする人間を求めていたのですね。そしてディヴィッドとエリーズは、その御眼鏡に適いました。

それでも、めでたしめでたしと喜ぶ気持ちになれないのは何故でしょう・・・
それは、運命調整局の局員が、今後もすべての人間が”運命の書”に記された通りに人生を歩むよう監視し、調整し、万一逸れそうになると是正することを知ってしまったからです。そして、ディヴィッドもエリーズも、その監視から外れたわけではありません。
そしてなにより、この物語が全くの”架空の物語”と思えないことです。
監視社会の次に来るのは弾圧です。そして、意に沿わぬ者の調整、矯正そして粛清が始まります。神の目も神の手も、そして悪魔の目も悪魔の手も、人間にとっては恐れでしかありません。