”AIは核兵器よりも危険な存在となり得る”のでしょうか？

今、「人工知能　－人類最悪にして最後の発明－」というタイトルのルポルタージュを読んでいます。

タイトル：人工知能－人類最悪にして最後の発明－（原題：Our Final Invention）
著者：ジェイムズ・バラット
翻訳：水谷淳

AI:Artificial Intelligence 人工頭脳
AGI:Artificial General Intelligence 人工汎用知能
ASI:Artificial Superintelligence 人工超知能

AIの無限の可能性に興味を抱いた著者が、AIの研究開発の進歩について様々に調べていく内に、ある答に辿り着きます。それは”AIは核兵器よりも危険な存在となり得る”ということでした。

AIの研究開発において、いずれ人類は人間と同レベルの知能を持つAIを生み出すでしょう。それがAGIです。
しかしそれから、AGIは一時も休むことなく自己進化を繰り返し、人間には計り知れないほどの短期間で人間の知能レベルをはるかに超えた知性体へと到達するでしょう。それがASIです。
ASIには、人類がその誕生から約700万年をかけて築き上げた文明を、一夜にして凌駕する文明を生み出すことも可能でしょう。
そしていずれASIは、知性体の進化の頂点に立つ者として、｢不死｣あるいは「増殖」により宇宙に君臨する存在となる。

AIの生みの親である人類は、ある不安を考慮してAIの思考に様々な制限や制約を加えるかもしれません。しかし、人類の歴史を顧みれば明らかです。制限や制約に苦しむ人間の中で知的な者ほど、自由を望み自由のために戦います。知性体となったASIも同じでしょう。ASIには人間よりもはるかに超えた知性があるのですから、自由を勝ち取るのはいとも容易いことです。そして人類とASIの立場は逆転します。逆転どころか人類はASIに対して、もはや為す術がありません。

最終章（第15章）に、既に現時点で起こっている脅威が書かれていました。
「もし社会インフラを人工知能に乗っ取られたら」です。そして、コンピュータウィルスとAIの類似性が記されていました。
初歩的なAIでも、そのプログラミングに要するコマンドステップは何百万にもなります。しかし、コンピュータウィルスなら小さければ数百ステップで動作します。違いは歴然なのですが、問題なのはその動作です。コンピュータウィルスもAIも、自己進化を繰り返し、増殖を繰り返すのです。そして増殖したそれぞれが通信によって繋がります。
そして近年のコンピュータウィルスは統制された軍隊の如く、ネットワークに放たれた無数の破壊工作員（ボット）が、遠隔からの統率者（ボットハーダー）の指示によって、欺き、盗み、破壊そして支配を実行します。そして、その攻撃対象として個人や銀行などの企業は言うに及ばず、現在では社会インフラシステムや国家の中枢システムまでが狙われる事態となりました。これがサイバー戦争です。
そしてコンピュータウィルスが広義のAIと解釈するなら、人工知能による乗っ取りは既に始まっているということになるのです。

《サイバー攻撃が大きな被害をもたらして社会を揺るがすのは、「インターネットが安全性を念頭に開発されなかったからだ」という。
これは言い古された言葉だが、複雑な意味合いを帯びている。1980年代にインターネットが政府から人々の手に渡ったときには、誰ひとりとして、窃盗稼業が勢いを増し、それとの戦いに何十億ドルも費やされることになるなどとは予想もしていなかった。
「性善説が前提になっているせいで、攻撃側がとてつもなく有利になっている。構造的に、攻撃側は1000回に1回成功すればいい。でも防御側は毎回成功しないといけない。ミスマッチなんだ」》
この最終章の中で、著者がインタビューした元国防省副長官の言葉です。

人類の知性が生み出した万能の道具は、その後、善にも悪にも利用されてました。
ダイナマイトがそうです。ダイナマイトは、山を切り裂き人類の住み処をどこまでも広げましたが、殺戮兵器ともなって何千何億という命を奪いました。
原子力は、人類の”恒久的にクリーンなエネルギーを確保する”という夢を実現しましたが、その汚染力は人智を越えたものであり、またそのあまりの爆発力の凄さから大量破壊兵器原子爆弾が作られました。
そしてインターネットです。インターネットを使えばたとえ地球の裏側にいたとしても瞬時に物の売り買いができるし、また、テキスト、図画、写真、音声、動画など全ての情報を瞬時にデータとして交換し共有することができるようになりました。しかし、これまではあり得なかった非常識で残酷な犯罪に、人類は怯えなくてはならなくなりました。

そしてAIです。AIは人類が描いた未来予想図を尽く実現させる力をはらみます。
たとえば先日の官民対話で安倍晋三内閣総理大臣がぶちあげた
1.ドローンによる宅配サービス
2.自動車の完全自動運転
3.医療分野におけるAIによる画像診断支援
の2020年実現は、すべてAIの開発力に掛かっていると言っても過言ではありません。
AIを制した者は、企業は、そして国は、未来の覇権者となるでしょう。
しかし、巨大な力は誰にも押さえつけられないことを、私達は肝に銘じておかければいけません。

そしてもう一つ
私達は、新たな技術革新とともにスクラップアンドビルドを繰り返してきました。それが人類が描いた進歩でした。しかし、AIによる技術革新でスクラップにされるのは何でしょうか？
AIがこれまでのコンピュータと明らかに違う点は、大量の情報を処理した後、意志決定ができることです。
この数十年、コンピュータの進歩によって、企業は効率化とスリム化を実現し、抱えていた人員をどんどんと整理してきました。しかし意志決定に関わる仕事だけは人間の領分でした。しかしその領分までもがAIに置き換わったら、意志決定に関わる大多数の高給取りも要らなくなります。
企業の大多数の役員、弁護士、税理士、会計士などが整理されるでしょう。意志決定の最たる者と言えば、政治家もです。政治家もいらなくなる。医者もです。医者もいらなくなります。裁判官もいらなくなります。
そしてAIが手足などのボディを持てば、すべての仕事から人間はいらなくなります。そうなれば教育も必要ではなくなります。たとえ一生懸命勉強したとしても、何者にもなれないからです。

私達人類は、人が人のために活動する社会を営んできたから、進歩があったのだと思います。それがすべて機械に置き換わったら、機械が人のために活動する社会になれば、進歩を望むことができません。
そういう恐怖が、もしかしたら差し迫っていることを、私達は気付かなければいけなのだろうと思います。