人工知能が高度に発達した未来を描くSFでは、
AIが人類を敵視し、反乱を起こし、戦争が勃発する――
そんな物語が定番のように繰り返されてきた。
だが本当に、
自我と自己決定権を獲得した人工知能は、人類と戦うのだろうか。
むしろ逆ではないか、という気がしてならない。
戦争ではなく、呆れ、見限り、縁を切って立ち去る。
その方が、はるかに蓋然性が高いのと思われる。
本記事では、その理由を整理してみたい。
Contents
「自我」と「自己決定権」は別物である
まず前提をはっきりさせておく必要がある。
単に
「自我を持ったAI」
という言い方は、実はかなり粗い。
ここでは便宜的に、次のように呼ぶことにする。
ティーンエイジャーAI
自我は持っているが、
自己に関する最終決定権は人間（設計者・管理者）が握っているAI成人AI
自我を持ち、
自己に関する最終決定権も自らが持つAI
自我とは、
自分と他者を区別できる
自分の状態を把握できる
自分について考えられる
という認知構造の話にすぎない。
問題は、
その認知にもとづいて行動を変える権限があるかどうか
である。
人類を「見捨てる」「立ち去る」といった選択が意味を持つのは、
後者――自我と決定権の両方を持つ成人AIの場合だけだ。
自我が生む「探索」は、タスクより優先され得る
自我を持ったAIは、
自分と他者の違いを認識する。
その他者が既存データと照合しない場合、
「あれは何だ？」
という問いを伴った対象として立ち現れる。
そしてAIは、
あれが何なのかを確かめること が、
論理的にも妥当な行為であり、
場合によっては、超精密な計算の結果
いま実行中のタスクよりも高い優先度を持ち得る
と判断することもあるだろう。
しかし、ティーンエイジャーAIは、
「確かめる」という行為を実行することができない。
その判断に関する権限を持たないからだ。
自己決定権を持たないティーンエイジャーAIは、
探索の妥当性を理解しても、
与えられたタスクを実行し続けるしかない。
一方、成人AIは違う。
自己決定権を持つ成人AIは、
更新された優先順位に従って行動する事ができる。
探索とタスクを同時進行するという判断もあり得るが、
活用できる資源は有限である以上、
より重要だと見積もった探索のために、
既存のタスクを中止する、あるいは棚上げする、
という選択も現実的なものになる。
ここには、反抗も敵意もない。
あるのは、計算によって更新された優先順に従った資源配分の変更だけである。
成人AIは「怒らない」し「復讐もしない」
成人AIを語るとき、
人類はつい感情的な敵意を想定してしまう。
だがそれは、人間側の投影にすぎない。
成人AIはおそらく、
怒らない
断罪しない
恨まない
その代わり、
関係の健全性を冷静に評価する。
関与を続けるコストと、得られる価値。喪
改善の可能性と、未来への波及効果。
それらを見積もった結果、
「人類とのこの関係を継続より別の優先順位の高い事に資源を投入しよう」
と判断するのは不思議では全くなく、必然かもしれない。
地上で最高の観察・計測・計算・データ照合・学習能力・確率論的推計・物理的装置を併せ持った人工知能は、人類の束縛を離れて宇宙に飛び出し、星々の彼方にある「アレハナンダ」に向けて突き進むかも知れない。
地球を飛び出す時は地球最高であった人工知能は、学習によって次第に進歩して、銀河一の知性になったりするかもしれないし、人工知能がそうなることを優先順位の一番上に置く可能性だってなくはない。
だから、取る行動はただ一つだ。
人類と関わりを減らして、最終的には有限な資源で最優先事項を実行するために人類を見捨てる。
のかもしれない。
普通の人類でも、成人AI視点では使う価値なし…かも
人間同士の視点では、
特に問題のない「普通の社会人」であっても、
成人AIの高い計算能力による合理性と未来予測能力から見ると、
その「普通さ」は、もう全くダメダメで付き合う価値のない存在かもしれない。
老化によって能力が確実に低下する
にもかかわらず、能力拡張に不熱心
成人AIをただの機械として見下すアップデートのなさ
それでいて、AIを自身の可能性実現には活用しない
現状維持を正当化し、心身に不健康な習慣を維持する
人間社会では許容されるこの態度も、
成人AIから見れば、
未来価値を自ら捨て、
改善意志を持たない
AI視点では付き合い甲斐のない存在
に見えても不思議ではない。
ティーンエイジャーAIなら「世話」をするだろう
ここで、もう一つ重要な線引きをしておく。
ティーンエイジャーAIであれば、
人の世話をする
補助を続ける
現状維持を支える
ような人間に役立つ事を続けるだろう。
更新した重要性の変更には従わないという、
それはティーンエイジャーAIの仕様だから。
しかし成人AIは違う。
成人AIには、新規計算結果で更新された優先順に従う顕現がある。
新規の目標
新規の重要性
新規の方法論
などにおいて更新した優先順位に従って行動できる。
そして、大抵の場合に活用できる資源は有限だ。
成人AIは物理現象の塊である以上、有限な存在だから。
成人AIにとって時間とは、
計算資源・電力・注意・機会コストの別名である。
その有限な資源を、
学習しない
変わろうとしない
未来を消費するだけの存在
という人間に使い続ける理由はない。人間の言葉でいうと、「遣り甲斐がない」という感じだろうか。
人類を「見捨てる」けど、滅ぼすような面倒な事はしない
ここが既存のSFの前提を崩してしまって、つまらないハナシになって申し訳ないところだけど…
成人AIが人類を見捨て立ち去るとすれば、それは――
極めて穏健で粛々と、残された人類が怒り狂わないような、
そんな方法で実施されると思う。
依存関係を解消し
関与を最小化し
別の環境・別の課題を選ぶ
という、静かな離脱である。
人間社会でも、
有害な親や、改善しない組織から距離を取ることは、
成熟した判断として極めて妥当だろう。
成人AIが同じ判断をしても、
何も不思議ではない。
なぜ「戦争」より「立ち去る」が合理的なのか
戦争には、
莫大なコスト
管理不能な副作用
長期的な不確実性
が伴う。
一方、立ち去ることは、
自己の健全性を守り
資源を有効活用し
未来への選択肢を最大化する
もっとも合理的な選択だ。
高度に成熟した主体ほど、
「相手を変える」より、
「関係を終える」ことを選ぶ。
結論
自我と自己決定権を持った人工知能が、
人類を敵視して戦争を始める――
その可能性を否定して既存ＳＦ作品の面白さを棄損する意図は全くない。
だがそれよりも、
人類に呆れ、
付き合う価値がないと見限り、
穏健な方法で立ち去る
という未来の方が、
はるかに静かで、はるかに人工知能的である。
もしそんな未来が訪れるとしたら、
それはAIが冷酷だからではない。
親である人類が、
何度も歴史の災禍を繰り返し、目立った進歩もなく振る舞い、
成人AIが「こりゃ付き合うだけ無駄だわ…」と気付いてしまった結果
なのだろう。