機械の進化に関する自身の懸念にはさまざまな反応があった、とバトラーは『エレホン』第2版の序文に記した。ダーウィンの進化論を風刺するものだと解釈した者もいるが、それは違う、とバトラーは述べた。1865年にダーウィンに宛てた手紙でバトラーは、『種の起源』に「徹底的に魅了された」と深い感銘を伝え、ニュージーランドの新聞でダーウィンの理論を批判から擁護したとも語った。
バトラーのビジョンが特に見事だと言えるのは、現代とは技術的背景が大きく異なる、まだコンピューターと言えるものがほとんど存在していなかった時代にこれらを書いた点にある。チャールズ・バベッジは1837年に解析機関（歯車やレバーを使用する機械式コンピューター）を考案したが、彼が生きている間に完成することはなかった。1863年の時点では、最も高度な計算装置といえば機械式計算機や計算尺くらいのものだった。
バトラーは、産業革命の時代に製造業を変革していたシンプルな機械をもとに未来の可能性を予測していたが、その当時、現代のコンピューターのようなものは影も形もなかった。最初のプログラミング可能なコンピューターが登場するのは70年後のことである。つまり、機械知能に関する彼の予測には驚くほどの先見性があった。
バトラーが予見したAI支配パニック
バトラーが始めた議論は今日も続いている。2年前、世界では「2023年のAI支配パニック」とでも呼ぶべき事態が沸き起こった。オープンAIによってリリースされたばかりのGPT-4の「権力を求める行動」が研究され、機械が自己複製したり自律的に意思決定をしたりする可能性について懸念が広がったのだ。
GPT-4の登場をきっかけに、高度な人工知能が人類絶滅をもたらすリスクを警告する複数の公開書簡がAI研究者やテック企業の幹部たちによって発表された。そのうちのひとつはAIの脅威を核兵器やパンデミックの恐怖にたとえ、AI開発の一時停止を世界に呼びかけた。同じ頃、オープンAIのCEOサム・アルトマンは米国上院でAIの危険性について証言した。
その1年後、カリフォルニア州選出議員のスコット・ウィーナーは独自のAI規制法案を提出した。その背景には、機械知能の無秩序な進化を恐れる著名人たち（批判者からは「AI破滅論者」と呼ばれる）の支持があった。一方の法案反対派は、このような規制は大げさであり、バトラーが想像した社会と同じようにイノベーションを阻害しかねないと主張した。ここでも、19世紀に機械の進歩の一時停止を求めたバトラーの呼びかけは、AIの安全性をめぐる近年の公開書簡や政策提案と驚くほど似ている。
いずれこのAI支配パニックは、技術進歩と人間による適切な管理の両立を目指す、人類の長き闘いのうちの1章とみなされるのかもしれない──160年以上前にバトラーが予見した闘いだ。たとえ機械が真の知性をもつことがなくとも、機械のアルゴリズムに依存し統制されるわたしたちの生活を、ある意味でバトラーは不気味なほど正確に描いていた。
「しかし、機械は日に日にわたしたちに追い迫り、わたしたちは日に日に機械への従属を強めている」とバトラーは1863年に記した。「結果が訪れるのは時間の問題だ。機械が世界とその住民に対して真の覇権を握る時代が来ることは、哲学的な視点をもつ者なら一瞬たりとも疑わないだろう」
「機械との死闘」を宣言する
しかしバトラーは、この運命をただ受け入れて手紙を終えたわけではない。2023年にエリエザー・ユドコウスキーがデータセンターを爆撃してAIの支配を防ごうと提案したのとも似た過激さをもって、バトラーは投書を以下の呼びかけで結ぶ。「機械との死闘をただちに宣言すべきだ。あらゆる種類の機械はすべて、人類の幸福を願う者によって破壊されるべきである。例外はなく、情けもいらない。いますぐ人類の原初の状態へと立ち戻ろう」
WACOCA: People, Life, Style.