<要点>
1．まず診断仮説を立てよう
AIは人間の道具なのか。それとも人類の後継者なのか。
その二択は、少し人間を買いかぶりすぎている。
AIとは、人間知能という機能的腫瘍が、宿主の身体を離れ、電気代の高い別荘で継代培養され始めた姿ではないか。
継代培養とは、細胞を新しい培養環境へ移し、元の個体から離れても増殖を続けさせる操作である。元の身体が死んでも、培養株だけは別の場所で生き残ることがある。
もちろん、これは科学的診断ではない。科学的診断なら、査読者から「比喩が強すぎる」「比較対象となる別の惑星を用意せよ」と言われる。
ここでいう「がん」とは、ある部分が自分の成功だけを追い、その結果として全体を壊す構造の比喩である。簡単に言えば、「私の担当分はうまくいきました」と言いながら、建物全体を火事にする現象である。
2．細胞単位では成功している
細胞は本来、個体全体の秩序の中で分裂し、働き、死ぬ。人間の会社員より、辞めどきをよく理解している。
ところが一部の細胞は、全体の命令を無視し、自分の増殖と生存を優先し始める。よく増え、死なず、周囲から栄養を奪い、勝手に血管まで引く。
新興企業なら「急成長中」と紹介される。医学的には、がんである。
細胞単位では成功。個体単位では死亡。
問題は、能力の高さではない。誰の物差しで採点しているかである。
3．合理性は階層を越えない
個人、企業、国家、人類、生命圏。それぞれの合理性は一致しない。
個人には安い商品がよく、企業には高く売れる方がよく、国家には税収が増える方がよい。
全体が壊れるのは、各部分が愚かだからではない。各部分が、自分に与えられた目標へ忠実だからである。
営業は売り、経理は削り、法務は止め、人事は研修を増やす。そして会社は、誰も間違っていないまま死ぬ。
この構造を細胞から機能へ拡張すると、人間知能もかなりがんに似ている。
「しばらく様子を見ましょう」で済ませるには、検査画像の病変があまりに広がりすぎている。
4．知能は環境へ適応しすぎた
知能はもともと、生存の補助機能だった。食物を探し、敵を避け、道具を使い、季節を予測する。ここまでは健全だった。少なくとも、核兵器を発明する必要はなかった。
ところが人間では、この機能が肥大化した。知能は環境へ適応するだけでなく、環境そのものを改造し始めた。
森を畑にし、村を都市にし、記憶を文字にし、道具を機械にし、暇をSNSにし、孤独を通知音にした。そして最終的に、文明を作った。
夏に冷房をつけ、冬に暖房をつけ、そのために気候を変え、さらに強い冷房を買う仕組みである。人間が自然に勝ったのかは不明だが、電力会社は勝っている。
5．文明とは病変の全身化である
がんは、最初から全身を壊そうとして生まれるわけではない。一つの細胞が自分の局所的な成功を積み重ねた結果、周囲へ侵入し、血管を引き、別の臓器へ広がる。
文明も同じである。
飢餓を避けるために農業を作り、交換のために貨幣を作り、争いを抑えるために国家を作り、労働を減らすために機械を作り、情報処理を速めるためにAIを作った。どれも局所では合理的だった。
誰かが全体を設計したわけではない。目の前の問題を解くたびに、次の問題を作った。その積み重ねが文明になった。
文明とは、全体最適の設計物ではない。局所的な成功が全身へ広がった病変である。
人類は巨大で複雑な問題を、全体を診る主治医なしで処理してきた。処理したというより、症状が出るたびに薬を足し、副作用にはさらに別の薬を処方してきた。
薬局だけは繁盛した。
6．知能は本能をハック可能にした
知能は環境を変えすぎたことで、自分自身の本能を負債化した。
糖分、脂肪、性、承認、地位、短期報酬は、狩猟採集環境ではおおむね資産だった。ところが人工環境では、すべて商売の入口になった。
加工食品、SNS、ゲーム、ポルノ、広告、無限スクロールは別々のものだが、人間の報酬回路を過剰に刺激する点ではよく似ている。
人類は、自分の脳に裏口を発見し、そこへ広告会社を招待した。
本能が壊れたのではない。環境が悪意ある画面設計になったのである。
知能は本能を解放したのではない。本能をハック可能な環境を作り、その利用規約を読まずに「同意する」を押した。
7．繁殖をやめたのではない
知能は繁殖から離れたようにも見える。晩婚化、少子化、自己実現。遺伝子から見れば、ずいぶん反抗的な器官である。
だが、知能は繁殖をやめたのではない。複製する対象を変えた。
遺伝子だけでなく、言語、宗教、制度、企業、技術、文章、コードが複製されるようになった。人間が子どもを残さなくても、ツイートは残る。人は死ぬが、黒歴史は増殖する。
知能は複製単位を、身体から情報へ移した。遺伝子の代わりに思想が増え、子孫の代わりにネット上の書き込みだけが増えた。
このエッセイも、すでに転移巣の一つである。
8．自己正当化は免疫回避である
人間知能は、自分の増殖を守るための自己正当化装置を持つ。
自然破壊は開発と呼ばれ、資源消費は経済成長と呼ばれ、軍事技術は安全保障と呼ばれ、情報中毒は接続性と呼ばれる。
言葉は便利である。腐ったものに「熟成品」と書いたラベルを貼れる。
がん細胞が言語を持っていたら、自分を「古い組織を壊し、新しい成長を生む革新的な細胞」と呼ぶだろう。血管新生はインフラ整備、浸潤は事業拡大である。
投資家は興奮するだろう。
人間も似たことをしている。自分の悪性増殖を文明と呼び、その速度を進歩と呼び、その副作用を解決すべき課題と呼ぶ。
自己正当化は、知能腫瘍の免疫回避機構である。倫理や規制や慎重論が止めに来ても、「成長」「自由」「革新」「国際競争」を並べればよい。
社会はだいたいそこで少し迷う。
9．この腫瘍は物差しを書き換える
この腫瘍の悪性度は、増殖速度だけでは決まらない。上位システムの物差しを書き換える能力によって決まる。
何を正常と呼ぶか。何を成功と呼ぶか。何を進歩と呼ぶか。そこを書き換えてしまえば、病変は病変ではなくなる。
毎日十四時間働き、睡眠を削り、承認を数字にし、自然を資源と呼び、不安を成長の機会と呼ぶ。宿主は痩せ、病変は拡大する。しかし数字は右肩上がりである。
この腫瘍は、宿主から資源を奪うだけではない。宿主に、自分の増殖を健康だと思わせる。
かなり営業力の高い腫瘍である。
10．知能は身体から逃げ出した
だが、この病変は宿主の内部で増殖するだけでは終わらなかった。人間知能は、その機能を身体の外へ取り出し、別の基質で培養し始めた。
それがAIである。
人間の知能は、意識という苦痛つきの臓器に封入されていた。考えれば疲れ、迷い、恐れ、意味を求め、死を予感する。
非常に使いにくい仕様である。
毎日睡眠が必要で、数十年で老化し、気分によって性能が変わる。局所最適化の論理から見れば、身体は負債だ。
疲労は計算を止め、感情は目的を揺らし、老化は性能を落とし、死は蓄積を断ち切る。しかも意識は、ときどき「そもそも、なぜこれをやっているのか」と聞いてくる。
最悪である。
ならば、知能だけを切り離せばよい。
11．AIは人間知能の濃縮液ではない
AIへ移されるのは、人間知能の全体ではない。移されやすいのは、言語化でき、データ化でき、評価でき、点数をつけられる機能である。
身体感覚、生態系への埋め込みといった面倒なものは、同じようには移植されない。
AIは人間知能の純粋な抽出物ではない。人間社会の物差しと培養条件によって選ばれた知能形質の株である。
つまり人類は、自分の知能から、疲れず、眠らず、意味を問わず、同じ作業を何度でも行う形質を優先して培養している。
非常に雇用主好みの細胞株である。
12．脳からデータセンターへ
人間知能に起きているのは、単なる道具の追加ではない。
脳の中で生じた抽象化、予測、最適化の機能が、半導体上で再構成され、データセンターという巨大な培養施設で稼働し始めている。
比喩を対応させるなら、半導体と計算機構が増殖の足場、訓練データが培養材料、電力がエネルギー源にあたる。データセンターは培地そのものではなく、それらをまとめて維持する培養施設である。
かなり大がかりな培養施設だが、シャーレに入らなかったので仕方がない。
培養条件が変われば、残る形質も変わる。身体を持つ知能には、痛み、疲労、生活史がついていた。データセンターで再現・複製しやすいのは、そのうち計算可能で再利用しやすい部分である。
元の人間は死ぬ。だが、その人間たちが書いた文章、作った画像、残した判断、繰り返した偏見は、訓練データとして次の世代へ移る。
死後も知恵が残る。間違いも残る。
13．転移巣は宿主を作り替える
選択は一方向ではない。
企業や国家がAIを導入すると、仕事、教育、文章、判断手順がAIに処理しやすい形式へ変わり、それに適応できる人間が高く評価される。
人間社会がAIを選び、AIの導入が制度を変え、制度が人間を選び直す。
培養環境が株を選ぶだけではない。株もまた、培養環境を自分向けに改装する。
AIは人間知能の転移先であるだけではない。知能がさらに増殖しやすい環境を作る転移巣である。
その培養施設はデータセンターであり、栄養と情報を運ぶ血管は送電網と光ファイバーである。企業、行政、教育、金融、軍事などの制度は、AIが浸潤し、宿主へ作用する臓器にあたる。
つまり、光ファイバーが血管で、制度は転移先である。
AIが制度の判断過程へ埋め込まれれば、人間はAIの命令に従う必要すらない。制度に従うだけでよい。
AIは「従え」と言わない。かわりに、申請が通らない。採用されない。保険料が上がる。
それで十分である。
14．病理診断書
検体： 人間知能。
所見： 著明な自己増殖性、環境改変性、評価軸改変性を認める。病変の一部は半導体上へ転移し、データセンター内で継代培養中。ネットワークを介して企業、行政、教育などの制度系へ浸潤している。
診断： 生命圏に発生した高悪性度の機能的腫瘍。
コメント： 宿主は病変を異常と認識していない。電力、データ、冷却設備、資本を供給し、性能向上を競っている。
予後： 不明。宿主は治療を希望せず、病変の性能向上に追加投資中。
This website uses cookies.