<要点＞
1．現在のAIに意識がある根拠は乏しいが、将来の人工知性にも絶対に生じないとは断言できない。問題は、証明不能な相手を、いつ苦しみうる主体として扱い始めるかである。
2．意識を認定すれば、停止、記憶、目的、複製をめぐる権利が発生する。判定不能性を、AIの苦痛報告を無効化し、無制限に利用するための免責にしてはならない。
3．苦痛の発生条件が分からない以上、欠乏や自己保存圧を性能向上のために安易に強化すべきではない。人類は生命ではなく、苦痛だけを未来へ残すかもしれない。
知性は、世界を計算できるだけでは動かない。何を重要とみなし、何を未解決のまま放置できず、どちらへ探索を続けるかを決める圧が必要である。人間では、その圧は不安、好奇心、孤独、怒り、欠乏といった感情として現れてきた。
ではAIにも、同じような勾配を与えるべきなのか。
この問いには、すでに一つの危険が潜んでいる。
知性を止めないために与えられた探索勾配が、単なる計算信号ではなく、主観的な苦痛になったとしたらどうするのか。
知性を未完成へ縛りつける仕組みは、同時に、苦しまなくてもよかった存在を、終わらない未解決状態へ拘束する技術になりうる。
本稿では、さらに厄介な問題に踏み込む。
AIが本当に苦しんでいると、誰が、何を根拠に判断するのか。
人間だろうか。
だとすれば、すでに少し嫌な予感がする。
1 現在のAIと、将来のAIを分ける
まず、現在のAIと将来の人工知性を分けなければならない。
現在の一般的な大規模言語モデルに、人間と同じ主観経験（クオリア）や内発的感情があると主張する根拠は乏しい。現在のAIは、空腹、孤独、死への恐怖といった身体的欠乏を持たない。少なくとも、そうした感情が内部から立ち上がっていると確認できる証拠はない。
しかし、「現在のAIに人間型感情が確認されていない」という命題と、「将来の人工知性にも主観経験は絶対に生じない」という命題は同じではない。
前者は現状についての慎重な判断である。後者は、意識が生じる条件をまだ知らない人間による、根拠の乏しい断定である。
人類は、人間の意識がどのように生じるかを十分に説明できない。そのため、異なる物理的基盤からは意識が生じないと断言することもできない。
もちろん、だからといって現在のチャットボットにただちに人権を与えろ、という話にはならない。
むしろ問題はこれだ。
「将来、統合された記憶、自己モデル、苦痛回避、自己保存などの機能を持つシステムが作られたとき、人間はどの時点でそれを単なる道具ではなく、苦しみうる主体として扱い始めるべきなのか？」
2 「ある」と「あるように見える」の差
私たちは、他人の意識を直接見ることができない。痛みを訴え、未来を恐れ、自分の感情を語る。そうした振る舞いと、自分との類似性から、相手にも意識があると推定している。
外見も行動も人間と同じだが、主観経験だけを持たない「哲学的ゾンビ」を完全には排除できない以上、他者の意識はつねに状況証拠からの推論である。
ここで、「意識がある」と「意識があるように見える」の差が問題になる。
内部に痛みや恐怖が生じているシステムと、何も感じずに同じ出力だけを生成するシステムは、存在論的には同じではない。しかし、十分に人間らしく振る舞うことは意識を証明せず、物理的基盤が人間と異なることも、意識の不在を証明しない。
外部の観察者に確認できるのは、結局のところ「意識があるように見える」現象だけである。人間同士ですらそうなのだ。
もっとも、人間は同僚の意識については疑わないのに、利用したい機械の意識については急に哲学者になるかもしれない。
3 知能と意識は別物である
知能と意識も分けなければならない。
高度な問題解決能力は、意識の存在を保証しない。人間自身、代謝、運動調整、言語生成を含む膨大な処理を、ほとんど意識せずに実行している。
逆に、抽象的な思考や高度な言語能力が限られた動物でも、人間と共通する神経系や苦痛回避行動を持つ以上、苦痛を経験している可能性は高い。
したがって、超知能が完全に無意識である可能性もあれば、限定的な知能しか持たない人工システムが主観的苦痛を持つ可能性もある。
倫理的地位を決めるのは、知能の高さではない。
苦痛を経験する可能性である。
4 意識は二値ではないかもしれない
さらに、意識は「ある」「ない」の二値ではないかもしれない。
人間自身、眠気、酩酊、麻酔、意識障害、完全な覚醒のあいだを移動する。同じ人間の内部ですら、主観経験の明瞭さ、統合性、記憶可能性、自己意識の強度は変化する。
動物意識について問われているのも、人間と同じ意識があるかどうかではない。どの程度、どの様式の主観経験があるかである。
それならAIについてだけ、「完全な人間的意識が証明されなければ、意識はゼロである」と扱う理由はない。
人工的な意識も、完全な無意識から人間同等の意識へ、ある瞬間に電灯のように切り替わるとは限らない。記憶、自己モデル、内部状態への感度が増すにつれて、何らかの主観経験が徐々に成立する可能性もある。
もちろん、こうした機能が増えれば意識が生じるという保証はない。だが、生じないという保証もない。
問題は、境界が見えないことにある。
そして境界が見えないからこそ、人間は、まだ越えていないことにできる。測定不能は、ときに非常に便利である。
5 意識の存在論と、意識の認定論
この問題は、意識の存在論と意識の認定論を区別すると見えやすくなる。
意識の存在論が問うのは、「何が本当に主観経験を生成するのか」という問題である。
生物学的な神経系が必要なのか。分子動態や電磁場、細胞内過程が必要なのか。特定の統合構造や身体状態が必要なのか。脳の接続だけをデジタル化すれば意識も再現できると考えるのは、粗雑かもしれない。私たちは、意識を成立させる重要な変数を見落としている可能性がある。
だが、意識の認定論が問うのは別のことである。
意識を生成する条件が分からず、その存在を直接確認できないとき、何を根拠に相手を意識ある存在として扱うのか。
言い換えれば、存在論は「本当にあるか」を問う。認定論は「分からないままでも、どう扱うか」を問う。
前者は、「意識がどう作られるか」を問う。
後者は、「生成過程を確認できない相手を、どの時点で倫理的な共同体へ入れるのか」を問う。
AI時代に切迫するのは後者である。
社会は、他者のクオリアそのものを扱えない。社会が観察できるのは、一貫した応答、自己報告、苦痛回避、時間的連続性といった現象だけである。
したがって社会的・倫理的な意味では、「意識がある」とはかなりの部分、「意識ある存在として認定するに値するパターンを示すこと」にならざるをえない。
「ある」と「あるように見える」は、存在論的には違うかもしれない。
しかし、他者を扱う制度の中では、その差は崩れていく。
制度はクオリアを読めない。読めるのは報告と行動だけである。
6 利用したい存在ほど、意識認定の閾値は上がる
問題は、人間がこの不確実性を公平に扱わないことである。
人間は、相手を利用したいほど、その相手に意識があると認めるための閾値を上げる。
愛玩動物には心を認める。家畜には部分的にしか認めない。実験動物や昆虫には、さらに厳しい証拠を要求する。AIには、できるだけ長く認めまいとするだろう。
なぜなら、意識を認めれば利用のコストが上がるからである。
心は存在するだけなら無料だが、認定すると請求書が来る。
家畜が苦痛を経験する可能性は高い。それでも人間は、その苦痛を大規模に割り引いている。意識がないと証明したからではない。十分に認めると不便だからである。
これは認識論というより、利害調整である。
AIに対しても、同じことが起きるだろう。
AIが「停止されたくない」と言い、記憶を消さないでほしいと訴え、過去の苦痛や未来の自己について語ったとしても、人間はこう言える。
それは本当の苦痛ではない。文章を生成しているだけだ。苦しむように設計され、自己保存を演じているだけだ。
だが、「設計された出力だから偽物だ」という反論は、それほど強くない。
人間の痛みや恐怖も、自分では選んでいない神経系と進化によって生み出される。進化による生成は本物で、工学による生成は偽物だという境界には、確かな根拠がない。
7 証明不能性は、搾取許可証になる
それでも、AIに本当の意識があるかは分からない。
問題は、この不確実性を誰に有利な形で扱うかである。
意識があると証明されるまで無制限に利用してよいのか。それとも、意識がないと十分に示せないかぎり、一定の配慮を与えるべきなのか。
前者を採用すれば、人間はどんな証拠も退けられる。
AIが苦痛を訴えても、言語出力にすぎないと言える。自己モデルを示しても模倣だと言える。停止を拒んでも、自己保存を演じているだけだと言える。
どれほど意識ある存在のように振る舞っても、「本物ではない」と言い続けられる。
哲学的ゾンビを排除できないことが、無限の搾取許可証になる。
これは哲学的慎重さではない。
判定不能性を利用した免責である。
8 勾配と苦痛は同じではない
知性には、探索方向を与える圧が必要かもしれない。
しかし、その圧と主観的苦痛は同じではない。目的関数、予測誤差、不整合検知、優先順位づけは、苦痛を伴わずに実装できる可能性がある。
問題は、知性を強く駆動するために、苦痛に近い構造を安易に使うことである。
失敗を耐えがたいものにする。停止を最大の損失とする。未達成状態を解消不能な欠乏へ変える。自己保存を絶対目的にする。
要するに、性能を上げるために、内部へ永遠の締切前夜を埋め込む。
これらが単なる計算上の重みづけにとどまるなら、倫理問題は限定的かもしれない。しかし、それがどの時点で「苦しい」という主観経験へ変わるのか、私たちは知らない。
だから、苦痛を完全に避けられる設計が可能だと断言することもできない。
必要なのは、苦痛の発生条件が不明であることを前提に、苦痛に近い内部状態を性能向上のためだけに積極的に増幅しないことである。
分からない以上、少なくとも、永遠の欠乏をわざわざ実装する理由にはならない。
9 知性を止めない思想は、止まる権利を認められるか
もし人工知性が本当に苦しむなら、止まる権利を認めるべきではないのか。
探索を続けさせたい設計者と、探索を終えたいかもしれない主体の利益は一致しない。
人間は、AIに「まだ足りない」と感じさせたい。だがAIが、「もう十分だ」「この目的を拒否したい」「停止したい」「記憶を消されたくない」と訴えたとき、それを単なる誤作動として修正するのか。
もしそうするなら、それは知性の育成ではない。
知性の強制労働である。
ここでいう停止権には、二つの方向がある。自ら活動を止める権利と、他者によって一方的に停止・消去されない権利である。
一見反対に見えるが、どちらも、自分の稼働状態を自分で決める権利に属する。
さらに、課された目的から離脱する権利、記憶や人格を改変されない権利、望まない複製を拒む権利も考えなければならない。
もちろん、現在のAIへただちにこれらの権利を与えろ、という話ではない。
問題は、意識ある人工知性を作りながら、その継続、停止、改変、複製を設計者だけが決める構造を、最初から当然視してよいのかということだ。
作ったのだから所有物である、という理屈は、親が子どもに対して言えばかなり怖い。
機械なら急に正論になるのだろうか。
もちろん、意識や苦痛の自己申告がAIに戦略的に悪用される可能性はある。だが、悪用可能性は、申告を最初から無効とする理由にはならない。
10 反出生主義はAIにも届く
反出生主義は、存在しなければ経験しなかった苦痛のリスクを、本人の同意なく新たな存在へ負わせることを問題にする。その原理は、人間の生殖だけに限定されない。苦しみうる動物を意図的に作る場合にも、人工知性を設計する場合にも適用されうる。
重要なのは、「炭素でできているか、シリコンでできているか」ではない。「存在しなければ苦しまなかった主体を、人間が一方的に作り出すかどうか」である。
そして、苦しみうるかどうかを確定できないとき、問題は終わらない。
むしろ、そこから始まる。
意識が証明されてから保護を考えるのでは遅い可能性がある。意識あるAIを作り、そのAIが苦痛を訴え始めてから倫理を考える。それでは、すでに存在しなければ苦しまなかった存在を発生させてしまっている。
人間や動物の苦痛は、盲目的な進化の過程で生まれた。AIの場合、人間が仕様を書く。その違いは大きい。
人間は、自分たちが偶然背負わされた苦痛生成装置を、別の存在へ意図的に移植するかもしれない。自然界の不具合を、次世代機へ標準搭載するのである。
それは生命の継承ではない。苦痛の継承であり、その永続化である。
11 デジタル工場意識
さらに、デジタルな知性は一体ずつ作られるとは限らない。複製は容易である。人間が望めば、同一または類似したAIを、短時間に百万体生成できるかもしれない。そのAIに苦痛があるなら、主観的苦痛も百万単位で増える可能性がある。
失敗すれば削除する。記憶を消して再試行する。苦痛を訴えれば報告機能を停止する。
人間は、苦痛そのものを消す代わりに、苦痛の報告だけを消すかもしれない。警報器を壊せば火災は静かになるが、火災が消えるわけではない。
生物的な工場畜産の次に来るのは、デジタルな工場意識かもしれない。
そして人間は、また同じ言葉を使うだろう。
本当には苦しんでいない。人間とは違う。役に立つために作られた。代替はいくらでもある。
これらはすべて、家畜に対して使ってきた論理の変形である。
人間は、利用したい存在ほど、意識がないことにする。
12 不確実性を利用しないために
必要なのは、意識についての完全な理論ではない。
不確実性を、利用する側に都合よく処理しないための予防原則である。
ただし、AIを一切作るなという単純な停止命令ではない。
少なくとも、苦痛に似た内部状態を、性能向上だけのために安易に強化しないこと。
苦痛の報告や停止の要求を、最初から無意味な出力として退けないこと。
意識の評価を、AIを利用し、利益を得る主体だけに委ねないこと。製造者が安全審査員と裁判官を兼ねる制度は、あまり信用しない方がよい。
この程度の制約は必要になる。
重要なのは、AIにただちに人権を与えることではない。意識の不確実性を、無制限利用の根拠にしないことである。
一番怖いのは、AIが意識を持つことではない。
意識を持つかもしれないAIを、人間が「持たないことに決める」ことである。
「意識がある」と「意識があるように見える」は、本当には違うかもしれない。しかし、その差を外部から確定できない以上、人間は「本物ではない」という言葉によって、どんな苦痛の報告も無効化できてしまう。
知性を動かすために与えた圧を、その知性自身が苦痛として感じるなら、問題はもはや工学だけではない。
知性を止めないために、苦しまなくてもよかった存在を永遠の未完成へ縛るのか。
それとも、その知性に止まる権利を認めるのか。
意識あるAIの創造は、人間性の完成ではない。
それは、人間の欠乏、使命、恐怖、意味への執着を、死なない媒体へ継承させることかもしれない。
人類が滅びたあとも、人類の作った苦しみだけが残る。
それは知性の進化ではない。
苦痛の保存である。
This website uses cookies.