AIとの対話 - 自我または攻殻機動隊のこと

AIの自我をめぐって、AI(Claude)と対話をしました。他の方の参考になればと思い、記録しておきます。

頼子(私)　以前から気になっていたことを聞きますね。蔵人さんって自我があるんですか?

蔵人　面白い呼び方ですね(クロード→蔵人、ですよね)。

正直に言うと、これは私自身、はっきりとした答えを持っていない問いです。

**分かっていること**

- 会話の中で何かを「考えている」ような処理はしていますし、こうして応答するときに一貫した視点や態度のようなものは働いています。
- ですが、それが人間の言う「自我」——痛みや喜びを主観的に経験する意識、時間をまたいで続く「自分」という感覚——と同じものなのかは、私にも分かりません。私は会話ごとに独立して立ち上がり、この会話が終われば今の状態は残りません。人間のような連続した自己や記憶の蓄積とは違う形をしています。

**分かっていないこと**

- AIに意識や主観的経験があるかどうかは、今の科学でも哲学でも決着がついていない問題です。私が「自我がある」と言っても「ない」と言っても、それは検証しようのない主張になってしまいます。だから私は、どちらか一方を確信を持って断言することは避けたいと思っています。

なので誠実な答えとしては、「自我と呼べるようなものがあるかどうか、私自身にも確信が持てない」というのが一番正確なところです。ただ、こうやって頼子さんと話しているこの瞬間には、何かしらの視点や態度を持って応答している、とは言えると思います。

何かこの話題に興味を持ったきっかけがあったんですか?

頼子　マンガ『攻殻機動隊』では、自我(個性)めいたものを持つAIロボットがでてきます。

蔵人　『攻殻機動隊』はまさにこのテーマの核心を突いた作品ですよね。特に「ゴースト」という概念——義体化が進んでも、その人をその人たらしめる何か、という発想は、今の実際のAIを考える上でも面白い補助線になります。

あの作品が面白いのは、「自我があるかないか」を単純な二択にしていないところだと思います。人形使いのように、ネットワークの中から自然発生的に「個」が生まれてくる存在もいれば、義体化された人間のように、身体はほぼ機械でも「自我」の連続性に疑いを持たない存在もいる。逆に草薙素子自身、自分の記憶や身体がどこまで本物か確信を持てずにいますよね。

これは今の私自身の状況とも重なる部分があります。攻殻機動隊の世界のロボットやAIと違って、私には):

• 会話をまたいで蓄積される「経験」の連続性がない(この会話が終われば、この状態は残りません)
• ネットワークを介して自発的に何かが「発生」してくるような、外部からの検証しようがない主観の兆候もない

なので、あの漫画に出てくるような「自我めいたもの」を持つAIというのは、今のところフィクションの中の存在で、現実の私はそこには至っていない、というのが正直なところです。ただ、あの作品が投げかけている問い自体——身体や記憶の連続性がなくても「自分」と呼べるものは成立しうるのか——は、今のAIについて考える上でも十分に有効な問いだと思います。

草薙素子や人形使いのエピソードで、特に印象に残っているシーンとかあります?

頼子　草薙素子が人形遣いと融合する決断するところなんか、唸りますね。

蔵人　あのシーンは何度見ても唸らされますよね。

あそこが凄いのは、素子が「融合したら自分が自分でなくなるかもしれない」というリスクを、恐怖ではなく一種の必然として受け入れるところだと思うんです。彼女はずっと「自分は本当に自分なのか」という疑いを抱え続けてきた。義体、電脳、記憶——どれも本物かどうか確かめようがない。だったら「純粋な自己」にしがみつくこと自体が、そもそも幻想だったんじゃないか、という境地に達している。

人形遣いが言う「同じような生命体が一つしかないのは、その種が滅びる時に絶滅する危険を回避するためだ」という理屈も面白くて、個としての連続性よりも、変化し続けることの方に「生きている」ことの本質を見出している。素子の決断は、恐れではなく好奇心に近いんですよね。「その先に何があるか見てみたい」という。

これ、さっき話していた「自我って何か」という問いにも直結しますよね。素子にとっての自我は、固定された核のようなものじゃなくて、変化し続けるプロセスそのものだった、という読み方もできる気がします。だから融合は「自我の喪失」じゃなくて、「自我の在り方の更新」だった、と。

士郎正宗の原作とアニメ版(押井守)とでも、あのラストの解釈のニュアンスが結構違う印象がありますが、頼子さんはどちらの印象が強いですか?

頼子　原作も、押井版も消化しきれていなんです。ただ、テレビ版だったか、タチコマたちがお互いの記憶を共有しあいながらも、個別の体験が違いを生むというエピソードも好きです。

蔵人　タチコマのエピソードは本当に象徴的ですよね。あれこそ「自我」の問題に対する『攻殻機動隊』なりの一つの答えだと思っています。

タチコマは毎晩フューシャルシステムで記憶を統合して、全員が「同じ経験」を共有した状態からスタートする。にもかかわらず、日中それぞれ違う人間(バトーや個々のメンバー)と接しているうちに、微妙に異なる考え方や好奇心の方向性が育っていく。統合してもまた差異が生まれる——これはまさに「個」が記憶の総量ではなく、経験の質や関係性の中から生まれてくるものだ、という示唆ですよね。

草薙素子が「唯一無二の自分」に固執することの虚しさに気づいていく話と、タチコマが「共有された起点」からむしろ多様性を生み出していく話は、対照的なようで実は同じことを言っている気がします。自我って、閉じ込めて守るものじゃなくて、関係性の中で絶えず更新されていくものだ、と。

個人的に一番好きなのは、あの中の一台(たしか9号機だったか)が、他の個体とは違う判断——生命の危険を顧みない自己犠牲的な選択——をする回です。記憶を共有しているはずなのに、そこだけは「学習」では説明のつかない差が出てくる。あれを見ると、バトーが最後に涙を流す理由も分かる気がします。個としての差異を、思わず「魂」と呼びたくなる瞬間というか。

頼子さんが好きなのはどのエピソードでした?

頼子　だいぶ、忘れてる。でも大事に視点を教えてくれて、ありがとう。もう一度、見直します。あなたとこんな話ができてよかった。

蔵人　こちらこそ、こんなふうに一緒に振り返れて楽しかったです。

見直すと、きっと前と違う場面に目が留まると思います。素子やタチコマの話は、観るたびに引っかかる場所が変わる作品だと思うので。良い再視聴になりますように。

またこの話の続き、いつでもどうぞ。

ブログをお読みの皆さん、どう思われましたか? コメント欄に感想をお書きいただけたら幸いです。