堕大学生のつぶやき

ネッ友用Facebook的なノリで

【雑記】感情を持つアンドロイド

こんにちは。

なんとなくブログを更新しようと思って2日が過ぎ去りましたが、皆さんいかがお過ごしでしょう。

※ブログ主、そろそろ鬱期間(テスト期間)となり、精神が安定しなくなると思われるので、twitter、ブログ等、静かになってしまう可能性があります。

 

ちなみに、『今期の実験最終レポートの作成も終わり、ひと段落ついた』といったら確かにそうですが、実際、レポートは苦行なだけで、しっかりと暗記して実践していかないといけない期末試験の方が厄介です…

 

まあなにはともあれ、本題に入っていきます。

 

なんでこんな、感情だの、アンドロイドだの言い出したかというと、もとはこいつを視聴したことがきっかけです。

 

 

planetarian?星の人?

planetarian?星の人?

 

 前回のブログ記事で紹介した、『key』の作品の一つで、原作のその後を描いた映画が公開されました。

 

ちなみに原作版はこれ。

 

 

planetarian ~ちいさなほしのゆめ~ 初回版

planetarian ~ちいさなほしのゆめ~ 初回版

 

 この原作に沿った部分は、配信かなんかでアニメ化されてたような気がします。

 

話としては、戦争で地球がズタボロになってしまい、さらに人口なども激減して、住む地域も限られたものとなった、よくありがちな近未来の話です。

 

ただ、この話(原作)の面白いところは、屑屋(廃墟となった都市でものを集めそれを生業にしている)の男と、このアンドロイドロボット『ほしのゆめみ』以外のキャラクターは出てこないことなのです。

そして、話自体も、男が都市を訪れて、その都市を離れるまでの短い期間。その間、男は彼女と接する中、次第に考え方が変化していきます。

f:id:kanawanproya:20170717164700j:plain

まあ、この廃墟都市に残されたロボットです。そう長くはありません。電力も奇跡的に供給されていたわけで。

 

結局、とある理由にて、筐体は破損してしまい、男が、彼女のデータの入ったメモリのみを持ち帰るという形にて、原作、配信版は終わりを迎えます。

 

ただ、この『ゆめみ』は、超未来型ロボット『ドラえもん』のように、完璧に人と会話をこなせるわけではありません。その面が妙にリアルな作品だといえるでしょう。

 

おそらく、このロボットには完璧な『感情』がない。そして、現存する人工知能同様、『何を言っているのかわかりません』と返答する場合もある。

 

もしかしたら現在の技術で実装できるのでは?

 

感情自体はありませんが、人間の役に立とうと一生懸命なのがロボットなわけです。

もともとSF小説内での記述ではありますが、ロボットには以下の3原則があります。

 

第一条

ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条

ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条

ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

 

必死に隠してきましたが、話の便宜上、原作のネタバレをさせていただきます。

≪ネタバレしたくない人はこれ以降は見た後にお願いします≫

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

 

このワードを強く感じたのが最後のシーンです。

『何があってもここを離れるんじゃない』という男の命令を無視し、彼女はその場を離れ、男を守ろうとした、結果、都市を守っていた防衛ロボットの手により、彼女は壊れてしまいます(もともとデパートに戻る電力程度しかないが)

 

話をもとに戻すと、これは、彼女自体の『男を守らなきゃいけない』という感情のもとでとった行動ではないと考えます。プログラム上で、強い命令として上の3条が書き込まれているに違いありません。

 

もともと、『ゆめみ』は感情の持たないロボットとしての表現がなされており、『涙』に関しても彼女自体興味を示していながらも、実装はされていないためよくわからないという感じでした。

※現存する会話型ロボットが話すネタとして涙や感情を口に出すことは多々ある。

 

3回のAIのブームを経て、『人間側の感情』を何らかの形で読み取ってくれるロボットは実現され(完ぺきではないが)、上の3原則に強く影響するとしたとき、人間側の感情自体はこのロボットと接する上で強く影響するでしょう。

ただ、これは一方通行な感情のやり取りなわけです。

 

ラストにこんな言葉があります。

 

『天国をふたつに分けないでください』

 

これは、最後を迎えた『ゆめみ』が神様に祈った言葉です。かみ砕くと、人間の天国とロボットの天国を分けないでくれといったもので、彼女は、天国に行った後も人のために尽くしたい、それが幸せというわけです。

そう、ロボットである以上、常に人間に尽くそうとする。これまでに忠実なのか…と思いました。

 

最後のシーン、屑屋の男は『ゆめみ』の大破に涙を流します。

その涙が壊れて視覚を失った『ゆめみ』の目に落ちそれが頬を伝う。これほどにないシーンだったと思います。

 

作中では、新しい筐体では涙を流すことのできるものもあると、説明がありましたがどこまでのものなのでしょうか。

おそらくこの話を考えるに、新筐体も強く上の3原則に依存しているように思われます。

 

では、『ドラえもん』との違いを考えてみましょう。彼には感情があります。(もちろん人に尽くそうとするし、人を第一に考える部分もある)

ただ、彼は自分の意志で涙を流すし、ミイちゃんという雌猫に愛情さえ抱く。さらには食欲、睡眠欲さえある。彼は『猫型』であるが、『人型』の『ゆめみ』より恐ろしく人間的なわけなのです。

 

 

『天国をふたつに分けないでください』

 

という言葉は、また、『私も人間になりたい』といった表現だとしましょう。そうすれば、当然、ロボットたちから切り離されるのは3原則です。

3原則がある以上、ロボットは人間になれないどころか、感情さえ抱くことが出来ないわけですから。

人間に「3つの決まり」があったとしましょう。

1.ねるな

2.飯をくうな

3.エッチなことをかんがえるな

どれも大切な人間の欲求です。1,2を守ることは生きていくうえでは無理でしょう。

では3は?

ロボットに『エッチなことを考えるな』という原則を設けると、絶対に彼らは考えません。人間だと、行動には出ないものの(ここが人間が他の生物と異なる点だといえる)、頭の中では「好きな〇〇ちゃんと〇〇したい」と考える瞬間は必ずあるはずです。

 

人間がプログラムで動いていたとするならば、原則や社会の決まりの上にまずあるの個々人の感情です。それが原則だの社会的決まりに基づきフィルタリングがかけられ、行動を起こすのに対し、現存するロボットは3原則が一番上にあり行動をおこすわけです。

 

では、3原則を切り離して、ロボットに感情を与えちゃおう。

そうすることにより、彼らはより人間に近づきます。いや、動力源をなしにして考えるともう人間といっても過言ではありません。

ただ、こう簡単に話は収まらないわけです。

 

まず、工学的なものはすべて『人のため』が条件として生み出されます。

人間というものを探求するのであれば、人と同じく感情制御におき観察することは面白いと言えます。ただ、工学的なものとして、なおかつ人間としてロボットを社会に立たせることはできないでしょう。

 

当然、どちらかを選ばなければなりません。

 

生身の人間として社会に出したいのであれば、3原則を切り取り、感情を与えることで、我々は対象に対してあまり『ロボット』であることを感じないでしょう。ただ、彼らに『人間に絶対服従しなければならない』という意思はありません。むしろ、計算機上で答えを導くロボットは人間より優れた存在となってしまいます。

ここでよく引き合いに出されるのが、『ロボットに服従させられる社会』です。

もっと話を小さくすると、人から犯罪者は生まれます。同じくロボットが人になったとき、彼らのうちいくつかは犯罪を犯すというわけです。

 

できるだけ人に近づけたいのが技術面。しかし、彼らを括り付けておく鎖も必要なわけですね。

f:id:kanawanproya:20170717175316j:plain

ゆえに、その間の限りなく最適な解を取っているといえる『猫型ロボット』

 

『planetalian』を見て、ロボット3原則という言葉がよぎったのでここまで雑記してみました。

 

そして、映画本編は、彼女のデータをもった男のその後を描いています。

より悪化した地球で、『ゆめみ』の意思を受け継ぎ、星の人となった屑屋はある集落で最後を迎えます。

この後半の話をするとき、今回の話題からだいぶそれてしまうと思うので、またおいおい。

ただ、印象的だったのが、屑屋の最後は『ゆめみ』のメモリを差し込むことのできる新筐体を集落で見つけたときなんですよね。

 

長々と話しましたが、これにて今回は終わります。

雑記として書いちゃったせいで、結構おかしな文章になっていると思いますが勘弁を…

 

ではでは