流山発　ちょっと気になるＷｅｂｌｏｇ

ロボット３原則

映画「Ｉ　Ｒｏｂｏｔ」を見ました。なかなか面白かったのですが、登場するロボットについての徒然。

愛・地球博でも日本の様々なロボットが活躍していて驚いているのですが、映画は、近未来（設定では西暦２０３５年）の世界で、ロボットが単体で、人間と同じように認知・判断・行動できる存在として描かれています。

果たしてこのような世界が実現するのかどうか分かりませんが、人間の思考と見分けがつない反応・対応をするコミュニケーションを主な目的としたプログラムとしてのＡＩ（正確には人間の思考と同じものではないと思うが）は、すぐにも出てくるものと思います。

この映画でも、アシモフ氏のロボット３原則が出てきますが、この原則に基づくストーリー、暴走するＡＩというモチーフは数多くあります。（「ＡＩ」ということでは、以前にエントリーしていますが。）

ロボットは、人間のために創られたものだから、人間以下の存在として、アシモフの３原則があると思うのだが、そもそもロボットが制御が可能な機械であるとしても、この３原則は、自律した単体として自ら判断して行動することを前提としています・・・しかし・・・

ロボット自らの判断が正しいのか正しくないのか、３原則に抵触するような人間の命に関する問題でないとしても、そのロボット自ら判断・選択するということ自体、そのアルゴリズムの設計が妥当であったのかどうか、様々な選択肢、複雑な相互関係の中で、判断するプログラムの正当性が問われるような気がしてなりません。

仮にそのような世界が実現するとして、人間はロボットを信頼できるようになるのだろうか？　１か０かのプログラムの世界の中で、ロボットが個性やゆらぎを身に付けるということは、より人間に近い存在になるということではあるけど、人間が人間を常に信頼するということは永遠にないのと同じで、より問題が複雑になるだけのような気がする。
　　
では、映画にあるようなロボットの暴走とは何だろうか？　プログラムされた機械が、想定の範囲外の行動をすることを暴走というのだろうけど、そもそもプログラムなどされていない人間の狂気とは、何が違うのだろうか、現象としては、たぶん見分けがつかないのではないだろうか。

今でもコンピューターは、社会になくてはならない存在で、人間の判断を助けて、人間の仕事をしやすくする存在である。車載されたコンピューターは、人間の死角や暗闇を検知して警告、車間距離が狭まればブレーキを掛けるなど、あくまでもフェイルセーフの範囲で機能している。

しかし、もう少し進むとドライバーの意志に反してブレーキを掛けたり、アクセルを踏んだりするようになるのではないだろうか？　それを快く思わない場合も出てくるのではないだろうか。電車のＡＴＣもそうなのかも？　フェイルセーフ、フールプルーフだけではなく積極的なドライブ、運行管理に威力を発揮しているのかも知れません。

将来、ロボットは、便利、いやそれ以上に必要な存在になるのなのかもしれないが、それに接する人間の心の準備が出来るより、テクノロジーが進化するスピードの方が早そうな気がしてならない。もし、付け加えるならロボットよりも完全なる人のクローンが創られて、その社会的な存在の扱いが議論される方が早そうな気がします。

ＳＦとは、「未だ訪れていない未来に想いをはせ、人類という流れる河の行く末を想い、今を生きる我々に明日を考えるヒントを与えてくれる。」というような言葉を聞いたことがありますが、まさに至言だと思います。

投稿者 spock : June 12, 2005 12:40 AM | トラックバック