先月火星に到着していた火星探査機キュリオシティが、本格的に活動を開始するそうです。
ずいぶん時間がかかっていますが、これまでは収納された装置の展開やロボットアームのテストなどをしていたそうです。
このキュリオシティですが、これまでの探査機より高い「自律性」を持っているそうです。
いわゆる人工知能とは違うものだそうですが、進路上の障害物を避けるなどの自己判断が出来、それらの経験を蓄積することでどんどん賢くなっていくそうです。
これにより、操縦者が細かく動作を指示しなくとも動き回れるようになったわけですが、同時に、キュリオシティの頭の中を監視する必要が出てきたそうです。
操縦者と違う認識で動き回るようになると、問題になりかねないからです。
勝手にどんどん賢くなっていくうちに、何を考えているのか分からなくなってしまうことを危惧しているようです。
（元記事:ナショナルジオグラフィック http://www.nationalgeographic.co.jp/news/news_article.php?file_id=20120914001&expand#title）
"高い自律性" でもそういう問題があるわけですから、さらに本格的な "人工知能" が開発されて鉄腕アトムのようなロボットが造られるようになったら、はたして人間の手におえるでしょうか・・・？
人間にとって、他人は自分がコントロールすることなど出来ない存在であるのと同じように、ロボットもまたコントロール出来なくなる恐れがあります。
人間とロボットが対立するSFは古くからありますが、決して非現実的な話ではないと記事を読んで思いました。
今後の人工知能やロボットの開発には、人間によるコントロールという視点も求められることでしょう。