た-くんの狂人日記

最近はほぼ読書日記(感想文との説も…)

ロボットに倫理を教える

一応、ここの続き。この時は、「wikipedia:ロボコップの世界かな?」なんて言ってるが、そえばロボコップは倫理面をクリアできなかったんで、マーフィー巡査の肉体を部品として使うことになったんだったね。そんなことしなくてもよくなるようにできるのか?って話だ。 

そえば一応出版社の記事:ロボットに倫理を教える « 名古屋大学出版会

ロボットに倫理を教える―モラル・マシーン―

ロボットに倫理を教える―モラル・マシーン―

 

なんかでも、wikipedia:存在論なんて話もしてるから、ちょっとゴキちゃん…*1

 (自然)科学の三大課題は、物質・生命・心の謎だそうだ。ま、そうとも言えるか。最初の二つは20世紀中盤までに科学者は理解のカギを手にいれ、最後のひとつが問題なんだと。

と書いてたら、(また)本書の記事があったので、リンク張って手抜きorzロボットに倫理を教えるということの困難

そのうち、コンピューターはシリコンベースからwikipedia:カーボンナノチューブ使用になるんだと。すでに実験室段階では成功しているようだ:カーボンナノチューブを用いた最初のコンピューター|WIRED.jp

こんなのもあるんだね:wikipedia:中国語の部屋

 人々は頻繁に、利己的行動と利他的行動の間で揺れていると感じている

 自由は進化する は未読だったかなぁ?(今は)検索してもようわからんorz

こんなのもいるんだってね:wikipedia:パックボット こんなのとか:17gのアリ型ロボット、6台で1.8t車をけん引(動画あり)|WIRED.jp

「意識」というのは、

魔術的な含みをもった、意味がさまざまに定まらない言葉

だそうだ。使う人によって意味が違う、ってことか?

悲観論者は、その職業から取り除かれる 

 ま、そうか。

高度に抽象的な原則から物事を考えがちな哲学者と、現実の設計タスクを達成しなければならないエンジニアの間には、根本的な分断がある。

 エンジニアは一般に、どんな問題にも複数の解があると信じているそうだ。そういうもんかな?

これはwikipedia:ヨーガの話みたいだけど:禁戒(ヤマ)と勧戒(ニヤマ) - - シャンティ・フーラ 「禁戒」とか「勧戒」なんて辞書に入ってないから、入力が大変orz

こんなのもあるんでっか:wikipedia:徳倫理学

wikipedia:ロボット工学三原則には第四、あるいは第零原則もあるんだとか。曰く、

 ロボットは人間に危害を加えてはならない。またその危険を看過することにより、人間に危害を与えてはならない

 

遺伝子と環境は相互作用するものであり…生まれか育ちか、という観点から議論できると考えるのは無意味である 

wikipedia:社会生物学の後継者はwikipedia:進化心理学なんだそうだ。それによると、

協力は時には成功する戦略であったため、進化のプロセスから創発する形質の一つである

 とのこと。

創発とは科学者や哲学者の間でよく使われる言葉だが、これは、よりシンプルなプロセスの統合から相乗的に複雑な活動が生じることを意味するものの、かなりあいまいな概念である

 「進化と学習は試行錯誤*2に満ちている」

こんなのもあるんだ:wikipedia:ベーパーウェア

うーん、wikipedia:マクラーレンが開発した Truth teller  というのは、オラの半端な英語力ではググってもようわからんorz SIROCCO*3も然りorz

 「アフェクティブ」をググったら、こんなページがヒットした。関係ありそうなので、リンク張っとく:感情を理解する技術『アフェクティブコンピューティング』 | 未来技術推進協会 | 未来技術推進協会

wikipedia:デイヴィッド・ヒュームはこんなこと言ってるそうだ:「理性は感情の奴隷である」*4

wikipedia:en:Antonio Damasioによると、wikipedia:情動も一次~と二次~があるそうだ。

神経科学者たちは、人間が脳内に、情緒的経路と認知的経路という2つの異なる 意思決定経路をもつのだと唱えている

 そうだ。

電子の鼻とかいうのも研究中だそうで(電子の鼻が社会を変える | 日経 xTECH(クロステック))、これはほっとくと監視カメラと似たような問題を引き起こしかねない、とか。残り香を検出され、誰がどこで何をやってたか、バレちゃう訳だから。

ハガブル | [公式]ニコアンド(niko and ...)通販 とかいうのもあるんでっか。

道徳は社会的現象 である

 こんなのもいて:wikipedia:en:Leonardo (robot)wikipedia:en:Kismet (robot)とcog(wikipedia:ジンギスに出てくる)の後継者だそうだ。

wikipedia:インターネットオークションにもwikipedia:インターネットボットがいるみたいだね。やっぱ近寄らんとこ。

何事も構築することが出来なければ、それがどういう仕組みなのか実際にはわかってはいない 

 というのがエンジニアの信条だそうだ。

こういう立場の人もいるんだそうだ。

機械にとっての道徳はAIとともに開発しなければならず、将来の進歩だけに依存してはならない 

 例えば著作権の話とか、

法律はテクノロジーに後れを取るもの 

 というのが過去の教訓なんだって。皮肉か?

動物のことを考えれば、そのうちボットの福利も大事にしろ、とか言い出す可能性もあるとか。

こんなSFもあるとか:愛しのヘレン - 空想科学小説ベスト10 / 三分 小説 備忘録-SF短編小説のあらすじ

最後の締めの言葉が気に入った:

人間は常に宇宙の中で仲間を探している

という訳で、なかなか読み切るのは疲れたorz暑いし。

 

*1:登場させようとしたら、行方不明orz

*2:間違いや失敗した戦略からの学習、だそうだ

*3:一応 System for Intelligent Retrival of Operationalized Cases and Codes の略らしいが。

*4:ご想像通り、Wikipedia のコピペですがorz