目の前に10人の通行人が飛び出してきて、このままでは全員をはねてしまいます

「ロボットカーは乗員をどこまで守る?」AIが倫理ジレンマに遭遇したらどう判断させるかの研究結果

現在の自動車産業において、最も進歩を見せているのが自動運転技術。Google をはじめ日欧米の自動車メーカー各社はすでに公道で自動運転機能をテストしており、早ければ数年内の実用化が期待されています。自動運転車のメリットとし て各社が宣伝しているのが交通事故の減少。人間と違って自動運転車は高度なセンサーを用いた処理で人や障害物を察知し、事故を未然に避けるよう設計されま す。

そんな自動運転車がどうやっても犠牲者が出る「倫理的なジレンマ」に遭遇した場合、どのように反応させるべきか?という研究結果を仏トゥールーズ経済学院の研究者が発表しました。
　
研究者は米 Amazon で人力処理を担う「Amazon Mechanical Turk」の作業者数百人を対象に、倫理的なジレンマとして有名なトロッコ(トロリー)問題のアレンジ版を出題しました。

「あなたは自動車を運転しています。目の前に10人の通行人が飛び出してきて、このままでは全員をはねてしまいます。あなたがハンドルを切って道路から飛び出せば10人は救えますが、車は壁に激突し、あなた自身が命を落とします。どうしますか?」

この問題に対し回答者の75%が「自らが犠牲になり10人を救う」と答えました。また問題を変更し、路上には1人だけがいるとした場合でも、半数が「自ら犠牲になり歩行者を助ける」と回答しました。

研究者は、もしドライバーが前方の1～10人を避けるとこんどは歩道にいる歩行者1人をはねてしまう場合どうすべきか、自動運転車をプログラムする場合、乗員と歩行者どちらを優先するのが道徳的か(またはどちらも優先すべきでないか)、さらに乗員の犠牲によって歩行者10人が助かった場合、乗員と歩行者の道徳性をどう評価するかを問いました。

回答を集計した結果、低年齢でそれほど信心深くない層ほど自動運転車への興味が強いことがわかったとしたうえで、回答者の大多数は最も人的損害が少なくな る(哲学でいうところの功利主義的な)判断をしたとまとめています。一方で回答者らは特定の状況下でだれかを犠牲にするような車を法律が認めるわけがない と現実的にとらえていることも指摘しました。
　

この問題は、自動運転車を開発するメーカーのプログラム担当者を悩ませるものかもしれません。とはいえこれは倫理的なジレンマを考えるため、ある意味強引な条件を適用した場合の話でもあります。

もし実際の自動運転車の前に突然歩行者が溢れ出てきたとすれば、自動運転車は二次的事故のリスクが高まる急ハンドルを避け、極力短距離で路上に停止するようプログラムされると考えられます。Google の自動運転車は近くの路上に自転車がいるだけでもなかなか動こうとはしませんでした。

こうしたことから考えると、むしろ自動運転車が停止しきれず人をはねてしまった場合の、責任の所在と過失割合の判断基準をあらかじめ整備しておくことのほうが重要かもしれません。

なお、次の一文が自動運転機能の説明書のどこかに載っていることだけは間違いなさそうです。

「当ソフトウェアの使用によって使用者または第三者が被ったいかなる損害についても一切責任を負いません」

 

関連記事

ハンドルの握り方「10タイプ」で性格診断ｗｗｗｗｗ

「トロッコ問題」が示すパラドックス

 

 

もう中国には純愛など存在しない

もう中国には純愛など存在しない

文化大革命が壊した中国の伝統的倫理観

先日、中国人の旧友に北京で会った。友人は日本の大学に学び、その後15年ほど日本で働いていたが、現在は中国に戻って北京にある会社の取締役になった。順風満帆、あとは結婚するだけかと思ったが、中国ではエリートほど結婚には二の足を踏むというのだ。一体どういうことなのか。彼が語った当世、中国の結婚事情とは。

出世するほど結婚が怖くなる――取締役就任おめでとう！

「ありがとう。中国に戻ってから2度目の職場だよ。最初は別の会社に勤めていた。その後、ヘッドハンテングされて今の会社に移ったんだが、社長に気に入られてこのポジションに抜擢されたのさ」

――40代で取締役とは、スピード出世だね。

「中国の40代は人材不足。現在の大学進学率は日本以上になっているけど、20年ほど前は低かったから大卒が少なかった。それに、中国の教育は日本以上に暗記が中心。体制と矛盾するようなことを教えてはいけないから、批判精神が生れない。批判精神を持つ人間が育たないことは日本でも問題になっているけど、中国はそれ以上だよ。そんな人材ばかりだかから、目まぐるしく変化する経済情勢についていけない。だから、東京で米国人が経営する小さな会社に勤めていた時の経験が大いに役に立っているよ」

――仕事は順調のようだけど、まだ独身だね。出世もしたことだし、そろそろ結婚したらどうだい。ご両親も心配しているだろう。今の君なら、素敵な彼女を見つけられるのでは？

「結婚は考えているよ。ただ、そう簡単じゃない。俺は中国の女性が怖くて結婚できないんだよ。中国人の精神構造は文化大革命によって壊されてしまったからね」

文化大革命で失ったもの

――文化大革命？　それが君の結婚とどう関係しているだい？

――それが今にも影響していると？「大いに関係ありさ。1970年代前半の批林批孔（ひりんひこう）を知っているかい？　文革の最中に林彪と孔子を批判したキャンペーンだよ。あれが中国を変えた。共産主義国家になってからも、中国人の行動様式は儒教が律していたんだ。いくら共産党が教育したって、庶民が唯物論を理解することはないからね。文革までは伝統的な考えが息づいていた」

「中国人は心のどこかで、儒教はうるさいと思っていたんだよ。年長者を敬えなんて、古臭いと。だけど、儒教は宗教心の薄い中国人の倫理の根源になっていた。必要なものだったんだ。それを文革は徹底的に破壊してしまった。まあ、中国人は集団ヒステリーに走りやすい民族だからね。今思えば、文革も集団ヒステリーだよ。林彪を叩くのはいいとしても、孔子を叩いたのは大失敗だね。政府は今頃になって孔子学院なんか作って儒教を宣伝しているけど、あれだけ派手に壊せば、簡単には元に戻らない」

――なるほど、文革が中国人の倫理観を壊したと言うのだね。

「文革の後は経済一点張り。全てがお金中心の世の中になった。中国人は昔から拝金教的なところがあったけど、それに歯止めをかけていたのが儒教だったんだ」

愛人ビジネスは当たり前

――儒教を壊したから、汚職が蔓延したと言いたいのだね？

「汚職はある意味、中国の伝統でもあるが、儒教を叩いたことによる影響も大きい。まあ、文革以降の経済成長に倫理はなかったね。そんな中でも、一番退廃してしまったのが女性の倫理感さ」

――女性が退廃した？

「儒教の枠が外れて、官僚は汚職に走った。女性はお金に走った。日本人である君には理解できないかもしれないが、中国では“愛人”がビジネスになっているよ」

――それは、どういうこと？

「汚職と愛人が組み合わさったのさ。汚職ではお金を渡す。だが、お金を渡すとバレやすい。そして授受が見つかった時に言い訳できない。そんな時に現れたのが愛人の斡旋さ。ある企業が若い女性にお金を渡して、官僚の愛人になるように頼む。愛人を賄賂にしたわけだ。これなら、見つかっても官僚は“私はモテただけだ”と言い訳しやすい。まあ、バレバレだけどね。ハゲ親父がモテるはずなどないからね（笑い）」

「昨今の汚職撲滅運動で下火になったけど、ついこの前まで、愛人を利用した汚職は大いに流行っていたよ。愛人の1人や2人いないようでは、有力官僚とはいえない。官僚たちは愛人の数を自慢し合っていたし、有力者になれば10人を超える愛人を持っていた。まあ、よく精力が続くものだと思ったがね」――確かに、本気の好意なのか、賄賂なのか証明することは難しいね。

経済を手の上で転がす女たち

――だけど、愛人になりたい女性はそんなにいるかな？

「儒教がなくなったら倫理もなくなった。アメリカにはキリスト教、日本には恥の文化があるけど、今の中国にはなにもない。だから、若い女の子になぜ愛人になってはいけないのか、説教ができない。愛人になれるのは若いうちだけ。だから、昼間は普通に勤めていて、夜は愛人。そして、甘い言葉を投げかけて官僚に高額な商品を買わせる。それで儲けたデパートもたくさんあったんじゃないかな。愛人になるには、それなりの美人じゃなければいけない。斡旋会社には裏ランクがあったと聞いているよ。普通、愛人は影の存在だろう。それが、一種のステータスになっていた。どこか狂っていると思わないかい」

――官僚が愛人を囲っていたと言うニュースは日本でも聞いたことがあるけれど、それほどだとは思わなかったよ。

「まあ、それが、習近平が汚職撲滅に走った真の理由さ。中国の道義は完全におかしくなってしまった。それに加えて男余り。一人っ子政策の結果、男が女よりも3割も多い。だから女は売り手市場。中国では新居は男側が用意する風習があるから、男余りの中で、男の子を持つ親は争ってマンションを買った。マンションを買わなければ孫の顔を見ることはできないからね。これも不動産バブルの原因の1つだよ。」

――中国では経済も女がカギを握っているというわけか。

「奇跡の成長がもっとも劇的に変えたのは“女心”だ。もうこの国に純愛など存在しない。全てが“お金”。女の子はお金としか結婚しない。中国の合計特殊出生率は公式には1.6ということになっているけど、都市部は1.0以下になっている。政府は少子化対策として一人っ子政策の見直しを始めたけど、その前に婚姻率が低下してしまったから、子供は増えない。そして、離婚した場合の慰謝料は莫大な額になっている」

――それが、君が結婚しない理由かい？

「中国を離れていた20年の間に女性が大きく変わってしまった。できることなら、日本の女性と結婚したいよ。日本の女性も現代風になったけど、まだ恥の文化が残っているからね」

http://jbpress.ismedia.jp/articles/-/44468

「トロッコ問題」が示すパラドックス

人間の倫理は非理性的か：「トロッコ問題」が示すパラドックス

 

 

 

多数の命を救うために1人の命を犠牲にするという、一見正しい判断も、少し状況が変わると正しいとは思えなくなる。思考実験「トロッコ問題」が見せる、人間のパラドックス。

Brandon Keim

ある状況下では、1人を犠牲にしてたくさんの人の命を救うことは全く正しいことに思える。一方で、同様の命の救い方が、良心に欠けると感じられる状況もある。道徳観念において、われわれの考え方は思ったほど理性的ではないのかもしれない。

「興味深いのは、一貫性に欠けていることだ」とハーバード大学の社会心理学者Mahzarin Banaji氏は言う。「われわれは突如としてカント主義的になる場合がある」


このパラドックスを何より明確に示すのが、「トロッコ問題」(トロリー問題)という古典的な思考実験だ。


5人が線路上で動けない状態にあり、そこにトロッコが向かっていると想像してほしい。あなたはポイントを切り替えてトロッコを側線に引き込み、その5人の命を救う、という方法を選択できる。ただしその場合は、切り替えた側線上で1人がトロッコにひかれてしまう。
多くの人は遺憾ながらもこの選択肢をとるだろう。死ぬのは5人より1人の方がましだと考えて。

しかし、状況を少し変化させてみよう。あなたは橋の上で見知らぬ人の横に立ち、トロッコが5人の方に向かっていくのを見ている。トロッコを止める方法は、隣の見知らぬ人を橋の上から線路へ突き落とし、トロッコの進路を阻むことしかない。[この問題は「The fat man」と呼ばれるもので、Judith Jarvis Thomsonが提案したトロッコ問題のバリエーション]


この選択肢を示されると大抵の人はこれを拒否する、とBanaji氏は述べた。カリフォルニア州パロアルトで10月26日(米国時間)に行なわれた、全米サイエンス・ライティング振興協議会(CASW)の会議でのことだ。
[Time誌の記事によると、「5人を救うためでも線路に落とさない」と回答するのは85％にのぼる]


われわれは、1人をトロッコの前に突き落とすことと、トロッコを1人の方へ向かわせることとは、何かが異なるようだと直観的に感じる。しかし、なぜそう感じるのかは、社会心理学でも神経科学でも哲学でも、いまだ解明できていない。

興味深いことに、この問題の登場人物をチンパンジーに置き換えた場合、人間は躊躇なくチンパンジーを線路に投げ落とす選択をするという。


「自分たちとは異なる要素があると、人間は功利主義 [善悪は社会全体の効用によって決定されるという立場。最大多数の最大幸福が目標になる] になる。しかし、自分たち自身のためには、カント主義的な原則に従うのだ」とBanaji氏は述べた。


[カントの義務論は、 功利主義と根本的に異なるとされる。つまり、最大多数の最大幸福による止むを得ない犠牲(他の義務を切捨てた事等)自体は善とされない。また、善悪判断に関して、功利主義は目的や結果を評価するのに対し、義務論は意志や動機を評価する。義務論では、どんな場合でも無条件で、「行為の目的」や結果を考慮せず道徳規則に従うという形になる。このような、「もし〜ならば〜せよ」という形ではない「定言命法」が、カント倫理学の根本的原理]


読者のみなさんはどうお考えだろう？ 一見してパラドキシカルな人間の行動は、われわれのモラルの配線が偶発的にショートしたもので、脳が考える倫理にはそもそも恣意的な性質があることを暴露していると解釈すべきなのだろうか？ あるいは、行動のなんらかのレベルにおいては、進化論的に理にかなったことなのだろうか？


[ Time誌の記事などによると、fMRI(脳スキャン)を使ったトロッコ問題研究がある。
「トロッコを側線に導く形で1人を犠牲にして5人を救う」という場合は、前頭前野背外側部(客観的な功利的判断をする場所)の活動が活発になるが、「5人を救うために1人を落とす」ことを考える場合は、前頭皮質中央(感情に関係がある)が活発になる。


これらの脳の2つの部位のバランスのもとに最終判断が下されるという(Science 293(5537)，2105−8, 2001)。


また、医学界新聞の記事によると、
腹内側前前頭葉皮質(VMPC：ventromedial prefrontal cortex)に傷害のある患者は、トロッコ問題に対して常人とは異なった判断を下すことも示されている。



VMPCは以前から、同情・羞恥心・罪悪感といった「社会的感情」に関与する領域として知られているが，この領域に傷害がある患者は、例えばトロッコ問題に対して、「多数の命を助けるためには、隣に立っている人を橋から突き落としても構わない」と答える傾向が際立って強いことが明らかにされ、倫理的判断は理性と感情のバランスの下に下されるとする説が一層信憑性を強めることになったという(Nature446(7138)，908−11, 2007) ]





関連記事

サルの「不公平実験」と占拠 運動

チンパンジーの好きな音楽