ロボットに倫理を教える モラル・マシーン 書評|ウェンデル・ウォラック(名古屋大学出版会)|書評専門紙「週刊読書人ウェブ」
マイページで記事のブックマーク!
ログイン
マイページ登録

トップページ

特集

書評

連載

コラム

ニュース

読書人とは マイページ

  1. 読書人トップ
  2. 書評
  3. 読書人紙面掲載 書評
  4. 学問・人文
  5. 哲学・思想
  6. ロボットに倫理を教える モラル・マシーンの書評
読書人紙面掲載 書評
更新日:2019年4月20日 / 新聞掲載日:2019年4月19日(第3286号)

ロボットに倫理を教える モラル・マシーン 書評
倫理学の入門書として
抽象的な学問を実践的に学ぶ

ロボットに倫理を教える モラル・マシーン
著 者:ウェンデル・ウォラック、コリン・アレン
翻訳者:岡本 慎平、久木田 水生
出版社:名古屋大学出版会
このエントリーをはてなブックマークに追加
 六歳の娘が先日、保育園の同級生のお母さんに年齢を尋ねたらしい。悪びれもせず本人がその話をするので「大人に年を訊いたらダメ」と叱ったが、頭ごなしに否定するのもよくないと思い直し、「たくさんお話をして仲良くなった相手になら訊いてもいいよ」と付け足した。しかし娘は「○ちゃんのママとはたくさんお話したよ。なんで訊いちゃいけないの?」と反論してきた。「話すと言っても、どんな話をするかとか、年を訊くタイミングも大事なんだよ」と答えたものの、娘は不服そうだった。親の目を離れ、独自の人間関係をこれから広げていくはずの娘には、なるべく人を不快にするかもしれない言動をしてもらいたくない。しかしこの種のタブーを幼児に教えるのはとても難しい。

自律性が高まると、注意すべき事柄が増えるのはロボットも同じだ。哲学者の著者らは、今後ロボットが自律性を高めていくにつれて、倫理的、道徳的に正しい意思決定する能力を求められるようになると予測する。それでは、もしエンジニアから倫理的なロボットを作る方針についてアドバイスを求められたら哲学者はどう答えるべきか。本書は、その手引きとして構想されたという。特定の国の事情が考慮されて書かれているわけではないが、高齢化が深刻化し、ケアロボットやサービスロボットの導入が急速に進む日本にとって大きな意味を持つテーマが扱われていると言えるだろう。

たとえば高齢者に薬の服用を定期的に呼びかけるケアロボットがいたとする。患者は時として薬を飲みたがらない。その意思を尊重して放置すべきか、健康リスクを重視して患者に説得を試みたり、医師に通知したりするべきか。あるいは、自動運転車は事故を避けるために道路交通法を破ることは許されるのか。

システム開発は普通、必要な機能を洗い出し、整理する要件定義にはじまり、設計、プログラミング、実証試験へと進む。倫理的ロボットの要件定義、設計はどうすべきだろうか。著者らは、倫理規則をアルゴリズムとしてシステムに実装する「トップダウン・アプローチ」、学習メカニズム(機械学習)によって規則を創発させる「ボトムアップ・アプローチ」、両者を組み合わせた「ハイブリッド・アプローチ」などを順に取りあげ、それぞれの長所短所を検討していく。トップダウンの長所は義務論、功利主義など伝統的な倫理規則を利用できる点だ。だが、専門家すら意見の一致しない倫理規則が多々あり、たとえコード化できてもシステムが複数の規則の矛盾を解消できず立ち往生する可能性がある。規則の適用例のシミュレーションにも時間がかかるので、たとえば二人のうちどちらを助けるか計算している間に二人とも助けられないかもしれない。一方、ボトムアップのメリットは現実的な環境の中で学習して倫理規則を発見してシステムを鍛え、文脈依存的な状況でも柔軟に最適な解を得られる点にある。しかし学習環境によってバイアスが組み込まれたり、学習能力の高さ故に、人を殺してはならないなど拘束条件を回避する方法をシステムが見つけて暴走したりする恐れがある。

本書の中で有望視されているのはハイブリッド・アプローチで、そこに恐れ、怒り、喜び、悲しみなどの情動を組み込むとさらによいという。情動が倫理の源泉であり、迅速な意思決定の鍵も握ると考えられるからだ。

原著は二〇〇九年刊である。したがってその後に登場し、昨今流行している深層学習、深層強化学習などの人工知能技術の知見を含んでいないが、訳者によれば今なおロボット倫理学の教科書として定評があるという。最近の話題は訳者解説でフォローされている。筆者は一般的な倫理学の入門書として本書を薦めたい。プログラムとして構築できるのかといった視点で捉えれば抽象的な倫理学を実践的に学べると思う。筆者はとりあえず娘の教育にもう少しボトムアップ・アプローチの要素を取り入れようと考えている。
この記事の中でご紹介した本
ロボットに倫理を教える モラル・マシーン/名古屋大学出版会
ロボットに倫理を教える モラル・マシーン
著 者:ウェンデル・ウォラック、コリン・アレン
翻訳者:岡本 慎平、久木田 水生
出版社:名古屋大学出版会
以下のオンライン書店でご購入できます
「ロボットに倫理を教える モラル・マシーン」出版社のホームページはこちら
このエントリーをはてなブックマークに追加
緑 慎也 氏の関連記事
読書人紙面掲載 書評のその他の記事
読書人紙面掲載 書評をもっと見る >
学問・人文 > 哲学・思想関連記事
哲学・思想の関連記事をもっと見る >