ニュートン別冊 よくわかる人工知能のすべて 最新版
※本記事は，2026年7月刊行「ニュートン別冊 よくわかる人工知能のすべて最新版」を再編集したものです。内容は刊行当時の情報に基づきます。
守るべきは歩行者か乗員か
前編「【人工知能の“倫理”／前編】自動運転車の死亡事故が突きつけたAI時代の大問題」では，自動運転車の事故を例に，AIが人の命にかかわる判断を迫られる場面について考えた。AIにどのような判断をさせるべきかという「倫理」だけではなく，その判断によって事故がおきたときに，だれが責任を負うのかという問題にもつながっている。後編では，この二つの論点をさらに掘り下げていく。下記で，前編で提示した自動車事故の仮想シナリオを改めて記載する。
|
仮想シナリオ「自動運転車が守るべきは，歩行者か，それとも乗員か」 自動運転車が乗員1名を乗せて公道を走っています。横断歩道に差しかかったところで，突然歩行者が飛びだしてきた。歩行者との衝突をさける唯一の方法は，進路をずらすことだが，不幸にも工事用のコンクリートが設置されており，衝突すれば乗員の命が危ない状況だ。 このとき，自動運転車は，乗員の命を守るために歩行者と衝突する選択と，歩行者との衝突を避けるためにコンクリートの壁と衝突する選択のどちらを選んだらよいのだろうか。 |
このシナリオを二つの観点から考えてみる。一つ目は，「AIは，どちらの選択をするのが正しいのか」という点だ。これには，判断の基準となる「守るべき倫理規範」が必要になる。たとえば，「乗員の命を守らなければならない」という規範をAIに実装したとする。すると，このシナリオでは，歩行者との衝突事故をおこすことになる。一方，「歩行者の命を守らなければならない」という規範を実装したとすると，自動運転車はコンクリートに衝突する選択をすることになる。
もし，「すべての人間の命を守らなければならない」という規範を実装したとしたら，予期せぬ誤作動をおこしてしまうかもしれない。なぜなら，どちらか一方の命が危険にさらされてしまう状況で，どちらの命も守らなければならないというジレンマにおちいってしまうからだ。この場合，どのような倫理規範を，何個実装すればよいのだろうか。
監修名：佐久間淳
東京科学大学情報理工学院教授
執筆名：福田伊佐央
