完全でない自動運転と人間

投稿日 2019-11-14 編集日 2024-01-07 カテゴリ日記 Disqus：単語数： 3.3k 読書の時間 ≈ 3 分

2018年3月に起きたUberの自動運転車による歩行者死亡事故について、先日11月5日に国家運輸安全委員会（NTSB）から調査報告が公表された。報告の中では、設計上の問題や、組織的な問題などが指摘されており、非常に興味深い内容だった。

Vehicle Automation Report - HWY18MH010,NTSB,2019

抄訳としては、WIREDの記事がわかりやすかった。
死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった：調査報告から明らかに｜WIRED.jp

NTSBが公開してる他の資料を見たい方は下記を参照。
HWY18MH010,NTSB

そもそも事故について知らない人は、summaryを読むと良い。
HWY18MH010-prelim,NTSB

Wikipediaもまとまっていて良い。
Death of Elaine Herzberg - Wikipedia

事故内容を簡単に説明する。
2018年3月18日の午後9時58分、米国アリゾナ州テンペの道路を自転車を引いて横断していた歩行者と、Uberの自動運転プロトタイプ車が衝突し、歩行者はその後死亡しました。車は自律モードで走行しており、自動運転車による初めての歩行者死亡事故、という扱いになっている。

Preliminary Report Highway : HWY18MH010,NTSB,2019 - Figure 1 から引用
（左）北行きのミルアベニューでの衝突の場所。歩行者の経路をオレンジで、Uberテスト車両の経路を緑色で示しています。（右）Uberテスト車両のクラッシュ後のビュー。右前側の損傷を示しています。

道が暗すぎるとか、ドライバーが衝突時に動画サイトを見てたとかで、色々言われていたが、結果的には自動運転の制御がかなりイケていなかった。というのが今回の報告でわかったことだろう。
実際、衝突の5.6秒前には歩行者の存在をシステムが認識していたにも関わらず、殆ど減速することなく衝突に至っている。ベース車になっている2017 Volvo XC90のプリクラッシュセーフティが働いていれば、事故もっと軽いものになっていただろうと言うボルボの意見も頷ける内容だ。そもそも、横断歩行付近以外では歩行者を分類できなかったこと、分類が自転車やその他でふらつき経路予測がその都度リセットされていたこと、これによって衝突の判断が遅れたこと、などを考えると、もっと大きな事故がいつ起きていてもおかしくない状況だっただろうと思う。

まあ、それはそれとして、自動運転車というのはこれまでの自動車とは根本的に違うのだな、と改めて実感した。今回の事故は技術的な問題で済むかもしれないが、運転者が自動化を過信していたことは、自動運転車としては大きな課題だろう。

これまでの車は運転手が主となって操作していたが、自動運転車は機械が主である。この転換は、単なる技術的な問題ではなく、人を含めた車というシステム、ヒューマン・マシン・インターフェイスの見直しが必要なのではないか、と今更ながら思ったのである。
（ここで自動運転車とは、半自動運転Lv.3-4について述べている。完全自動運転Lv.5では人の介入の余地がないため。）

航空機の自動化が進められたときも、「どう自動化すべきか？」というのは課題であった。その結論として、人間中心の設計（Human-centered design)が必要なのだと叫ばれて久しい。

Billings,C.E:Human-Centered Aviation Automation: A Concept adn Guildlines,NASA TM-110381,1996

人間中心となる自動化をすすめるにあたり、NASAが考えた「自動化の原則」と言うものがある。

「自動化の原則」（NASA.1988）

してはならないこと（Should not）

作業者が特有のスキル、生甲斐を感じている仕事の自動化

非常に複雑であるとか、理解困難な仕事の自動化

作業現場での覚醒水準が低下するような自動化

自動化が不具合のとき、作業者が解決不可能な自動化

すべきこと（Should）

作業者の作業環境が豊かになる自動化

作業現場の覚醒度が上昇する自動化

作業者のスキルを補足し、完全なものにする自動化

自動化の選択、デザインの出発時点からの現場作業者を含めた検討

参考：日本財団図書館（電子図書館）　ヒューマンファクター概念に基づく海難・危険情報の調査活用等に関する調査研究　中間報告書 - 2.2 ヒューマンファクター概念を導入した事故防止の実例と教訓

これを見ると、今の自動運転車の自動化のデザインがあるべき姿なのか、については一考すべきと思う。
結局の所、システムに人を組み込んだとき、人の役割とは自動化における設計でカバーできなかったタスクを人間に任せることになる。それは大抵、複雑で困難なタスクになる。そのタスクが人に渡されたとき、重大な事故を引き起こす前に、人に処理できるようにしておけるようデザインしておかなければならない。これが、今の自動運転車にできているか、またそうしようとしているかは、よく見えてこないように思う。

なんてことを先週末考えていて、その話を上司にしたら、「いや、半自動運転車（Lv.3-4）なんて作っちゃダメなんじゃないの？危なくない？」と言われた。まあ、一理ある。運転支援（Lv.2）に収めるか、完全自動運転（Lv.5）にしてしまった方が話は楽だ。だが、技術ができたらやっちゃいたくなるのが人間だし、それをいうなら車という存在そのものが結構な危険物だ。これほど巨大で重くてエネルギーを持った物体が、人のすぐ隣をビュンビュン走っているのが異常なのだ。こんなリスクを抱えた身近な機械は車以外では殆ど存在しないだろう。モータリゼーションが進み交通戦争が激化した時、日本でも交通事故死亡者数が年間1万5千人もいた。現在は年間3500人と大分減ったが、今でも世界では年間130万人が亡くなっている。にも関わらず、相も変わらず、僕らは自動車は手放せないし、手放せなかった。一度発展した技術はどんなに危険だろうと利が上回ればその代替手段が現れない限りは不可逆なのだ。そうした世界の中で半自動運転車の存在は恐らく利が上回り、その存在は認められる事になるのだろう。ていうか、半自動運転車でも普及すれば、事故件数自体は減る可能性のほうが大きいのでwin-winじゃん、って話もある。（功利主義～）だが、トータルの事故が減るからと言って、自動運転車だからこそ発生した事故があっていい理由にはならないだろう。そう考えた時、インターフェイスについても焦点が当たることはあるな、というお話でした。