デロイト トーマツ サイバー 上原 茂が訊く Vol.18 自動運転時代の責任と社会受容――制度・データ・文化が問う普及の条件【後編】

後編では、データと個人情報、リスクと社会的便益の観点から、日本社会における自動運転の社会受容のあり方を議論します。技術や制度の整備が進む中で、普及の成否を左右するのは社会受容性です。自動運転がもたらす価値とリスクをどのように捉え、いかに社会的合意を形成していくのか――。その方向性を探ります。 

【登場者】

吉田 直可
法律事務所愛宕山代表弁護士

明治大学法科大学院修了後、2008年に弁護士登録。企業法務を中心に、電子商取引・インターネット消費者取引・交通事故・労働問題など幅広い分野で活動する。現在、明治大学先端科学ELSI研究所客員研究員、明星大学非常勤講師、明治大学専門職大学院法務研究科学外講師、サイバー大学特任講師を務めるほか、公益社団法人自動車技術会モビリティガバナンス社会実装検討委員会幹事、一般社団法人モビリティサービス協会理事、一般社団法人フィジカルインターネット医薬品協議会アドバイザリーボード等を兼任。著書に「企業のための情報セキュリティ」（共著）など多数。

デロイト トーマツ サイバー合同会社
執行役員 自動車セクター担当
泊 輝幸

デロイト トーマツ サイバー合同会社
パートナー
林 浩史

デロイト トーマツ サイバー合同会社
マネージングディレクター
大場 敏行

＜モデレーター＞
デロイト トーマツ サイバー合同会社
シニアフェロー
上原 茂

長年、国内大手自動車メーカーに勤務。国内OEMで電子制御システム、車両内LANなどの開発設計および実験評価業務に従事したほか、近年は一般社団法人 J-Auto-ISACの立ち上げや内閣府の戦略的イノベーション創造プログラム（SIP）adus Cybersecurityの研究リーダーを務めるなど、日本の自動車業界におけるサイバーセキュリティ情報共有の枠組みを構築。欧州駐在経験もあり、欧州自動車業界の動向などへの理解が深い。

(以下、敬称略)
 

【前編はこちら】

開発現場で問われるデータ活用とプライバシーの両立

上原：前編では自動運転をめぐる法的責任とソフトウェアのアップデートのあり方やその　“寿命”（耐用年数）について議論してきました。後編では視点を変えて、「日本社会が自動運転をどのように受け入れていくか」を深掘りしていきます。

技術や制度の整備が進んでも、社会側で受け入れる心持ちが追いつかなければ、自動運転は普及しません。その鍵を握る一つが、データと個人情報の問題です。大場さんはこの領域を専門としていますよね。大場さんが現在注目している課題を教えてください。

大場：個人情報の問題は運用段階だけでなく、開発段階にも存在します。例えば自動運転の開発には車外を撮影した大量の画像データが不可欠です。ただし、その中には歩行者の顔などが含まれるため、そのまま無条件に利用することはできません。特にEU域内で取得したデータはGDPR（欧州一般データ保護規則）の制約を受ける可能性が高く、そうしたケースでは例えば「匿名化処理」等の対応が行われています。

それに対して、開発現場では精度の高いデータが求められます。例えば「歩行者の視線がどの方向に向いているか」といったデータは、無造作にモザイクをかけると研究開発に使えなくなります。そこで「情報の細かさ（粒度）」を調整し、「万が一漏洩しても、個人を特定できないと説明できる水準に加工する」という対応が取られています。

吉田：「個人が特定できないように顔を調整しつつ、視線がどこを向いているかがわかるようにする」のは、極めて高度な技術が必要ですよね。私の所属している明治大学先端科学ELSI研究所でも、自動運転車類似の仕組みで情報を収集する際、AIで、歩行者や運転手、ナンバープレートなど、プライバシーに関わる情報にモザイクを付するシステムを開発しましたが、視線を残すということは難しそうです。

個人情報を収集するにあたり、個人情報保護法上、「個人情報」と「個人データ」は区別されており、データの取り扱いに差異が設けられています。すなわち、「個人情報」とは、生存する個人に関する情報であって、特定の個人を識別できる情報全般を指します。この「個人情報」に該当する場合、利用目的の特定、制限、適正な取得などの規制にかかります。

一方、「個人データ」は、検索することができるように体系的に整理した「個人情報」を指し、代表的なものは電子計算機を用いて検索することができるように「個人情報」のデータベースを構築するようなケースを指します。「個人データ」のほうが、「個人情報」に比して規制は厳しく、管理方法の徹底、第三者提供の制限、記録の作成などに厳格な管理が求められます。

大場さんがおっしゃった「粒度の調整」は、この区分を踏まえれば、本来は不要だと思います。
すなわち、本来、体系的に整理されず、検索できない単なる「個人情報」であれば、利用目的をウェブで告知するといった対応で、開発への活用が可能になります。しかしながら、プライバシーの保護の問題などを考えると、世論のハレーションが起きる可能性があることから、なるべく特定の個人を検索・識別できない状態にしようという配慮の問題だと思います。

法律事務所愛宕山代表弁護士　吉田 直可 氏

大場：そうですね。一方で、車内映像のように運転者の情報と結び付く場合は話が変わります。誰が運転しているかと映像が紐付けられれば個人データに該当しやすく、より厳格な対応が必要になります。車は家族や第三者が使うこともあるため、誰のプライバシーをどう守るのかという問いは、想定以上に複雑です。

吉田：日本の場合、「個人情報」と「個人データ」の区別が浸透していないため、個人情報に対する心理的な抵抗感が強い。一方、開発者側も「個人情報は活用できない」という思い込みがあります。この2つが混同されている点が問題です。前述の通り、以前、私は研究開発を目的に路線バスの走行データを継続的に収集しましたが、このときはプライバシーポリシーの整備と人工知能（AI）による顔・ナンバープレートの匿名化処理を収集の際に行うことで活用が可能だと考えました。本来は、「適切な対応を取れば活用できる」と考えられます。

デロイト トーマツ サイバー合同会社 マネージングディレクター　大場 敏行

“気持ち悪さ”の正体――社会が抱く違和感の源泉

上原：自動運転車は「走る精密測定器」である一方、「走るスパイカメラ」でもあります。収集したデータは事故原因の究明や、現実空間をデジタル上に再現して検証するシミュレーション（デジタルツイン）に活用できます。しかし、同時に、機密性の高い場所の情報が意図せず収集されるリスクもあり、海外では実際に規制が進んでいます。

こうした動向を踏まえると「どこまでデータ収集を許容するのか」が論点になります。あるいは全部収集したうえでアクセス権の管理で対応するといったアプローチも考えられますが、皆さんはどのようにお考えですか。

泊：データを活用すればするほど自動運転の精度も上がり、事故の原因究明にも役立ちます。ですから「まずは情報を収集し、利用側のモラルとデータガバナンスを信頼する方向で整理する」という考え方も理解できます。

ただし、車両が走行しながら周囲の情報を収集するとすれば、それは単なる個人情報の問題ではなく、安全保障の問題になり得ます。どこまで規制をかけるべきかの議論は必須です。

上原：ご指摘のとおりです。では一般市民が感じているより身近なプライバシーへの不安についてはいかがですか。「自分の行動が常に記録されている」という感覚が、自動運転への漠然とした抵抗感につながっているように思います。

大場：身近なところでは、車の位置情報ですね。実際に起こった例ですが、自動車の位置情報を提供する会社に対し、所有者の家族から情報開示請求がありました。そのケースでは会社は「本人以外からの請求は認めない」としてお断りされたそうです。自動車は家族や第三者が使うことも多いため、誰のプライバシーをどのように守るのかという問題は一律の規定では難しいかもしれません。

林：先ほど泊さんが指摘したように、走行データが事故の証拠として役立つことは理解できます。ただ、それが常時収集・利用され続けているとなると、正直「気持ち悪い」という感覚は拭えません。

泊：その感覚、日本人には特に強いと思います。一方、前回の座談会で明らかになったように、中国ではデータ活用への受け止め方はかなり違います。

吉田： 一つ、走行データの活用に関して、興味深い事例を紹介します。東南アジアでは、信用力が低く通常のローンを組めない顧客に対し、車両に遠隔停止装置を取り付けることを条件に、ローンを提供するサービスがあります。支払いが滞ると即座にエンジンが停止する仕組みによって、与信不足を補充して、貧困層でも自動車を使用した仕事ができるようにするというサービスです。

ここで注目したいのが、顧客の側に、データ収集を嫌がるというよりも、「自分がきちんと働いていることを行動履歴で証明したい。だから運転データを信用情報として使ってほしい」というニーズがあることです。データの収集・利用が、行動監視ではなく、自己証明の手段として受け入れられている。日本人の感覚とはずいぶん異なりますよね。もしかしたら、収集者側の透明性や説明責任を果たす態度、収集される側のメリットというものが可視化されるのであれば、車両データの利活用も促進されるのではないでしょうか。

林：私自身の「気持ち悪い」という感覚は、実際に何かに利用されたというよりも「よく分からないまま誰かが何かに使っているかもしれないからイヤだ」という心理的な抵抗に近いのかもしれません。こうした抵抗感は、どのように解消していくべきなのでしょうか。

吉田：林さんの感覚は多くの日本人が抱いていると思います。その根本にあるのは、データを活用する側への信頼が十分に築かれていないことだと考えます。もともと、個人情報保護法は「情報を使えなくする」のではなく、「個人情報の適正かつ効果的な活用が新たな産業の創出並びに活力ある経済社会及び豊かな国民生活の実現に資するものである」ことを前提にし、個人情報の利用促進を図る法律です。つまり、個人情報保護法は、保護と活用の両立を図りながら信頼を確保することが求めているのです。事業者は、個人情報保護法の精神に則り、活用内容の透明性を高め、信頼を積み重ねていくこと。これが抵抗感を解消する現実的な道になるはずです。

デロイト トーマツ サイバー合同会社 執行役員 自動車セクター担当　泊 輝幸

自動運転に求められるリスク受容の再定義

上原：最後に本日の議論の核心とも言える“自動運転がもたらす価値とリスクをどのように捉えるべきか”について伺います。前編では「自動運転車が加害者になる心配は少ない」というお話でしたが、街中の歩行者や自転車に乗る人は「無人走行車の被害者になる不安」を漠然と抱えています。こうした方々に対してはどのようなメッセージを伝える必要があると思いますか。

泊：矛盾する話ですが、私は自分の車のADAS（先進運転支援システム）を信用していません（笑）。例えばADASが作動している状態でも、追い越し禁止車線を踏んで警告音が鳴ることがあります。思わず「オマエが運転してるんだろ！なぜ警告音を鳴らすんだ」と叫びたくなる。技術への信頼はその程度が現実です。

上原：確かに現時点では利用者の期待と技術の実態にギャップがあるのは事実です。とは言え、技術は着実に進歩しています。自動運転制御に関して、これまではAIに制御を任せると“何故そのような判断をしたか”の判断根拠がブラックボックスであったため、事故発生時などの対応に大いに懸念ありという事で、ルールベースの制御が主流でしたが、最近VLA(Voice Language Action)モデル採用AIが登場し、何を見て、どう考えて、このように判断した という履歴が人間が理解できる“言葉”で残せるようになり、これによりE2E（End to End）と呼ばれるAIに自動運転制御すべてを任せる形態が主流になってきました。さらに、このAIにはルールベースの監視AIが並立していて、先ほどの泊さんのお話の「追い越し禁止の黄色いセンターラインを踏む」という法令に反する行為や、安全確保の上で問題となる行動を許可しないように車両挙動をもってゆく“最後の砦”を築いています。もうすぐ黄色いラインを踏むことはなくなります（笑）。個人的には、このVLAモデル採用AIによるE2E自動運転の実用化は、それほど遠くないと確信しています。

林：そうした技術の進歩があったとしても、社会全体で一定のリスクを受け入れる雰囲気がなければ前に進めませんよね。中国が自動運転で先行しているのも、リスクを許容しながらデータを積極活用してきたからだと思います。どうすればこの壁を乗り越えられるのでしょうか。

吉田：問題は二つあると考えます。一つはメーカーの情報開示姿勢です。日本のメーカーは、事故が起きた際の車載データの開示に慎重な傾向があると言われています。実際、ある自動車会社のリコール隠し問題では、大型車のタイヤ脱落事故を巡って、不具合情報の開示が十分に行われず、対応の遅れが問題となりました。当初は、整備不良の可能性も指摘され、運転手の責任が追及され、経営していた会社が倒産するなどしましたが、その後、運転手の執念ともいえる活動によって、設計上の問題が原因であることが明らかになっています。

このように、事故原因の特定には時間を要し、責任の所在が争われるケースも少なくありません。このようなメーカーの姿勢では、自動運転の分野でも、より深刻なことが起きかねないと考えています。技術的な検証が困難であることを前提にプロセス審査などを前提とするのであれば、メーカーには極めて誠実な姿勢が求められることは言うまでもありません。
また、メーカー自身による事故原因の解明ではなく、メーカーの枠を越えた第三者による検証体制を構築することが、信頼確保に向けた現実的な対応だと考えます。

その参考となるのが、前編でも紹介した航空業界の「ジャスト・カルチャー」という考え方です。独立した委員会が事故を調査し、その情報を刑事責任の追及に使わない。そうすることで、現場が隠蔽せずに情報を開示し、事故から学び続ける文化が根付いています。自動運転でも同様の事故調査委員会の設置が議論されていますが、情報開示と刑事責任の問題を切り離さない限り、技術者は萎縮し、真の意味での真相解明や再発防止にはつながらない。その仕組みづくりが急務です。

二つ目は、「自動運転をなぜ導入するのか」という目的の明確化です。経済的合理性なのか、国民生活の向上なのか、経済安全保障上の必要性なのか、どのような社会の将来像を描いて、導入を考えるのか——「安全・安心」だけでは社会的合意は形成できません。むしろ、「安全・安心」を過度に強調すると、事故発生時の反動が大きくなるリスクもあります。社会受容性を論ずる前に、いかなる有用性を認めて導入するのか、社会的有用性を踏まえ、一定のリスクを許容する価値観を社会全体で共有することが重要です。

デロイト トーマツ サイバー合同会社 パートナー　林 浩史

「誰のための技術か」を問い直す、自動運転と社会的合意の形成

泊：日本では「リスクゼロ」でなければ受け入れられないという傾向がありますが、問うべきは「完全に安全か」ではなく「社会的便益に見合うリスクか」という視点への転換ですね。

そのためには、自動運転によって得られる具体的な価値を示すことが重要です。例えば高齢者が一人で移動できる、過疎地域の交通手段が確保されるといった身近な便益を積み重ね、自動運転車を運転しない方々にも「これは自分にも関係する」と感じてもらえれば、社会全体の受容性につながっていくと思います。

吉田：集団主義的な傾向が強い日本では、「社会全体としてこうなる」というビジョンを示すことが有効でしょう。社会心理学や組織行動論の研究では、自分の活動が誰かの役に立っていると感じられる場合、モチベーションが持続しやすい傾向があると指摘されています。自動運転の社会的便益を幅広く理解してもらうためには、「自動運転技術によって幸せになる人がいる」ことを明確にすることです。

具体的には、社会実装の実験を進めながら地域住民と一緒に街づくりを考え、世代間で引き継ぐビジョンを共有していくといったアプローチです。技術だけでなく、社会をどう変えたいのかという問いを地域と共有する。それができれば、自動運転は単なる移動手段を超えた意味を持つのではないでしょうか。

泊：特にZ世代は、誰かの役に立っているということに強く意義を感じる傾向があります。自動車メーカーの現場でも、若い世代ほど「社会課題を解決する仕事をしたい」という声が強い。自動運転のビジョンをきちんと社会と共有することは、技術者を動機づける意味でも重要だと思います。

吉田：ただ、そのためには日本社会そのものの姿勢を問い直す必要があります。根本にあるのは「失敗を許容しない文化」です。「正解を出した人が偉い」という教育が、失敗への恐怖を生み、安全圏の外に出られない硬直したマインドセットを育ててきた。これは自動運転に限らず、日本のイノベーション全体に共通する構造的な問題です。

人類学や行動経済学の研究では、集団間の競争や市場的な相互作用がある社会ほど、見知らぬ他者との協力や信頼が発達しやすい傾向が指摘されています。日本の自動車メーカーが今も安泰だと思っているとすれば、かつての家電メーカーと同じ轍を踏みかねません。業界団体に関わっていて感じるのは、技術要件の議論は活発でも、ビジネスモデルの議論が手薄だということです。優れた技術をどう社会的価値に転換するか——その視点が不可欠です。

上原：自動運転は、社会全体の幸せのためにある技術です。多少のことがあっても、みんなで受け止めながら育ててゆくべきもので、そういう社会に持ってゆけるかどうかが今、問われていると思います。当面、我々が目指すべきは、日本社会全体の意識を「完全に安全と言えるか？」から「この社会的便益は許容するリスクに対して見合うか？」にシフトさせ、アメリカ人や中国人と国民性が違う我々日本人は、“ゼロリスク信奉者”から“賢明なリスクテイカー”へと変身する必要がある。言い換えると、技術的に進歩しどれだけ安全度が増しても十分とは言えず、日本人のリスクに向き合う姿勢を変えなければ前に進まない、そんな大きな社会的イノベーションだという事をあらためて認識しました。本日はありがとうございました。

デロイト トーマツ サイバー合同会社 シニアフェロー　上原 茂