はじめに

本連載は、リーガルテック導入やリーガルオペレーションの進化における課題について、法務部長（佐々木さん）と弁護士（久保）が、往復書簡の形式をとって意見交換します。連載第15回の今回は、AsiaWise Groupの久保光太郎が担当します。

問いかけへの検討
―AIをはじめとするテクノロジーの進歩とどのように向き合うか？

さて、前回の佐々木さんからの問いかけは以下のとおりでした。

• AIのガバナンスについてさまざまな議論が行われている昨今、既に契約審査等といった法務領域でもAIテクノロジーが活用されている。その活用にあたって求められるのは、利益増進の側面だけでなく、実装に伴うリスク等の「課題」についての検討である。法務関係者はこうしたテクノロジーの進歩に対し、どのように向き合っていけばよいのだろうか

この問いかけについて、私の考えをお話したいと思います。

AIの問題点

いま、AIは社会全体に普及しつつあります。法律業界においても、AIを活用した契約審査のサービスなどが出てきていますが、アメリカでは裁判所が量刑判断に際してAIによる犯罪予測（COMPAS）を活用する事例なども出てきています。

このようなAIの社会実装の背景には、統計的処理に基づく判断があります。ビッグデータを利用し、AIに強化学習させることで、これまで人間の目には見えなかった相関関係を見出すことが可能になったのです。AIと統計学的手法の結びつきは論理必然ではありませんが、最近議論されているAIの問題点の多くは、AIを使った統計学的手法の活用に関するもののようです。

たとえば、プロファイリングという技術があります。プロファイリングは、もともとは犯罪者を特定するための捜査機関の手法を指す用語でした。ところが、最近では、統計的AIを使った効果的なマーケティングの手法を指すようになりつつあります。
Amazonのレコメンド機能も、プロファイリングの技術を使ったサービスの一つです。ちなみにAmazonは、プロファイリングの技術を応用し、犯罪者のデータを取り込み、監視カメラと結びつけて効率的・集中的に犯罪者を監視するシステムの開発もしていました（なお、2020年の警察官によるジョージ・フロイド氏の暴行致死事件等を契機に、同社は現在、警察への同システムの販売を無期限で停止しています。Microsoft社やIBM社等も同様の対応をとっています）。イスラエルのスタートアップ企業も、人間の顔特徴データをAIで読み込み、統計的処理をすることで、「誰が罪を犯す可能性があるか」―つまり、未来の犯罪者が誰かを予測するサービスを開発していると報じられています。
犯罪捜査とマスマーケティングには同様の手法が妥当するというのは、プライバシーの観点からは恐ろしいことではないでしょうか。「プライバシーの権利」は、近時、「消極的に他人の干渉を排除する権利」だけではなく、「より積極的に自分に関する情報をコントロールする権利」を包むものと理解されています。ところが、21世紀のAIの発達は、プライバシー権（＝自己情報コントロール権）の尊重に対する重大な挑戦状を叩きつけているのです。

プロファイリングを可能にしているのは、相関関係の発見です。AIは大量の顧客データを分析し、顧客の購買履歴に基づいて効果的なレコメンデーションを可能にします。
AIが基礎とする相関関係は、法的責任が基礎とする因果関係とは異なる推論手法です。相関関係は「集団」に着目し、因果関係は一人ひとりの「個人」に着目します。因果関係では結果とその原因となった個人の自由意思に基づく行為を結びつけるのに対し、相関関係はあなた自身の自由意思とは関係がありません。レコメンデーションの基準となるのは、「あなた自身」ではなく、「あなたに似たその他大勢の顧客」なのです。
他方で、「人間の本質は個人の“自由意思”にある」というのが近代法の最重要命題です。刑法は犯罪者の責任を問うために、個人の実行行為を特定し、犯罪の被害（結果）とを因果関係によって結びつけます。そして、「罪を犯してはならない」という禁止規範を自由意思によって乗り越えた、その「個人の判断」に、非難可能性（＝責任）が生じると考えるのです。契約法の領域でも、その基本的な構造は同じです。「他でもない“‘あなた’という個人”が合意した」という事実を根拠として、契約上の義務や責任を強制することが許されるのです。「自由意思」は、権利としてこれを見た場合、「自己決定権」と言い換えることが可能です。そして、その存立の基盤となるのが、「社会の構成員が自らの自由な意思に基づいて思想、情報を交換する」という「思想の自由市場論」であると考えられます。

では、「自由意思」は本当に存在するのでしょうか。この問いは、近代法が自由意思に立脚した責任論を確立して以来、何度も繰り返し問われてきました。
誰しも、「自分がなぜその行為をしたのか説明することができない」といった経験をしたことがあるのではないでしょうか。このように、自分のことは自分が一番知っているとは限りません。近年、DNAや遺伝子に関する研究が進み、脳や「無意識」が果たす役割についても理解されるようになってきましたが、そういった中で急速に社会に普及したのが、統計的AIです。
Amazonのレコメンデーションにつられて買い物をする行為に、どこまであなたの自由意思があるのでしょうか。Amazonにとって、あなたはビッグデータ（集団）の一部にすぎません。「買い物くらいであれば、個人の自由を語る必要はない」と考えられる方は、ケンブリッジ・アナリティカ事件（企業がFacebookの個人データを利用し、イギリスのEU脱退やアメリカでのトランプ大統領誕生に向けて有権者の意識を誘導したとされる事件）の顛末を調べてみるとよいでしょう。統計的AIは、民主主義の基盤となる「思想の自由市場論」に対する重大な脅威となるのです。

統計的AIは、風前の灯となりつつある個人の自律性（自己決定権）に最後の一撃を与えるものかもしれません。
自由意思論は、19世紀の自由論の系譜に淵源があります。20世紀、「自由意思なんて本当に存在するのか」という懐疑論が出てくるなかにあっても、近代法はどうにかこうにかやりくりして自由意思論を存続させてきました。ところが、21世紀の今、その限界を迎えているのかもしれません（図表1）。

図表1　「自由意思」をめぐる理想と現実

法務関係者の役割

以上のとおり、AIが基礎とする相関関係と近代法が立脚する因果関係の間には、根本的な相違があります。マスマーケティングを中心に利便性の観点から相関関係に基づくAIが幅を利かせるなかで、これまで因果関係を前提に構築されてきた近代法の諸原則が時代遅れとなってしまったのかが今、問われています。
「社会の効率性の実現のために、個人の自由を否定することは許されるのか」という問いは、実は法学の分野では新しい問いではありません。AIは便利ですが、個人の自由の領域を守るため、適切なルールの設計が必要です。私は、AIを社会実装することによって生じる問題に警鐘を鳴らす役割が必要であり、その役割は法務関係者によってなされるべきであると考えます。

法務や経営は説明可能性によって成り立っています。AIは過去のデータから推認するのは得意ですが、原理原則からリーズニングすることは苦手であり、決められたルール自体を疑うといういわゆる「メタの発想」をすることができません。たとえば、契約審査をする場合、AIは「その契約が自社にとって有利か不利か」「どのように修正することが可能なのか」については教えてくれますが、「その契約を締結することが自社にとって正しいのか」「取引の背景に何か疑わしい点がないか」は教えてくれません。

私はAIの危険性は、AIに幻想を持つ人間が作り出しているところが大きいと考えます。最近、AIの説明可能性について問題意識が高まりつつありますが、それを実現する責任はAIを使いこなす人の側にあるのです。

法務関係者は、AIの正体を見極めるべく、目を見開いてAIに「できること」と「できないこと」を見定める必要があります。新しい技術に対して無暗に反対し、目をつぶってばかりでは、問題に警鐘を鳴らしたりすることはできません。もちろん、「AIが出した結果だから」と盲目的に信じてしまうのも、大変危険なことです。
また、ここのところ「なんちゃってAI」（本当の意味でのAIではないのにかかわらず、AIを標榜するサービス）があふれています。AIを使いこなすためには、バズワードに惑わされないことも重要です。

同時に、既存の法制度やルールを「当たり前のこと」として漫然と受け入れているだけでは足りないということを認識しなければなりません。あくまでAIは道具にすぎず、人との適切な役割分担のルールが必要なのです。
そのためも「AIガバナンス」についてもっと議論を深めていくことが重要ですが、これには法制度やルールを追いかることに終始するのではなく、AIの利便性とリスクとのバランスを見出し、利用する人間の責任の所在を明確にすることが必要です。私は、これこそが法務関係者が今なすべきことだと考えます。
適正手続や正義は効率性と相反する側面があり、法律の世界は効率性だけで押し切ることはできません。効率化のみの追求によって、無意識のうちに自由や権利は少しずつ浸食され、気づいた時には手遅れとなっている可能性があります。
AIの浸透の一方で、「人間らしさ」にも焦点が当たっています。法務関係者も、「より人間らしい役割」を果たすことが必要なのではないでしょうか。

弁護士から法務部長への問いかけ

→この連載を「まとめて読む」