ChatGPTをはじめとする生成AIの利用が企業で急速に進む中、各社の法務担当者にとっては悩みどころとなるのが、“法的リスクの絞り込み”や“ルール作り”といった課題だ。そこで、理系のバックグラウンドを持ち、生成AIに造詣が深い西村あさひ法律事務所・外国法共同事業の濱野敏彦弁護士をファシリテーターに迎え、官民向け地理空間情報コンサルティングを行う大手企業の法務・コンプライアンスグループを束ねるAさん、決済サービスプラットフォーム事業を行う中堅企業の法務部グループに所属するBさん、そして全国に1,000以上の店舗を構える大手ホールディングスで法務グループのマネージャーを務めるCさんの3名に、匿名で各社の生成AI活用の実情を語ってもらった。

生成AIの導入状況と各社が抱える課題とは？

濱野弁護士　ChatGPTや画像生成AI、プログラミングを支援するコード生成AIなど、各社でどのようなものを導入されているのか、あるいは導入を検討されているのかについて、教えていただけますか。

Aさん　現在は特定のメンバー間で試験的に導入を進めている段階で、まだ全社的な本格導入には至っていません。
生成AIの中でもまず導入を進めたいと考えているのがChatGPTで、一部の社員が使い始めているところです。画像生成AIやコード生成AIは、当社ではそれほどニーズは高くないようですが、画像生成AIについては「セミナーや研修用の資料を作成する際に使いたい」とか、コード生成AIについては「自社商品・自社サービスのシステム構築・プログラム開発の際に実験的に使いたい」といった要望が、少ないながらも届いています。

Bさん　当社の場合は、リソースが逼迫していた開発部から「GitHubコパイロットを使いたい」という要望があったことから、生成AI導入検討チームが組成され、同チームにて社内規定等のルールを制定し、開発部門での導入を実施しました。
GitHubコパイロットの導入により、実際にコーディング業務の大きな時間短縮になっています。一方、事業全体のアーキテクトを担う人たちからは、「ChatGPTを“壁打ち”に使いたい」という声が増えてきています。GitHubコパイロットよりもChatGPTの方が扱う情報のリスクが高くなるので、「どのような形で社内に開放すればよいか」など、法務としては悩ましさを感じているのが現状です。

Cさん　グループとしてDXによる業務改革を進める中で、生成AIの導入には大きな課題感を持っています。開発チームでは「コード生成AIをどんどん活用したい」と考えますし、広告のチームであれば「コピー作成などにChatGPTを使いたい」という要請があります。グループ内でもそれぞれがバラバラに生成AIについての取組みを進めているのが現状で、それらの取組みを統括する情報共有のしくみ作りやルール作成などが急務だと考えています。

濱野弁護士　実際に生成AIの導入や検討を進められる中で、たとえばセキュリティ面や法的リスク、漠然とした不安感など、導入の障壁となりそうなポイントはありますか。

Cさん　当社の場合、「生成AIが実際にビジネスで使えるものなのか」という精度の問題と、「情報流出や権利侵害といったリスクにどう対処するのか」といった問題の二つが大きなハードルになると考えています。たとえば、ChatGPTでは簡単に“回答”が得られますが、「それが正しいかどうか」は人が判断しなければなりません。そうした判断能力に長けた人材に厚みがあり、手を動かす人が足りない組織では生成AIは大きな力を発揮します。対して、判断能力に長けたマネジメント層が脆弱な組織で生成AIを活用することには、大きなリスクがあるように思います。情報の正確性などを判断するには経験や専門性が必要になりますので、リスクをルールなどでコントロールすることに加え、そうした“正しい判断ができる人材”の教育も今後は非常に重要になってくると感じています。

リスクを管理しながらいかに利用を促進するか

濱野弁護士　私は、よくセミナーなどでお話ししているのですが、生成AIの中心的な技術はパターン処理を行う“ニューラルネットワーク”であるため、そもそも必ず正しい答えを出すように作られているものではありません。そうした理解を深めてもらう教育なども社内では大切になると思います。また、生成AIから出力されたプログラムについては、「必ずOSS検出ツールによる検証を行う」といったルールを設けている企業も多くあります。導入を進めるにあたり、AさんやBさんがそうしたルール作りなどの点で工夫されたことはありますか。

Aさん　当社には約2,000人の社員が在籍していますが、まだ会社で正式な使用を積極的には認めていないことや、そもそも生成AIの導入に漠然とした不安感がある社員も少なくないようで、導入検討を進めている部門以外の多くの部門では生成AIと距離を置いている印象があります。当社の場合は、生成AIを利用するメリットやルールを提示し、積極的に使用してよいことを発信していかないと、生成AIの活用が進まないのではないかと思われるため、まずはルール作りから始めています。
とはいえ、ChatGPTと画像生成AIでは留意すべき法的リスクが異なります。そこで法的リスクに広く細かくケアしようとルールを厳しくしすぎてしまうと利用が促進できないので、リスクや注意すべきポイントなどを絞ったうえで、インターネットや生成AIの適切な利活用の啓発になるようなガイドラインに近い形でのルール策定を進めています。同時に、法務部門と情報システム部門、生成AIの活用を研究している部門が連携して専用のメールアドレスのアカウントを開設し、法的リスクから技術的な質問、利活用に関する相談にまで広く回答できる体制、相談窓口を整備しました。

濱野弁護士　ChatGPTについて、まずは無料版を使用するケースもありますが、当然、有料版と比較すると、誰でも使える無料版の方が相対的にリスクは大きくなります。たとえば、無料版のChatGPTに社内の機密情報を入力することは情報の漏洩に該当する可能性があると思います。しかしながら、多くの人は、普段からインターネットを使ってGoogleなどでキーワード検索を行っているために、そうしたリスクに対する意識が薄れてしまっている場合もあるように思います。そのため、Aさんの会社が取り組まれているような生成AIを本格導入する前のルール作りはとても大切だと思います。

Aさん　法務担当にとって、生成AIの活用への対応を図っていくにあたっては、個人情報等の情報管理から知財、IT・ネットワークビジネスに関する知見、グローバルなビジネスの視点まで、いわば総合格闘技的なスキルを要求されるものだと思います。幅広いスキルを理解していないと対応することが難しい。社内でそうした対応ができるメンバーは圧倒的に少ない状況ですから、すべての社員が「積極的に生成AIを活用したい」と考えるようになれば、先に大まかなルールを最低限作って啓発しておかないとパンクしてしまうと思っています。現状では数十名しか生成AIを活用していないようですが、少しずつでも活用する人が増えるようにしていきたい。そこで当社では、業務で生成AIを使う人にはまずeラーニングと簡単なテストの合格を義務づけることで少しでも事前の啓発を行い、実際の活用においては必要に応じて先程お話ししたような相談窓口に相談してもらうなど、我々とキャッチボールを繰り返し、理解を深めてもらっているところです。

濱野弁護士　Bさんの会社ではGitHubコパイロットを既に活用されているとのことでしたが、ルール作りはどのように進められましたか。

Bさん　当社の場合はGitHubコパイロットを会社として契約していたので、まずはビジネスプランの範囲で使ってもらうことを前提としました。当初はガイドラインを策定しようと考えたのですが、生成AIの活用に積極的な若手メンバーが多いこともあり、影響範囲が広がることを考えて実施義務の伴う規程として定める形にしました。規程の設計としては、対象となる生成AIの機能や入力情報などでカテゴライズし、従来の情報の取扱規程などとも照らし合わせて、どの範囲までなら利用可能とするかを決めていきました。また、当社でも使用者の生成AIに関する知識レベルを測るテストの合格は必須としており、ChatGPTについては一部の担当者にのみ開放しています。現在はAzure OpenAIを使ったAPI連携なども検討しているところですが、ChatGPTのより広い範囲への開放は今後の課題になると考えています。

生成AIによる変革期に企業はどう対応するべきか

濱野弁護士　GitHubコパイロットのようなコード生成AI、ChatGPTのような大規模言語モデル、画像生成AIのそれぞれに特徴がある中で、入力する情報やアウトプットに対して「どのようにフィルターをかけ、ツールなどを使ってチェックを行っていくか」といったルール作りは、企業での生成AIの活用においてとても重要になると思います。

Cさん　とはいえ、ルールでがんじがらめにすることは簡単ですが、あまりにも厳しいルールを設けると“誰も使わない”ということになってしまいます。法務担当者としては悩ましいところですね。

濱野弁護士　そもそも生成AIがない時代から、画像にしても文章にしても、「そのアウトプットが第三者の権利を侵害していないかどうか」について各社で判断されていたわけですが、特に著作権については判断が難しい場合があると思います。その点も踏まえて、「自社の基準をどこに定めるのか」を決めていく必要があると思います。また、“社内のみで利用する場合”と、“社外で利用する場合”とで、対応を変えることも考えられます。
一方、社会も大きく変化しており、現在では厳密に言えば著作権侵害に該当する画像等がSNS等には溢れています。今後、生成AIがより発展・普及した世界で従来のような著作物保護の価値観がどこまで残るのかということも、企業としては注目すべき観点かもしれません。

Cさん　私は出版業界と音楽業界を経験していますが、それぞれの業界でも二次創作物に対するスタンスはまったく異なります。著作物保護の価値観にも変化があり、今は何となく許されているものが放置されすぎてしまうと、どこかで一斉に取り締まられるということもあるかもしれません。「ルールを作ったから安心」ということではなく、常にそうした変化をウォッチしていくことも法務の役割だと思います。

Aさん　従来、多くの会社で、「法令や社内ルールに従ってさえいればよい」というルールベースによって物事が思考されてきましたが、そうしたあり方に限界がきていると感じています。生成AIのようなものを正しく活用するためには、プリンシプルベースでの思考が必要になります。「ルールを作って縛ればよい」とか、「ルールで縛られているからダメ」ということではなく、個々人が原理原則に立ち返り、“ルールが実現しようとしていること”や“ルールが守ろうとしていること”をきちんと考えながら、「ルールが守ろうとしている“何か”を守るためには、どのように利活用することが適切であるのか」を考えながら生成AIを使っていくことが必要だと考えています。また、同時に、「失敗したときにどれだけのダメージがあるのか」といったリスクベースの思考も大切になるので、法務担当へ適宜相談してもらいながら利活用してもらうことも必要になるとは思いますが、とにかく「言われたことをやればいい」「言われたとおりにやりさえすればいい」という思考では生成AIを適切に扱っていくことはできないと考えています。生成AIの登場によって起きたパラダイムシフトにどのように対応していくか。そういったことも、法務担当としては今後の大きな課題になると考えています。

濱野弁護士　生成AIの活用に積極的な従業員が多い会社のケースと、生成AIの活用に消極的な従業員が多く、会社が従業員に対して生成AIの活用を促したい会社のケースでは、自ずと法務の対応も変わってくるように思います。皆さんのお話からそうした各社での考え方や対応の違いも知れて、とても有意義な座談会になりました。本日は誠にありがとうございました。

→『LAWYERS GUIDE 2024』を「まとめて読む」
→ 他の事務所を読む