【専門家がみる生成AI最新動向】 生成AIの課題や法制度

1. 解説者紹介

鈴木淳哉
デロイト トーマツ サイバー合同会社　CyberAdvisory所属/スペシャリストマスター

• 公認情報システム監査人（CISA）
• PMP
• 情報処理安全確保支援士

事業会社・国立研究開発法人を経て、セキュリティ関連の専門知識を活かし、サイバーセキュリティに関するアドバイザリー業務に従事。

現在は、エネルギー業界を中心に制御システムのサイバーセキュリティアドバイザリー業務に従事する傍ら自然言語処理を用いたカーボンニュートラル技術のリスク評価に関する東京大学との共同研究にも従事。

日本ディープラーニング協会CDLEメンバーとして、JDLA研究会「AIガバナンスとその評価」に参画。同協会が主催するCDLEハッカソンにも３年連続出場し、2019年準優勝、2021年企業賞、2022年最優秀賞を受賞。

2. 生成AIの進化と普及の背景

1. 生成AIの定義と機能
   生成AIとは、自然言語や画像などのデータを入力として受け取り、それに基づいて新たなデータを生成するAIの一種です。この技術は、ディープラーニングという機械学習の手法を基にしており、大量のデータからパターンや構造を学習し、それを元に新しい情報を生成する能力を持っています。
2. 応用分野と成功事例
   生成AIは、様々な応用分野で活用されています。例えば、以下のような分野で活用されています。
   【自然言語処理】: テキスト生成、文章の要約、言語翻訳などにおいて生成AIは優れた成果を上げています。
   【画像生成】: スタイル変換、写真の修復、アート生成など、画像に関する多彩なタスクで生成AIが活用されています。
   上記以外にも、生成AIは詩や小説、音楽の作曲など、クリエイティブな領域でも利用されています。人間の創造性を補完する可能性を秘めています。
3.  技術の進化と普及の要因
   生成AIの進化と普及は、いくつかの要因によって推進されています。大きな要因の一つとしてデータの拡充が挙げられます。インターネットの普及により膨大なデータが利用可能になり、生成AIの学習に利用されています。大規模かつ多様なデータは、モデルの性能向上に寄与しています。
   また、別の要因として計算能力の向上が挙げられます。 ディープラーニングモデルの訓練には高い計算能力が必要ですが、クラウドコンピューティングの進化により、研究者や企業はより大規模なモデルを効率的に訓練できるようになりました。
   人的リソースの観点から、オープンソースの貢献も要因の一つと考えられます。 多くの研究者やエンジニアが生成AIに関するオープンソースのモデルやツールを開発し、共有しています。これにより、知識の共有と技術の進化が加速しています。
4. 普及に伴う懸念事項
   生成AIの普及にはいくつかの課題も浮き彫りになっています。例えば、生成された文章や画像が本物と区別がつかない場合、偽情報（ディープフェイク）の拡散や著作権に関する問題が懸念されます。また、バイアスと公平性の観点では、学習データに偏りがある場合、生成されたコンテンツにもバイアスが反映される可能性があります。生成されたコンテンツや学習されるコンテンツに個人情報が含まれる場合、プライバシーの侵害が懸念されます。

3. 法制度の現状と課題

前述の様々な懸念事項に対し、法的観点からも対策が検討され始めています。

1. 諸外国での生成AIに関する扱い
   諸外国では、生成AIに関する取扱いとして以下のような法的検討が進んでいます。
   
   1. 2023年6月に欧州議会で可決された修正版AI法で求められるリスク管理等の義務
      欧州議会は、6月14日にAI規制改定案を可決しました。この改定では、生成AIを明確に記載したAIを包括的に規制する法案となりました。法律の最終版が成立するのは早くとも2023年後半 になる見込みとのことです。
      この規則案では、すべてのシステムに適用される一般原則として、「人間による媒介や監視」、「技術的な頑健性と安全性」、「プライバシーとデータのガバナンス」、「透明性」、「多様性、無差別、公平性」、「社会と環境に対するウェルビーイング」が挙げられています。
      出典：https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.html
   2. 2023年4月米国商務省「AIに関する説明責任に関する措置」に関する意見募集
      米国商務省の電気通信情報局（NTIA）は、「AIの説明責任政策 (AI Accountability Policy)」を発表し、AIの安全性を確保する制度を構築する計画を発表し、意見募集を実施しました。この制度は、車や電化製品のようにAIも安全規格を満たす必要があるという考え方に基づいています。NTIAが提示した認証制度の素案は、監査、検証、認証という三つのステップから構成されており、AIシステムの安全性を保証する役割を果たします。これにより、高度なAIが利用者から信頼され、安全に利用されることが期待されています。
      出典：https://ntia.gov/press-release/2023/ntia-seeks-public-input-boost-ai-accountability
   3. 2023年5月台湾 詐欺行為におけるディープフェイクの使用を抑制するための法改正案を可決
      台湾立法院は5月16日に、詐欺行為におけるディープフェイクの使用を規制する法改正案を可決しました。この改正では、ディープフェイクを使用して詐欺行為を行った者に対して、最高7年の懲役刑が科せられることとなりました。また、コンピュータ生成技術やその他の機器を使用して偽の画像、音声、磁気記録を作成し、詐欺行為を行った者に最高100万台湾ドルの罰金が科せられることも明記されています。
      この法改正は、人工知能（AI）の技術が進化し、ディープフェイクが普及している中で、本物と偽物の区別が難しくなっている現状を踏まえて行われました。これにより、ディープフェイクを悪用した詐欺行為を抑止するための法的手段が強化されました。
      出典：https://www.ocac.gov.tw/OCAC/Eng/Pages/Detail.aspx?nodeid=329&pid=53413454
      
      これらのAIの安全性確保に向けた各国の取り組みは、技術の進化に伴いますます重要となっており、公共の安全性を守るための重要な制度となっていくと考えられます。
      
2. 著作権に関する現状
   生成AIについては、特に著作権に関係する様々な組織・団体から見解が発表され、議論が活発化しています。
   1. 日本音楽著作権協会「生成AIと著作権の問題に関する基本的な考え方」
      日本音楽著作権協会は、著作権の問題に対処する基本的な考え方を発表しました。この考え方では、生成AIによる著作物利用において、創造性尊重と調和、フリーライドの防止、国際的なルール確立、クリエイターの声への対応を強調しています。
      出典：https://www.jasrac.or.jp/release/23/07_3.html
   2. 日本写真家協会「生成AI画像についてその考え方の提言」
      日本写真家協会は、生成AI技術の急速な進化と著作権の問題に懸念を表明しました。生成AIによって作成された画像がオリジナルの著作物と見分けがつかず、著作者の権利侵害を引き起こす可能性があることについて議論し、著作者名の明示義務やプラットフォームの改正を提案しています。生成AIの技術の適切なコントロールが行われない場合、著作者の権利侵害やフリーライドが発生する恐れがあるとしています。
      出典：https://www.jps.gr.jp/about-generated-ai-images/
   3. 日本雑誌協会、日本写真著作権協会、日本書籍出版協会、日本新聞協会「生成ＡＩに関する共同声明」
      日本雑誌協会、日本写真著作権協会、日本書籍出版協会、日本新聞協会は、生成AI技術の進化により、著作権者の権利侵害や著作物データの不正収集が懸念する旨の共同声明を発表しています。この共同声明の中で、現行の日本の著作権法における規定が明確でなく、権利者の実効的な保護策が不足していると指摘されています。この問題により、著作権者への価値還元の不足や非倫理的なAIの開発、著作権侵害コンテンツの拡散が懸念され、著作権法の改正と技術に合わせた著作権保護策の検討が必要とされ、権利者団体と関係当局の協力による意見交換が望まれています。
      出典：https://www.pressnet.or.jp/statement/copyright/230817_15114.html
   4. ニューヨーク・タイムズ「AIによる記事の学習を原則禁止」
      ニューヨーク・タイムズは、AIに記事や写真の学習を原則禁止する新しい利用規約を導入し、著作権侵害の懸念から無断学習に対して民事や刑事責任を追求する可能性を示唆しています。これにより、AI開発企業がメディア記事を学習させる際の法的リスクが高まることが注目されています。
      出典：https://help.nytimes.com/hc/en-us/articles/115014893428-Terms-of-Service
      
      また、著作権の管轄庁である文化庁から、生成AIの著作権に関する見解が出されています。
      文化庁の見解によれば、「生成AIは著作者とはみなされず、自律的に生成されたものは著作物ではない。」、「生成AI開発・学習段階での著作物利用行為は、権利制限規定に該当する場合、原則として著作権者の許諾なく行うことが可能。」、「既存の著作物との「類似性」及び「依拠性」が認められるAI生成物のアップロードや販売を行う場合、原則として著作権者の許諾が必要。」などの見解が示されています。出典：https://www.bunka.go.jp/seisaku/chosakuken/pdf/93903601_01.pdf
      このような様々な議論、見解をもとに、今後は生成AIモデル製作者、生成AIサービス提供者、生成AI利用者などの立場や学習時、生成時、生成物利用時などのタイミングによって著作物に関する判断が必要となると考えられます。
3. 個人情報保護法に関する現状
   個人情報保護法については、2023年６月に個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」が公表されました。
   この注意喚起では、AIによる生成サービスについて、個人情報の適切な取り扱いと公共的な利益のバランスを保つ必要性が指摘され、G7広島首脳コミュニケ でも国際的な議論が進められていることが強調されています。
   生成AIサービスの利用に際して、個人情報取り扱い事業者や行政機関に対しては、特に個人情報の利用目的を確認し、機械学習に利用しないこと等を確認するよう注意が促されています。
   一般の利用者に対しても、生成AIサービスを利用する際に個人情報のリスクを適切に判断し、サービス提供者の利用規約やプライバシーポリシー等を確認するよう呼びかけています。
   出典：https://www.ppc.go.jp/files/pdf/230602_kouhou_houdou.pdf
   
   個人情報保護委員会の注意喚起も踏まえ、生成AIの利用にあたっても個人情報保護法に則り、「利用目的の範囲内か」、「個人データの第三者提供に該当するか」、「外国にある第三者への提供に該当するか」などを、これまでの個人情報の扱いと同様に留意していく必要があります。

4. まとめ

生成AIの進化と普及は、技術の進歩と創造性を示す一方で、著作権、個人情報保護など、様々な課題も浮かび上がらせています。
適切なガバナンスと法制度の確立が求められる中、この技術の可能性を最大限に引き出すためにも、ステークホルダーとの継続的な議論と理解への取り組みが引き続き求められると考えられます。