AIはどこまで無断で学習できるのか。～文化庁の生成AI論点整理(ガイドラインの素案)を読んで

今日、文化庁は生成AIと著作権保護についてのガイドラインとなる素案を提示しました。(2023/12/20時点。その後の状況については追記をお読みください。)

生成AIでなにが合法でどんなとき違法になるべきか、クリエイターや開発者、ビジネス系のひとなどが議論していますが、多くの生成AI周辺にいる人たち全員に関係あるガイドラインがいままさに検討されているわけです。

朝日新聞ではこう報じています。

文化庁は20日、文化審議会著作権分科会の法制度小委員会に、生成AI（人工知能）によるコンテンツの無断学習は、著作権法で著作権者の許諾が不要とされる「非享受目的」にあたらない場合があるとする「AIと著作権に関する考え方」の素案を示した。生成AIが記事や画像データなどを無断で利用する「ただ乗り」（フリーライド）に懸念の声が上がる中、現行法を厳格に解釈し、歯止めをかけたい考えだ。

朝日新聞デジタルより引用

digital.asahi.com

この盛り上がっている文化庁の資料というのがこちら。

www.bunka.go.jp

ちなみにこれは「論点は何か、それにどんな解釈が検討されているのか」という資料です。「生成AIと著作権の基本を押さえたい」という人は、令和5年6月文化庁著作権セミナーを見ることからオススメします。

まだ素案ですから大きく変わる可能性もありますが、どんな論点で議論されているのかをライトにまとめました。

これ、気になるとこだけ目次から読みたいところクリックして部分的に読んでください。沢山あるけど、気になったところピックアップしてこれなんだ…

■ AIの学習はどういうとき違法になる？①(享受目的による制限)
■ AIの学習はどういうとき違法になる？②(著作権者の利益を不当に害するとき)
■ AIの学習はどういうとき違法になる？③(防止する技術的な措置)
■ AIの学習はどういうとき違法になる？④(海賊版からの学習)
■ AIの学習が権利侵害だったとき、どうなるのか
■ 権利者(作者など)が、AIから学習を拒否したらどうなる
■ AI生成に関する依拠性(似ちゃった問題)
■ 学習に使った著作物の開示を求められるか。
■ 学習の時点で権利者にお金払うようにできないか。
■ LLMチャットAI、検索エンジンなどのRAG(検索拡張生成)
■ 何が課題なのかを知って、パブコメ書こうぜ。
- 2024/01/24追記:

もちろん、正しく把握したい方は文化庁の公式PDFを見てね。

※僕は法律や著作権の専門家ではないので間違っているところもあるかもしれません。その場合は誠意をもって修正しますので、いきなり言葉の刃物で切りつけずに優しくご指摘ください

■ AIの学習はどういうとき違法になる？①(享受目的による制限)

冒頭に紹介した朝日新聞の見出し「生成AIのコンテンツ学習、違法のケースも」ってなかなかセンセーショナルですよね。
TBSも「無断学習は著作権侵害のケースも」といった見出しで記事を出しています。

気をつけたいのは、それで「ほら、クリエイターや努力した人たちの権利を侵害する生成AIは学習を禁止すべきなんだ」と反応してしまうのは軽率だということです。

現状、生成AIや機械学習において「他人のデータを許可なしに学習しても(条件によるがほぼ)適法」とされているのは、平成30年改正の著作権法「著作物に表現された思想又は感情の享受を目的としない利用(著作権法第３０条の４)」が拠り所になっています。

今日出てきた文化庁の「ＡＩと著作権に関する考え方について（素案）」が面白いのは、クリエイターや著作権者、著作権関係団体等の意見をヒアリングしつつ、法改正はせずに違法になるケースを明確にしようとしている点です。

著作権がどうあるべきかの観点はもちろん、ちゃんと生成AIがどういうものか技術的に理解しつつ、市場に与える影響も考慮してる。良い仕事なさってるわ。

生成AIに関して、享受目的が併存すると評価される場合について、具体的には以下のような場合が想定される。

ファインチューニングのうち、意図的に、学習データをそのまま出力させることを目的としたものを行うため、著作物の複製等を行う場合。

ＡＩと著作権に関する考え方について（素案） P3より引用

意図的に、学習データをそのまま出力させることを目的としたら、情報解析の用に供する場合でも、著作物の表現を享受する目的があるとして法第30条の４は適用されないから学習利用できない場合があるんじゃないかと。

おおおおーなるほどねー

でも、これ学習のみが対象の話。
たまたま学習データがそのまま生成されて出てきちゃうことはあっても「そのまま出力させることを目的に学習する」ことなんて、ほぼないでしょ。
この法第30条の４は適用されない(学習させたらいけない)条件って、ほぼ適用されないんじゃないの？

と、思ったら「学習データをそのまま出力させる意図までないけど、学習データの影響を強く受けた生成物が出力されるような場合」についても書かれていました。

これに対して、「学習データをそのまま出力させる意図までは有していないが、少量の学習データを用いて、学習データの影響を強く受けた生成物が出力されるようなファインチューニングを行うため、著作物の複製等を行う場合」に関しては、具体的事案に応じて、学習データの著作物の表現上の本質的特徴を直接感得できる生成物を出力することが目的であると評価される場合は、享受目的が併存すると考えられる。

近時は、特定のクリエイターの作品である著作物のみを学習データとしてファインチューニングを行うことで、当該作品群の影響を強く受けた生成物を生成することを可能とする行為が行われており、このような行為によって特定のクリエイターの、いわゆる「作風」を容易に模倣できてしまうといった点に対する懸念も示されている。このような場合、当該作品群は、表現に至らないアイデアのレベルにおいて、当該クリエイターのいわゆる「作風」を共通して有しているにとどまらず表現のレベルにおいても、当該作品群には、これに共通する表現上の本質的特徴があると評価できる場合もあると考えられることに配意すべきである。

ＡＩと著作権に関する考え方について（素案） P4より引用

これは、また踏み込んできたね文化庁と法制度小委員会のみなさん。
やるじゃん。

たとえば、特定イラストレーターと同じ絵柄だけを出力するモデルやLoRAの学習をすると、法第30条の４は適用されないから学習利用できない場合が出てくるんじゃないかと。

なお、生成・利用段階において、AIが学習した著作物に類似した生成物が生成される事例があったとしても、通常、このような事実のみをもって開発・学習段階における享受目的の存在を推認することまではできず、法第30条の４の適用は直ちに否定されるものではないと考えられる。他方で、生成・利用段階において、学習された著作物に類似した生成物の生成が頻発するといった事情は、開発・学習段階における享受目的の存在を推認する上での一要素となり得ると考えられる。

ＡＩと著作権に関する考え方について（素案） P4より引用

ただし、状況によって法第30条の４は適用されない場合もあるよね、といった複雑な話で全部ダメみたいな短絡的な判断はしないように。

上記の通り、AIが学習した著作物に類似した生成物が生成されるとしても、学習自体がすぐに違法とは限らない。ただ、違法になる状況もあることが提示された、といった感じ。ここもっと具体的なガイドライン欲しいけど、現状の問題をちゃんと拾ってて良い仕事だなあ。

これまで「法第３０条の４があるんだから学習し放題」と言ってクリエイターをおちょくってた悪のAI開発者は恐怖に震えながら夜を過ごすことになるのかもしれませんね！

■ AIの学習はどういうとき違法になる？②(著作権者の利益を不当に害するとき)

前述の通り、無断でも学習をして良い(適法)根拠になっている法第30条の４は、ただし書に「当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。」と書かれています。

とはいえ、学習されるだけで(生成されていないのに)不利益になるのってどういう状況でしょう。
不快だとか作者がイヤだと言っているっていうのは、気持ちはわかるものの法律上の「不利益」ではないですよね。

今日出てきた「ＡＩと著作権に関する考え方について（素案）」の面白ポイントとしては、著作権者の利益を不当に害することとなる場合の具体例について触れていることです。

作風や画風といったアイデア等が類似するにとどまり、既存の著作物との類似性が認められない生成物は、これを生成・利用したとしても、既存の著作物との関係で著作権侵害とはならない。また、既存の著作物とアイデア等が類似するが、表現として異なる生成物が市場において取引されたとしても、これによって直ちに当該既存の著作物の取引機会が失われるなど、市場において競合する関係とはならないと考えられる。

そのため、著作権法が保護する利益でないアイデア等が類似するにとどまるものが大量に生成されることにより、自らの市場が圧迫されるかもしれないという抽象的なおそれのみでは、「著作権者の利益を不当に害することとなる場合」には該当しないと考えられる。

ＡＩと著作権に関する考え方について（素案） P4より引用

やっぱり「似た画風・作風」が出てくるAIに学習されることだけでは、(少なくとも学習では)「著作権者の利益を不当に害することとなる場合」には該当しないんですねえ。

色々な画風を学習した結果、あるイラストレーターと似た絵を出力できるみたいな場合は学習自体を規制するのは難しいのかも。
(これは学習に限った話で、出力された生成結果が権利侵害してる場合の話ではないので注意)

前述の通り、特定のイラストレーターの絵を出力することを「狙った」場合は(著作権者の利益を不当に害することにはならなくても)享受目的の存在で学習を止められる可能性は出てきたっぽい。

なお、この点に関しては、上記イ（イ）のとおり、特定のクリエイターの作品である著作物のみを学習データとしてファインチューニングを行う場合、当該作品群が、当該クリエイターの作風を共通して有している場合については、これにとどまらず、表現のレベルにおいても、当該作品群には、これに共通する表現上の本質的特徴があると評価できる場合もあると考えられることに配意すべきである。

ＡＩと著作権に関する考え方について（素案） P6より引用

わざわざ、ここでも繰り返し書かれてて機械学習ならばすべて学習OKってわけじゃあねえからなって釘刺ししてる感じ！おもしろーい。

■ AIの学習はどういうとき違法になる？③(防止する技術的な措置)

ちなみに、有償APIに金を払わないで情報解析目的で複製したら「著作権者の利益を不当に害することとなる場合」として自由に学習できなくなる的なことも書かれています。それはそうだろうな。

で、有償APIに関係して「学習を防止する技術的な措置」について書かれていて、僕は大変ここに興味があるのです。

AI学習のための著作物の複製等を防止する技術的な措置としては、現時点において既に広く行われているものが見受けられる。こうした措置をとることについては、著作権法上、特段の制限は設けられておらず、権利者やウェブサイトの管理者の判断によって自由に行うことが可能である。

（例）ウェブサイト内のファイル”robots.txt”への記述によって、AI学習のための複製を行うクローラによるウェブサイト内へのアクセスを制限する措置

（例）ID・パスワード等を用いた認証によって、ウェブサイト内へのアクセスを制限する措置

ＡＩと著作権に関する考え方について（素案） P7より引用

おお、robots.txtで学習防止することについて言及されている(興奮)

ただし、robots.txtで禁止していたり、パスワードがかかったサイトの学習が即違法になるという意味ではないとのことなので誤解なきよう。

そのため、このような技術的な措置が講じられており、当該ウェブサイト内のデータを含み、情報解析に活用できる形で整理したデータベースの著作物が将来販売される予定があることが推認される場合、この措置を回避して行うAI学習のための複製等は、当該データベースの著作物の将来における潜在的販路を阻害する行為として、通常、法第30条の４ただし書に該当し、同条による権利制限の対象とはならないと考えられる。

なお、このような技術的な措置が、著作権法に規定する「技術的保護手段」又は「技術的利用制限手段」に該当するか否かは、現時点において行われている技術的な措置が、従来、「技術的保護手段」又は「技術的利用制限手段」に該当すると考えられてきたものとは異なることから、今後の技術の動向も踏まえ検討すべきものと考えられる。

ＡＩと著作権に関する考え方について（素案） P7-P8より引用

学習できない(法第30条の４ただし書に該当する)条件をかなり具体的に書いてますね。
課金してアクセスするようなサイトの学習は禁止できる手段ないと困るもんね……

■ AIの学習はどういうとき違法になる？④(海賊版からの学習)

実は生成AI界隈では大きな問題になっているのですけど、正規の著作物を学習できないから、わざと「違法に掲載した海賊版サイト」から学習させている悪のAIってのがあるのです。

これ、とても難しい問題で、今回の資料でも「インターネット上のデータが海賊版等の権利侵害複製物であるか否かは、究極的には当該複製物に係る著作物の著作権者でなければ判断は難しく、AI学習のため学習データの収集を行おうとする者にこの点の判断を求めることは、現実的に難しい」と書かれています。

例えばSNSにアップされている画像を大量に学習しているときに、その中のどれが海賊版やパクリなのかどうか判断する方法はないからですね。

この件について、今日出てきた「ＡＩと著作権に関する考え方について（素案）」では、もしもそれで訴訟とかになったらAI開発会社が責任を問われるから配慮して頑張れ(意訳)みたいなかなりヌルいことだけ書いてあって、特に何も具体的な指針はなかったのです。

これ、ガイドラインとして完成するまでにもう少し詰めて欲しいところですよねー。

■ AIの学習が権利侵害だったとき、どうなるのか

(生成がではなく)学習が権利侵害になったとき、どうなるのか

享受目的が併存する、又はただし書に該当する等の理由で法第30条の４が適用されず、他の権利制限規定も適用されない場合、権利者からの許諾が得られない限り、AI学習のための複製は著作権侵害となる。

この場合、AI学習のための複製を行った者が受け得る措置としては、損害賠償請求（民法第709条）、侵害行為の差止請求（法第112条第１項）、将来の侵害行為の予防措置の請求（同条第２項）、刑事罰（法第119条）等が規定されている。

なお、損害賠償請求についてはその要件として故意又は過失の存在が、刑事罰については故意の存在が必要となる。

ＡＩと著作権に関する考え方について（素案） P9より引用

まあ、生成AIかどうかは関係なく通常の著作権侵害の場合と同じ。

生成AI独特のポイントはここからです。

このうち、将来の侵害行為の予防措置の請求は、将来において侵害行為が生じる蓋然性が高いといえる場合に、あらかじめこれを防止する措置を請求できるとするものである。そのため、著作権侵害の対象となった当該著作物が、将来においてAI学習に用いられることに伴って、複製等の侵害行為が新たに生じる蓋然性が高いといえる場合は、当該AI学習に用いられる学習用データセットからの当該著作物の除去が、将来の侵害行為の予防措置の請求として認められ得ると考えられる。

ＡＩと著作権に関する考え方について（素案） P9より引用

おっ。
学習用データセットからの当該著作物の除去が、将来の侵害行為の予防措置の請求として認められ得るんですってよ。

生成AIの「学習」が権利侵害と認められるにはかなり厳しい条件がありつつ、権利侵害であった (かつ将来も侵害行為が生ずる蓋然性が高いといえる) 場合は、学習用データセットからの著作物の除去を求めることができる、と。

でも、こうも書かれています。

学習済みモデルから、学習に用いられたデータを取り除くように、学習に用いられたデータに含まれる著作物の著作権者等が求め得るか否かについては、現状ではその実現可能性に課題があることから、将来的な技術の動向も踏まえて見極める必要がある。

ＡＩと著作権に関する考え方について（素案） P19より引用

それもそうか。除去とか簡単にできるもんではないよね。
じゃあ、著作権侵害AIの「モデルそのものの廃棄」を求めることはできるのか？

AI学習により作成された学習済モデルは、通常、学習に用いられた著作物の複製物とはいえず、「侵害の行為を組成した物」又は「侵害の行為によつて作成された物」には該当しないと考えられる。また、通常、AI学習により作成された学習済モデルは、学習データである著作物と類似しないものを生成することができると考えられることから、「専ら侵害の行為に供された機械若しくは器具」にも該当しないと考えられる。そのため、AI学習により作成された学習済モデルについての廃棄請求は、通常、認められないものと考えられる。

ＡＩと著作権に関する考え方について（素案） P9より引用

だめらしい。
現時点では、著作権侵害が認められてもモデルそのものの廃棄請求までは認められにくいっぽい。

ただ、廃棄が認められるかもしれないって話もあって、

他方で、当該学習済モデルが、学習データである著作物と類似性のある生成物を高確率で生成する状態にある等の場合は、学習データである著作物の本質的特徴が当該学習済モデルに残存しているとして、法的には、当該学習済モデルが学習データである著作物の複製物であると評価される場合も考えられ、このような場合は、「侵害の行為を組成した物」又は「侵害の行為によつて作成された物」として、当該学習済モデルの廃棄請求が認められる場合もあり得る。また、この場合は、当該学習済モデルが、学習データである著作物と類似性のある生成物の生成（すなわち複製権侵害を構成する複製）に専ら供されたとして「専ら侵害の行為に供された機械若しくは器具」として廃棄請求が認められる場合もあり得る。

ＡＩと著作権に関する考え方について（素案） P9-10より引用

著作権侵害が認められたときに、元になった著作物と類似した生成物を高確率でガンガン吐き出すみたいなモデルだったら、モデル自体の廃棄が認められる場合も考えられると。
たまたま著作権を侵害した生成をしちゃったとかではなく、著作権侵害する生成物ばっかり生成するモデルだったら…ってことなんだと思いますが。

■ 権利者(作者など)が、AIから学習を拒否したらどうなる

これは以前からまとめられているのですが、作者など権利者が「俺の作品を学習するな」と言ったところで、それだけで学習が権利侵害にはならないという結論が出ています。

このような権利制限規定の立法趣旨からすると、著作権者が反対の意思を示していることそれ自体をもって、権利制限規定の対象から除外されると解釈することは困難である。また、AI学習のための学習データの収集は、クローラ等のプログラムによって機械的に行われる例が多いことからすると、当該プログラムにおいて機械的に判別できない方法による意思表示があることをもって権利制限規定の対象から除外してしまうと、学習データの収集を行う者にとって不測の著作権侵害を生じさせる懸念がある。そのため、こうした意思表示があることのみをもって、法第30条の４ただし書に該当するとは考えられない。

ＡＩと著作権に関する考え方について（素案） P11より引用

ただし、AI学習を拒絶する著作権者の意思表示が、機械可読な方法で表示されている場合についてはこのように書かれています。

他方で、このようなAI学習を拒絶する著作権者の意思表示が、機械可読な方法で表示されている場合、上記の不測の著作権侵害を生じさせる懸念は低減される。また、このような場合、上記エ（エ）のとおり、AI学習のための著作物の複製等を防止する技術的な措置が講じられており、当該ウェブサイト内のデータを含み、情報解析に活用できる形で整理したデータベースの著作物が将来販売される予定があることが推認される場合、この措置を回避して行うAI学習のための複製等は、当該データベースの著作物の将来における潜在的販路を阻害する行為として、通常、法第30条の４ただし書に該当し、同条による権利制限の対象とはならないと考えられる。

ＡＩと著作権に関する考え方について（素案） P11より引用

上記エ（エ）っていうのは、robots.txt やID/パスワード認証を使ってクローラーのアクセスを制限したりする場合を指しています。そのように技術的な措置が講じられていて、将来販売される予定があることがわかるようなデータベースなどの条件がそろう場合は、学習を許していないということになるみたいです。

かなり条件は厳しいので、robots.txt での拒否やID/パスワード認証をかけていれば必ず「学習」を禁じられるということはないのですが、学習禁止にできる条件が提示されたのは進歩ですよね。

■ AI生成に関する依拠性(似ちゃった問題)

著作権に依拠性って言葉がよく出てくるのですが、著作物を元にしたかどうかって意味です。偶然似てしまったものは依拠性の要件を満たさないため、著作権侵害の要件を満たさないなんていう考え方ですね。

ところがですよ、

依拠性の判断については、従来の裁判例では、ある作品が、既存の著作物に類似していると認められるときに、当該作品を制作した者が、既存の著作物の表現内容を認識していたことや、同一性の程度の高さなどによりその有無が判断されてきた。特に、人間の創作活動においては、既存の著作物の表現内容を認識しえたことについて、その創作者が既存の著作物に接する機会があったかどうかなどにより推認されてきた。

一方、生成AIの場合、その開発のために利用された著作物を、生成AIの利用者が認識していないが、当該著作物に類似したものが生成される場合も想定され、このような事情は、従来の依拠性の判断に影響しうると考えられる。

ＡＩと著作権に関する考え方について（素案） P12-13より引用

そうかー。
これまでは「パクリ疑惑とか言われても、お前の作品自体を知らんよ。似たのは偶然やろ」っていう状況なら依拠性がないとしてきたけど、生成AIだと利用者が元著作物を認識しないで生成しちゃうことある。
いままでと同じ依拠性の判断ってわけにはいかないんですねえ。テクノロジーによってこういう法律や行政の変化あるのおもしろ…(興奮)

で、生成AIにおける依拠性判断をどうするかってことが書かれています。

（例）Image to Image（画像を生成AIに指示として入力し、生成物として画像を得る行為）のように、既存の著作物そのものや、その題号などの特定の固有名詞を入力する場合

このような従来の裁判例を踏まえると、生成AIが利用された場合であっても、権利者としては、被疑侵害者において既存著作物へのアクセス可能性や、既存著作物への高度な類似性があること等を立証すれば、依拠性があると推認されることとなる。

ＡＩと著作権に関する考え方について（素案） P13より引用

I2Iで元著作物が使われてるとか、プロンプトで明らかな指示があるかが依拠性の判断になるんですね。生成AI時代の依拠性判断。
でも、AI利用者が著作物を認識していなかった場合でも、生成AIが著作物を学習していて、その著作物に類似した生成物が生成されると、依拠性があったと認められ、著作権侵害になりうると考えられるとも書かれているので注意が必要そうです。

やはり、学習段階はともかく生成段階ではかなり慎重に考えていないと著作権侵害にあたることをしてしまう可能性は結構ありますね。

■ 学習に使った著作物の開示を求められるか。

権利者が自分の作品を学習されているか開示を請求できるか、というと

生成AIの生成物の侵害の有無の判断に当たって必要な要件である依拠性の有無については、上記イ（イ）のとおり、当該生成AIの開発・学習段階で侵害の行為に係る著作物を学習していた場合には認められると考える。

このような立証のため、事業者に対し、法第114条の3（書類の提出等）や、民事訴訟法上の文書提出命令（同法第223条第１項）、文書送付嘱託（同法第226条）等に基づき、当該生成AIの開発・学習段階で用いたデータの開示を求めることができる場合もあるが、依拠性の立証においては、データの開示を求めるまでもなく、高度の類似性があることなどでも認められ得る。

ＡＩと著作権に関する考え方について（素案） P17より引用

単純に「学習してないか確認させて」って言うようなことはできなくて、ここで書かれてるようにデータ開示を求めるための条件があるっぽいですね。

もう、ほぼクロみたいなときでないと使えないんじゃないかな(ここはよく分かってないんだけど)

■ 学習の時点で権利者にお金払うようにできないか。

もう少し、ここ踏み込んで議論して欲しいのに「ちょっと難しいよね～」程度の話しか書かれてない。

また、著作権者等への対価還元という観点からは、法第30条の４の趣旨を踏まえると、AI開発に向けた情報解析の用に供するために著作物を利用することにより、著作権法で保護される著作権者等の利益が通常害されるものではないため、対価還元の手段として、著作権法において補償金制度を導入することは理論的な説明が困難であると考えられる。

他方、コンテンツ創作の好循環の実現を考えた場合に、著作権法の枠内にとどまらない議論として、技術面や考え方の整理等を通じて、市場における対価還元を促進することについても検討が必要であると考えられる。

ＡＩと著作権に関する考え方について（素案） P19より引用

まあ、これから議論ってところでしょうか。

■ LLMチャットAI、検索エンジンなどのRAG(検索拡張生成)

あと、興味深かったのはRAG(検索拡張生成)について書かれていること。
Bing CopilotやGoogle SGEなどの検索エンジン系はもちろん、ChatGPT や Google Bardも含むのだと思います。

文化庁と法制度小委員会のみなさん、踏み込むねえ。

他方で、RAG等による回答の生成に際して既存の著作物を利用することについては、法第47条の５第１項第１号又は第２号の適用があることが考えられる。ただし、この点に関しては、法第47条の５第１項に基づく既存の著作物の利用は、当該著作物の「利用に供される部分の占める割合、その利用に供される部分の量、その利用に供される際の表示の精度その他の要素に照らし軽微なもの」（軽微利用）に限って認められることに留意する必要がある。RAG等による生成に際して、この「軽微利用」の程度を超えて既存の著作物を利用する場合は、法第47条の５第１項は適用されず、原則として著作権者の許諾を得て利用する必要があると考えられる。

ＡＩと著作権に関する考え方について（素案） P5より引用

おおおー
「軽微利用」の程度を超えて著作物を利用してるなら、それは著作権者の許諾を得ていなくてはならない、と。ここの整備によってはビッグテックに影響あるじゃん。

もっとちゃんと具体的なガイドライン欲しいねえ。