無断学習とは (ムダンガクシュウとは) [単語記事]

無断学習とは、無断で学習すること。

概要

多くの場合、「何らかのデータについて、作成者や権利者に無断で、AI（人工知能）に学習させるためのデータとして利用すること」を指して使用されることが多い言葉である。

なお、AIにおいて「無断学習」という言葉で問題視する際には、「大規模な事前学習によってAI モデルを開発する」という場面での無断学習と、「そういった既存のAI モデルについて、特定の対象を模倣するために個別チューニングさせる」という場面での無断学習、双方に対して用いられる。

同じ「無断学習」ではあるが、この2つには共通しない点も多いため、混同すると話がややこしくなる。できるだけ切り分けて考えたい。

ただし「どこまでを『大規模な事前学習』と捉えてどこまでを『個別チューニング』と捉えるか」について明確に線引きできないケースもあるかと思われるが。

大規模な無断学習

「Stable Diffusion」は、その画像生成AIの開発に「LAION」(Large-scale Artificial Intelligence Open Network)という非常に大規模な画像データセットを利用している。この画像データセットは、インターネット上で公開されている画像をコンピューターによる自動的なクローリングで大量に採取したものである。

「LAION」にどのような画像データが含まれているのか？については、「Have I Been Trained?」というサイトを利用すると確認できる（NSFW フィルターがかかっているが完全ではなく、R-18やR-18Gの画像が表示される場合もあるので注意）。例えば「Hatsune Miku」というキーワードで検索してみると、初音ミクのイラストやコスプレ写真が大量に含まれていることがわかる。

Have I Been Trained?　（キーワードを「Hatsune Miku」に設定したURL）

これらのイラストを描いた絵師たちや、コスプレ写真の被写体らや撮影者らが「画像データに含まれて、AIの学習に使われてもよいですよ」と同意しているわけもない。すなわち無断学習である。

さらに、「NovelAI」や「Waifu Diffusion」といった画像生成AI モデルは、フリーで公開されている「Stable Diffusion」をベースにしつつ、「Danbooru」（ダンボール）という画像サイト内にアップロードされている大量のイラストをファインチューニングに用いたものである。

「Danbooru」側は「NovelAI」の学習に協力したわけではないことを明言しており、おそらく「Waifu Diffusion」の学習に対しても同様であろう。つまり、こちらも自動クローリングによる無断での収集、学習であったとみられる。

「われわれはNovelAIと関係ない」──海外のイラストサイト「Danbooru」が日本語で声明 - ITmedia NEWS

個別の無断学習

2021年にマイクロソフトの研究者らから発表されていた「LoRA」（Low-Rank Ada ptation）という機械学習に関連する技法がある。要約して言えば、割と少数のお手本を用いて、しかも少ない計算量で、既存のAI モデルをチューニングすることができる……という手法であった。

この「LoRA」はそもそもは主に自然言語処理に関する技術であった。だがこれを応用して、画像生成AIのチューニングに使える、しかも個人が行えるレベルで扱える簡便な方法が生み出されてしまい、2022年 12月ごろに世間に知れ渡った。

そして、それ以後は「任意のイラストレーターの画風を真似たイラストをAIに生成させる」ことは、こういった手法に関する知識と技術を習得することができる人物ならば誰でも行えるようになってしまった。

実際に「イラストを無断学習され、画風を似せたAI モデルが配布されてしまった」というイラストレーターも既に存在しているようだ。後述する「mimic」騒動のときには結果的に杞憂・冤罪だった「AIを使って、第三者に絵柄が勝手に模倣されてしまう」という懸念が、現実のものとなっているのである。

さらには音声データなどにもこういった手法は応用できるため、「アニメの特定のキャラクターの声で学習させ、そのキャラクターの声や語調で話せる、歌えるボイスチェンジャー」が作成されて販売される、といった事例までもが起きている。

ポストを読み込み中です
 https://twitter.com/miyamoyame/status/1658879014973628419

合法性

「他人の著作物をAIに無断で学習させるようなことは違法ではないのか？」

誰しもが疑問に思う点であろうかと思われる。

現在のところ、「少なくとも2023年現在の日本の著作権法の第三十条の四に照らせば、著作権者の利益を不当に害することがない限りは合法である」と解釈されることが多いようである。

（著作物に表現された思想又は感情の享受を目的としない利用）
第三十条の四　著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
　一　著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場合
　二　情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
　三　前二号に掲げる場合のほか、著作物の表現についての人の知覚による認識を伴うことなく当該著作物を電子計算機による情報処理の過程における利用その他の利用（プログラムの著作物にあつては、当該著作物の電子計算機における実行を除く。）に供する場合