反AI 単語

3件

ハンエーアイ

1.2万文字の記事
  • twitter
  • facebook
  • はてな
  • LINE

NO AI

反AIとは、

  1. 広く、AI技術の進歩が人類の脅威やになるという思想。
  2. 特に、画像生成AIや文章生成AIなどの生成AI自体に対して批判的な立場のこと。
  3. 2を発祥とし(下記『概要』参照)、生成AIに問題が有ると吹聴し、それを理由として個人や企業に対し攻撃的な行為を行うこと。

ここではに3について記述し、1と2についても軽く触れる。

概要

「反AI」という単語は生成AI話題になる以前から確認できる。古くからSF作品ではロボット人工知能が人類に反逆するテーマが定番の1つになっており、そのような人工知能忌避を取り扱った作品で「反AI」という単語は昔から使われてきた。例えばアダルトゲームBALDR SKY』の作中ではAIと反AIの組織が存在し両者の抗争が作品のテーマの1つになっている、

また現実でも、生成AI以前からAI技術に反対する集団に対して使われていた。グーグル、雇用支援に1100億円 「反AI」に備えexit

現在の意味で広まったきっかけは海外イラストサイトArtistation」で行われた「AIアート」に対する反対運動「NO AI運動(記事上部のイラストのようなマークシンボルとして扱われた)に対して共感した内の有名イラストレーターが「反AI活動」と反応したことから端を発し

この活動内容が内でも話題になり画像生成AIを始めとするAIアートに反対する人達の意味で現在の「反AI」というワードが広がった。消された少女の“反AI”マーク 「無断改変したのは俺です」exitこの「反AI」という単語は既存の「反原発」や「反ワクチン」など技術に対して忌避感情を持つ集団と同じ文脈で語られる。

程度や理由は様々である。「絶対に許さない。底的に排除するべき」という人もいれば、「AI無断学習して、イラストレーターの画や技術を盗んでしまうことに問題がある。」「AIイラストレーター仕事を奪ってしまう可性があるから怖い」程度で、AI技術やAIの使用そのものまでは否定しない人もいる。

画像生成AI歴史は一般的に2014年イアン・グッドフェローらによって提案された生成的敵対ネットワーク(GAN)exitより始まったと言われ、現在流となっている潜在拡散モデル(exitLatent Diffusion Models)exitが考案されることで急速に発展することになる。そして、2022年頃になると「Stable diffusion」や「Midjourney」といった画像生成AIが登場し一般的に普及することになる。このAIはまだから新しいイラストキャラクター創造するのではなく、既存の人が描いたイラストを学習し、学習した内容からイラストを出するというものである。このため、イラストレーターの描いた絵が断で学習され、類似品が出回ってしまうということを問題視する人間が存在し、反AI層の中で語られることの多い論点である。イラストレーターの画などは、イラストレーターが何回も絵を練習して得た努の結果であり、それがAI無断学習されるというのが倫理的に問題がないのか?ということである。

描いた「モノ」そのものならば、著作権が発生するので、侵してはならないというのは簡単にわかることである。しかし、著作権法での「画」に関しては著作権は、「思想又は感情を創作的に表現した」著作物を保護するものであり、単なるデータ(事実)やアイデア(作風・画風など)は含まれない。exitとされている。

初期のAIでは、「手づかみでラーメンを食べる」「手がぐしゃぐしゃ」「名前が同じキャラクターや似た台詞などを混同してしまいキメラになってしまう(キュアヤムヤムの格好をした夢見りあむができあがるなど)」「題名の意味を正しく理解できないぼっち・ざ・ろっく!を描かせると巨大な岩の前に立ち尽くす男の画像ができあがる。鉄オタを描かせると金属コレクションするデブが描かれるなど)」など、AI使用者の意図通りの出がなされない場合が多かったが、今ではかなり精巧なイラストを生成することができるようになっている。

その他の反対する理由

AIの発展でイラストレーターが失職する

将来的にはアニメーターイラストレーター仕事AIに奪われるのではないか、という懸念。

みんな努力して絵が上手くなったのに努力をせずAI絵師が楽をしてイラストを描くのはおかしい!

感情論的かもしれないけどそうかもしれません。ただしアナログ絵師から見ればデジタル絵師は技術の恩恵で相当楽しているのでは?という摘もある。

ニコニコ静画やpixiv等のサイトにAI絵が氾濫し検索妨害になる

生成AIによって出された、似たような画イラストが大量に投稿され見たいイラストが見られなくなる、イラスト氾濫することによる検索妨害になるなどの問題。プラットフォームによってはルールとして「AI生成」というようなタグを付けることが決められていたり、AIイラスト投稿を禁止したりしていることが多いので、投稿者に守ってもらうしかない。ちゃんとタグが付いていれば検索除けAI絵をはじくことができる。

反AI活動の問題点

著作権遵守に関する意識の低さの問題

生成AIに対する大きな論点の1つとして著作権の侵をしているというが挙げられるが、当の反AI層が著作権の侵を堂々と行っている点が批判されている。特に有名なのは反AI活動における政治行動を行っている「クリエイターAI未来を考える会」が2023年4月NHK記者会見を開き、生成AIに対する問題点をしたが、その発表を行った理事がその日の内に「ぼっち・ざ・ろっく」などガイドライン二次創作を禁止している作品の二次創作お金稼ぎをしていたことが発覚・・・ではなく隠さずに堂々と行っていたとして炎上したexit。この炎上により、生成AIに対して批判が大半であったネット世論に変化が起こったとという見方ができる。

その後も次々と反AI層の中心人物がガイドライン無視二次創作イラスト同人グッズで金稼ぎを行っていることが発覚する。特に反AI層のな活動拠点とされるエックス(旧Twitter)では、自分は他人の著作物でアイコンを設定し、漫画コマなど他人の作品を無断転載しながら生成AI批判する事は日常的に行われており、反AI層に否定的な人物から著作権に対する意識の低さや知識のさを摘されることがある。また後述のAIイラストかどうか判定すると謳うサービスHIVE」が「ある絵がAI製である」という根拠としてしばし利用されるのだが、他人のイラスト読み込ませる規約違反行為である。しかしこれもAIイラスト批判のためという大義名分のもとに横行しており、この点も批判されやすい。

また、反AI層による適法では二次創作を賛美し、適法に行われている生成AI開発や利用を非難するといった、いわばダブルスタンダードとも形容できる姿勢が批判の的となることもある。

著作権法に対する理解が進んでいない問題

生成AIを語る上で著作権法第30条の4 著作物に表現された思想又は感情の享受を的としない利用は一大論点になっているが、そもそも反AIは著作権法に対する基礎知識のさが度々露呈している。

前述の通りアイデア(作・画)は著作物には含まれない。著作権法律に定められた著作物の利用行為を対にした権利(支分権)しかく、そこには機械学習を禁止する権利はい。著作権は依拠性と類似性を基準に判断する。著作権法には特別な場合に著作物を断で利用することが認められている権利制限規定が存在する。など、著作権を語るうえでは必須となる知識を備えていない、もしくは無視してしまう人物が反AIの中には相当数存在する。

そのため、法律や資料の内容に関して、一般的とは言えない解釈をしてしまうことが度々あり、反AI層とそうでない層との衝突の一因となっている。

文化庁は生成AIを機会に著作権法の啓活動を行っているものの、おそらく一番届けたい対と思われる反AI層に効果を発揮しているとはいまだ言い難いのが2024年5月現在の実情である。
令和5年度 著作権セミナー「A I と著作権」exit

AI技術に対する理解が進んでいない問題

反AI層には、画像生成AIを既存の膨大なイラストを切り貼りコラージュして作成しているとしている者が存在する。これはおおよそ特徴表現学習を用いたディープラーニング技術の知識を知るものからするとありえないであることが分かる。また、反AIの中にはデータセットの画像を学習済みモデル圧縮して保存し合成しているともしている者もいるが、億単位の枚数の画像をたった数GB数十GBファイル圧縮して保存するといった数字すら無視したトンデモ技術はいまだ存在していない。

このことについて文化庁は資料で「生成 AI では、入された示を情報解析し得られた結果と、その生成 AI が学習したパターンルール、傾向等に基づき、生成物を生成することとなる。」と記載して続けて「生成AIについて通常、学習データの切り貼りによって生成を行うものではないとされる。」とダメ出しをしている。(なおこの時例にあげたのは大規模言語モデルだが生成AI一般の技術である。)
[1]

反AI層は生成AIに否定的なネットニュースや反AI仲間との情報共有で偏った知識を身に付けており、いわゆる「エコーチェンバー」という状態に陥ってしまっていることが現状から推測される。

クリエイターなど個人への攻撃、魔女狩り。

反AI層はクリエイター保護やクリエイター未来を大義名分に掲げてAI規制を訴えているが、AIを利用・肯定的な既存のクリエイターを対に攻撃することがある。

特に、「絵がそれっぽい」だけでAI認定されてしまい批判されてしまう、通称魔女狩りと言われる問題がある。代表的なのは2023年夏コミスレイヤーズキャラクターデザインを担当したあらいずみるい氏がイラスト表した際に、生成AIを使用したとして反AIが攻撃した事例がある。あらいずみ氏は炎上後すぐに制作過程を公表し、一般的には炎上は収束した。exitしかしながら、反AI層の一部はそれは捏造だと拠もく断定。現在でも生成AIを使用したとして疑っている。あらいずみるい氏は一時代を築いたといっても過言でないほどの大御所クリエイターであり、クリエイター保護を掲げる反AIの活動と大きな矛盾が生じた。この事件をきっかけに反AI層は大義名分を失くし、クリエイターリスペクトしているAI反対からのを失い、反AIの所業に対する非難が日に日に多くなった(ニコニコ大百科の一部記事のコメント欄では、当初画像生成AIに対して否定的な意見が多数だったがこの事件をきっかけに反AIに反発する人が多くなる。)。

これ以外でもジャケットAIイラストを用いたゆずSunoAIを用いて音楽を披露した尾田栄一郎氏、漫画「画AI」をSNS上に開した樺ユキ氏、アルバムAIイラストを使ったゴールデンボンバー、自分の絵を追加学習した宮島礼吏、画像生成AIで交流していたすがやみつる氏など著名なクリエイターが次々と反AI層の攻撃対となっている。

さらに反AI層は日本漫画家協会とも対立し、理事や役員クラス大御所漫画家達(里中満智子・森川ジョージ島本和彦小沢高広)についても次々と中傷を行った事例も存在する。

また、画像生成AIに少しでも寛容な態度を取ったり、肯定しただけで中傷する事例が多々発生している。例えば漫画家出身の参議院議員である赤松健氏に対しては、氏が生成AIに対してクリエイターインセンティブを与えるべきと提案を行ったところ、生成AIを全面規制する気がないクリエイターの裏切り者として攻撃した。同様に表現規制に反対し、クリエイターの味方として活動している山田太郎議員にも反AI層は同じような仕打ちを行った。サービス内での生成AI利用を禁止しているはずのskeb運営さえも、生成AIに関して強く反対しなければ非難の対とした。

それ以外でも、多くの絵師クリエイターAI利用AI肯定AI疑惑等で反AIに一方的に絡まれリンチの対にされる事態が度々起こっている。

なお、当のAI絵師は堂々とAIイラスト名乗りAIイラストと明記して作品を発表している。AI製であることを理由に批判を受けることがあるものの、ほとんどの場合反AI層とは縁の場で活動できている。反AIがに攻撃対にして満足するのは名のAI絵師ではく、既存の手描き絵師大御所クリエイターたちである。

生成AI推進企業などに対するキャンセルカルチャー

反AIによるAI推進企業などに対するクレームキャンセルカルチャーも多発している。
[2]

反AI層は過去mimicクリスタアイビスペイントなどのツールサービスについて、クレームや関係者への誹謗中傷の対としている。その結果生成AIの導入を断念するなど、をもたらしたと推測できる事例がある。また同じく、集英社グラビア雑誌「さつきあい」や武蔵野AI美術大学AI絵画アワード海上保安庁ポスタークレーム脅迫、関係者への誹謗中傷によって撤回させている。極めつけは生成AIを使用した朗読劇「AI朗読AIラブコメ」に対し批判的なクレーム500件送り中止に追い込むことで1000万円の損失額を出している。AIを用いたイラスト制作者「おしつじ」氏とローソンプリントがコラボしたプロマイド企画も、以前にも別のAIイラスト制作者と同様の企画が存在したにもかかわらず販売停止になる事例がある。

[3]

ローソンプリント、AIイラストのブロマイド発売→1日もたたず販売停止に 理由は「制作者と協議の結果」exit

このように反AIによる企業などに対するキャンセルカルチャーが続いており、企業の生成AI活用の大きなリスクになっている。

生成AI推進企業に対する不買運動とその態度への矛盾

上記のように反AIは生成AI全否定しており、スシローコカ・コーラマクドナルドなどの企業が生成AI活用したら不買運動を繰り広げている。しかし、なぜか肝心の生成AIそのものを開発する企業に対しては特に行動を起こさない。マイクロソフトグーグルアップルアマゾン等の巨大IT企業が生成AI開発し、自社の製品サービスに導入している事実があるが、それらの企業ツールは使わないと宣言する反AIは確認されていない。

特に反AIのな活動拠点であるエックス(旧Twitter)については生成AIの第一人者の1人でもあるイーロン・マスク氏が買収し、利用規約で投稿した物はエックス社のAI開発のための機会学習に使用されていると明記されている。それに同意してエックスを使用しているのにもかかわらず、生成AIに対して自身の作品が学習されることは絶対反対とし、矛盾した態度を取っている人が多く存在している。そして生成AIGrokが開発され、エックス課金した人が使用できる形でSNSシステムに組み込まれ、AI画像生成機がある。つまり、エックスを利用することは生成AIを利用していることとほぼ同義であるが、反AI層はエックスから離れようとしていない。正確には何かしらのタイミングで生成AIに関する事で有利な規約に気づいて他のSNSへの移住する呼びかけを行うも、呼びかけを行った本人も含めて大規模に移住した跡は見られず、何かしらの言い訳をしてエックスに残留する騒動が度々みられる。巨大企業ではないアイビスペイント等には生成AIを搭載する際生成AIを使用しないという選択肢がとれるにもかかわらず、撤回しろと炎上を起こしたがエックスにはそのような行動が観測されない。

表現規制派との結託、呼び水

反AIはAIによる生成物の規制を訴え、AI生成による表現物を弾圧している様子から、ある意味での表現規制と言える。

特定の表現に対してどのような物であれ規制する。という考えは創作界隈が長年戦ってきた表現規制と相性がよく、彼らの兵になるのでは?と危惧されている。特に有名なのは生成AI規制める署名の中に「AI生成物のみ著作権侵害の非親告罪化が存在する。AI生成物のみとしているが現在の技術で手描きAI生成を全に判別することはできず、事実上すべての創作物に関して著作権侵害の非親告罪化を招く恐れがある。これが実現されれば二次創作はもちろん、創作全体が死滅する恐れがあるとして批判された。[4]その他に批判を受けたのは上記の「クリエイターAI未来を考える会」の行動であり、炎上の後活動を休止していたように思われていたものの、面下で政治家と対談していたことが発覚。対談相手の中には非実在児童ポルノアニメ漫画の単純所持の規制す「矯会」のメンバーや全フェミニスト議員連盟の議員が含まれており、反AIが表現規制の足掛かりになるのではと警されている。なお、当の反AIは矯会の存在を知らず、何が問題かは理解していなかったことが確認されている。

※余談ではあるが矯会はどういった組織か。本部はアメリカにあるキリスト教系組織の日本支部であり、その歴史は古い。紀を乱すと認定したものを法で規制させる事を的とした政治団体であり、有名な成果(歴史上の汚点)は禁酒法である。

文化庁のパブコメに対する暴言

生成AIについて何も全くの議論がなされていないわけではなく、文化庁著作権AIという分科会を度々開催して議論している。その中で一般からの意見を募集するパブリックコメント(以下パブコメ)が実施された。反AI層は自分達の意見を政府に届けるチャンスだと考え、コミュニティ内での呼びかけの結果25000通という大量のパブコメが送ることになった(ちなみにこの時点ですでに1回実施されているが、大きく話題になることはなかった。)。この数を根拠に、生成AI社会的に批判されていると反AI層はしていたものの、文化庁パブコメの内容を開したところ、かなりの数の意見が募集要項に沿っていないものであることが発覚。そもそも議題の資料すら見ているかも分からない罵詈雑言、生成AIに対するすら含まれており、パブコメを成果と誇るはトーンダウンしてしまった。なおこのパブコメに対する文化庁の所感の中に「知識基盤のレベル合わせができていない」 [5] というフレーズがあり、パブコメのまとめとして徴的な言葉となっている。(この「知識基盤のレベル合わせができていない」は先行で文化議会著作権分科会(第69回)を傍聴していた者の伝聞であり、後に掲載された議事内容でこの発言は厳密には「なかなか知識基盤というんですか、このレベル合わせができていないというところもございました。」という内容であることは補足しておく。) [6][7]

生成AI反対の主張のブレ

反AI層の大半は画像生成AIに反対しているが、例外が複数存在しStable diffusion1.5を内蔵した機械学習妨用の画像生成AI(Glaze,Mist,Nightshade)は使用を推奨している。また反AI層の中でも「MYイマジナリメーカー」や「AIピカソ」などを使用し、マリオピカチュウを始めとする既存のキャラクターの侵物を自ら意図的に生成し、ネット上にアップロードして画像生成AIの権利侵ネガティブキャンペーンをすることは否定されていない。

またイラスト以外の創作は軽視する傾向が見られる。特に有名なのは翻訳方面であり、機械翻訳によって英語等をPCですぐ翻訳できるのは生成AIのおかげだという摘は「言語は著作物ではい」(実際は著作権法第十条の著作物の例示に「言語の著作物」というものがある。)翻訳著作権は存在しない」(実際は著作権法第27条で著作権(支分権)の1つに翻訳権が存在する)だから自分が使用しても問題はないという跋扈しており他の界隈から顰蹙を買っている。なお機械翻訳で高いシェアを誇るGoogle翻訳DeepL翻訳は、両サービスともネット上のデータクローリングして集め断で機械学習に使っていることを明記している。exit一方で『魔法使いの嫁』の作者ヤマザキコレ氏が最新のAIマンガ翻訳技術「Mantra Engine」を自身のマンガ活用したところ、反AI層が攻撃の対にしたことがある。[8]

反AI層の中には画像生成AIと違ってChatGPTなど大規模言語モデルを許容し文章生成で活用しているものも多いが、前述の通り朗読劇「AI朗読AIラブコメ」に関しては文章生成AIの利用を非難しており、芥川賞受賞者がChatGPTを駆使して作品を執筆したことをいた例もある。[9]

このように反AI層の生成AI活用への反対のは一貫しておらず、その時々でブレて異なり、どの生成AIをどのように活用することに判定しているのか明確に定まっていないとされる。

その他の分野でのAIに対するネガティブな反応

動画、声関係

AIの学習を阻害するツール及びAI画像と判定するツールについて

生成AIの登場で、自分が見ているイラストAIイラストかどうか?または自分の絵を学習されたくないのというニーズが絵師達の間で広まった。そのニーズに応えたのか、イラストAIイラストか判定するツール、またはAI学習を阻するツールサービス開発された。前者は「HIVE」後者は「Glaze」「nightshade」が該当する。また、サービスでは「emamori」「アイビスペイントの学習阻(有料)」が存在する。

HIVE

HIVEとはHIVE社が開発したクラウドベースAIサービスの一つであり、画像をAIかどうかを判定する技術であり、手描きと偽るAIイラストを看破するために反AIが重宝していた・・・・が、すでに記述したようにそもそもこのサービス自体が生成AI技術を用いたものであり、生成AIとは違法なデータセットを利用ているので使うべきではないというをすればこのサービスを利用すると自分のその違法なデータセットを利用しているというダブスタが発生してしまう。そうでなくてもそもそもHIVEの精度がいい加減なものであり、手描きAIイラストと誤認する。イラストを90度回転しただけでAIイラスト手描きと認識する。などいい加減なものであった。そもそも生成AIに反対しているのに生成AIが判断した結果を盲信するのはおかしいのではないか?という摘もあり、さらにいうと他人のイラスト断でHIVEにかけるのは規約違反となる。当初は歓迎されていたが、上記の問題が多々あり、現在では話題に上がることは少なくなった。

Glaze,nightshade

この二つのツールイラストに効果をかけることによってAI学習を阻、誤認させる機となっている。

Glazeは2023年3月頃に開発されたものであり、Glazeは学習された結果にノイズをかけることにより、学習結果を阻するシステムである。nightshadeは2023年10月頃に登場しており、学習した結果そのものを誤認させて全く別の物に学習させて最終的にはモデルデータそのものを破壊する。「」と表現されるシステムとなっている。これらのツール活用すれは絵師AIからの学習の恐怖から解放され、それどころかnightshadeのを用いてAI毎破壊される事を期待されていた。

・・・しかしながら発表当初から検証では効果があるとされるが実際は学習阻結果に効果がないと度々報告され、現実としてこれらのツールを使ってAI学習の阻全に成功した絵師というのは確認されておらず、nightshadeのによって破壊された生成AIも確認されていない。そして、これらのツールが登場してAIイラスト作成者側に環境の変化があったという事例も同じく確認されていない。

そしてこれらのツールの欠点として、利用するにはそれなりのスペックを持つPCが必要であり、効果を付与するのにも時間を要する。そして、何より効果がかかったイラストにはうっすらとノイズがかかったようなエフェクトが発生してしまい、自身のイラストの価値を毀損してしまうデメリットが存在する。emamoriやアイビスペイントの有料機を利用すればスペックが必要なPCはいらないものの、それでもノイズイラストに発生する問題は避けられない。

学習阻害ツール使用における注意事項

文化庁表した資料「AI 時代の知的財産権検討会 中間とりまとめ (案)exit」の41pに「AI関連事業者の業務を妨することを的とした悪質な行為については、電子計算機損壊等業務妨害罪刑法234条の2)等の刑事罰の対となる可性もあり得ることには留意する必要がある。」とある。どのような行為が悪質と判断されるかは個別に裁判で判断する案件である以上、ここでは断定はしない。

Glaze及びNightshadeの合法性については、「複数の弁護士に確認した」と公式より発言がある。但し(恐らく)アメリカ弁護士のみであり、日本国内での合法性は確認されていない。また、上記資料や素案の見解は内法の専門弁護士が複数名確認したうえで発表されている事には留意したい。

関連項目

脚注

  1. *令和6年3月 15 日文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」exit
  2. *「この絵、生成AI使ってますよね?」──“生成AIキャンセルカルチャー”は現代の魔女狩りなのか 企業が採るべき対策を考えるexit
  3. *「AI脚本」を人気声優が朗読…銘打ったイベントは中止、「盗作」と批判相次ぎexit
  4. *署名「画像生成AIからクリエイターを守ろう」が賛同1万件間近に 「AI生成物のみ非親告罪に」などを主張exit
  5. *政府、生成AI推進に向けて議論を加速exit
  6. *文化審議会著作権分科会(第69回)(第23期第2回)exit
  7. *文化審議会著作権分科会法制度小委員会(第7回)exit
  8. *マンガ『魔法使いの嫁』新章、AIマンガ翻訳クラウド『Mantra Engine』により日英2言語で同時連載スタートexit
  9. *芥川賞作「ChatGPTなど駆使」「5%は生成AIの文章そのまま」 九段理江さん「東京都同情塔」exit
  10. *「AIと共存すべき」人気声優・梶裕貴 自身の声で自由にしゃべれるAIソフト発売へ 「たくさん悩んで」決断exit
この記事を編集する

掲示板

おすすめトレンド

ニコニ広告で宣伝された記事

記事と一緒に動画もおすすめ!
もっと見る

急上昇ワード改

最終更新:2024/11/01(金) 07:00

ほめられた記事

最終更新:2024/11/01(金) 07:00

ウォッチリストに追加しました!

すでにウォッチリストに
入っています。

OK

追加に失敗しました。

OK

追加にはログインが必要です。

           

ほめた!

すでにほめています。

すでにほめています。

ほめるを取消しました。

OK

ほめるに失敗しました。

OK

ほめるの取消しに失敗しました。

OK

ほめるにはログインが必要です。

タグ編集にはログインが必要です。

タグ編集には利用規約の同意が必要です。

TOP