前回からの続き。
五人の遭難者を書いた経緯とか動機とか。

イラストレーター界隈が生成AIのことで騒がしくなっていることには去年の半ばには気付いていたのですが、「おや?」と思ったきっかけは芥川賞受賞の九段理江氏の会見ニュースに寄せた福井健策氏のコメントでした。
Yahooの記事は現在なぜか削除されているので同じ内容のライブドアニュースのリンクを貼っておきます。

問題になったのは福井氏のポストのツリーふたつめの発言「既にアシスタント不足に悩む漫画では背景の下絵に生成AIを使うことは一般化しつつあり」です。
複数の漫画家から「そんな事実はない、少なくとも自分は背景の下絵に生成AIを使うなんてありえないし、周りでも聞かない」という意見が相次ぎ、福井氏は発言を取り下げました(ツリーの最下部参照)。
この発言が物議を醸してゆく経緯の中で「福井はAI推進派の赤松の仲間なので、既成事実を作り上げて著作権の解釈を捻じ曲げ、クリエイターの搾取装置であるAIの利用を推し進めるつもりなのだ」というニュアンスの言説が散見されたことに私は危機感を覚えました。
なぜこのような陰謀論めいた、対立を煽る意見がSNS内で盛り上がっているのか?

確かに福井氏は参議院議員となった赤松氏との関りが深く、内閣知財本部や文化庁で理事だったりするので『政府側』の人間です。
そして赤松氏も文化庁もクールジャパン戦略の一環として積極的な生成AIの活用を掲げています。
また漫画制作過程において生成AIを利用する漫画家さんは皆無というわけではなく、とくに彼らの周辺では人口比率がやや多い可能性もあることは、相互フォロー等を辿ってみるとわかります。

つまりみんな同じ穴の狢、生成AIに慎重な人にとっては確かにそう思えなくはないかもしれません。
しかしながら、それにしたって福井氏のポストに対する一部のアレルギー的拒否反応・反発反感は異様なレベルに私には思えました。
生成AI規制派の中にはいまや生成AIに肯定的な意見を見ただけで「つまりこいつはAI推進派!つまり敵だ!」と認識したり、日常の中で他人のイラストを目にするだけでも「実はこれAI絵なのでは?」と疑ってしまい世界に失望したりする人が現れているようです。
まるで潔癖症です。
藝大の卒展で発表されたAIと共に制作されたアニメ(KALINさん作)を指して「藝大は倫理観がない」だの「盗品」だの言うのはさすがに誹謗中傷の類だと私は思うのですが、そういう極端な発言をすごい勢いで量産している人がいます。

生成AI利用には不安を感じるに足る要素があるのは事実です。
私がぱっと思いつくのはMidjourneyの学習元が非公開だとか個人情報や実在児童の虐待記録物が含まれていたという話や、ChatGPTはユーザーの入力内容も学習すること、LoRAやimage2imageの悪用あたり(プロンプトのためのタグ付けは著作者人格権の同一性保持権への侵害という主張もありました。私自身は自分の作品が改変されることには寛容なつもりですが、嫌な人もいるだろうと思うので気にはなりました)。
去年の初め頃から他人の作品を無断でLoRAして出力した生成物をファンアートと称して学習元の創作者に送りつけたり、なりすまして活動したりする人、他人の作品を集めた集中学習用データセットを配布する人などが現れ、とくにSNSを活動の中心に据えてスケブの依頼などで仕事をしているクリエイターの中には被害に遭った人も少なからずいて、噂を耳にして生成AIに対し警戒感が強まっている人も多い状況でした。
その頃からXのプロフィール欄に「AI学習禁止!」と書いている絵師アカウントが目立ち始めたのは私も目にしていました。
だからそういう状況で『著作権に詳しい弁護士(少なくとも私は彼をそう認識しています)』である福井氏があのような発言をすると、生成AIを全く使わない人が疎外感を覚えたり、あるいは生成AIに嫌悪感を持っている人・生成AIによるなりすまし等の被害に遭った人が反発を覚えたり不信感を増幅させるのは当然と言えば当然でした。

しかしそれにしても酷いです。
芦原妃名子先生の自死に際しての赤松氏のポストにも彼が生成AI推進であることに絡めて「同様の事件が生成AIがらみでも起きるであることは容易に予測できるにもかかわらず、クリエイターの陳情を苦情と切り捨てたあなたが創作者の味方面をするな」という趣旨の引用ポストを複数見ました。
たった二年弱でこんなにも生成AIについてYesかNoかを迫る戦争状態に突入していたとは驚きでした。

まあたぶん現在「AIと著作権に関する考え方について(素案)」に関する文化庁パブコメ(2月12日締め切り)の募集が行われているので政治的『こうどなじょうほうせん』が盛んなのだと思うのですが。
ひょっとして福井氏は議論を活発化させるためにあえて刺激的な発言をしたのかな?って、さすがにそれはなろう系勘違いに毒され過ぎですかねw
それにしても、これは安保反対運動の時にも思ったことなんですが、なんらかの分野において社会を動かしたいなら、相反する意見や行動・主義思想に見える相手に対してこそ常に礼儀正しく、決して怒らず、品行旺盛に振る舞ったほうがいいです。
理由はそうしないとその勢力の社会での信用が育たないからです。
すぐ他人を罵ったり非難したり悪者扱いする人なんて信用されませんよね(あとやたらと被害者感情をさらけ出す人も)。信用のない人の主張は当然信用されません。
日本でフェミニズムが普及しないのはこれが原因なんですよ。
私は生成AIを今後さらに高度に安全に活用していきたいがゆえに何らかの新しいルールや規制が必要だと考えている人間なので、このまま一部の生成AI規制派がヒステリックな言動を繰り返し続けていたら、健全かつ建設的な議論・問題提起がなされずに現状の(彼ら曰くの)『問題ある生成AI』がむしろ普及してしまうのではないかと心配しています。

たぶんこの分断をあぶり出した最初の犯人は、生成AIが出回り始めた時期に特定の絵師の作品をLoRAして贋作を公開したり、image2imageで改変したり、それらの行為によって元の作品の制作者、ひいては人間の手による創造の価値を(結果的にでも)否定したり馬鹿にした人(AI絵師)たちです。
彼らはインターネットに創作物を公開することへの不安を創作界隈に蔓延らせました。

その行為は確かに悪です。
しかし生成AIがなかったらこんなことは起きなかったのかというと、全くそんなことはありません。
その手法は生成AIが出回るよりずっと以前から存在していました。
私は彼らと同じ活動をしていた悪人を2011年、今から13年前にすでに知っています。
その名はカオス*ラウンジ。
おそらくいまAI絵師とその仲間からの嫌がらせやなりすましの被害に遭っている創作者さんたちは、その頃まだ子供だったのではないかと思います。

彼らは他人の作品をコーラジュしたり汚したりしたものを、自分たちの作品として発表し、足で踏んだりしていました。
今のAI絵師のやっていることは彼らと同じ、量産型劣化版と言ってもいいと思います。
たぶん生成AIがあればそのハードルが低くなって誰でもその悪事を働けるようになって、しかも量とスピードが段違いっていう話になると思うんですけど、なんていうか私に言わせればアート業界なんてもともと殺人鬼が跋扈してる世界だし、殺人鬼ランキングでいうなら瑞島フェレリはカオス*ラウンジより小物だと思うんですよね……

個人的に思うのですが、AI絵師に嫌がらせされているという話は威力業務妨害的なやつで告訴すればいいんじゃないでしょうか。
生成AIで無断LoRAされて著作権を侵害されているって話しても警察はどうせAIとかわかんないのでは(偏見)。
「勝手にめっちゃ酷似な贋作を作って自分を名乗っている輩がいて損害が出ている」ってアプローチで相談しないと警察わかってくれない気がします。
だいたい他のあらゆるケースでも「専門家に相談したけど、警察に行ったけど、駄目でした……」みたいになってるやつは、価値観の違う相手に情で訴えたんだろうなあって感じる話し方をしている人が多くて、生成AIがらみの個人被害もそれと同じ雰囲気がします。

創作物を発表する・それを使って社会活動や経済活動をする際にはトラブルを色々想定し、どう対処するかをある程度あらかじめ決めておくべきです。
アマチュアで趣味で絵を描いている人でも、そんなことまで考えながら創作発表しなければならないなんて面倒過ぎると感じるかもしれませんが、自分の作品を大切に思うならある程度考えておいた方がいいです。
だから法律を学んでおきましょうという話は福井氏もよくしています。
作品を守れるのは作者だけです。
それはこの世界に生成AIがなくとも、創作発表するなら持たねばならぬ矜持と覚悟です。

たぶん13年前にリアルタイムでカオス*ラウンジ騒動を目にした人は、私と同じ矜持と覚悟を持つか持たないか考えたと思います。
個人的に同様の事件に巻き込まれ、同じことを考えた人もいるでしょう。
ところがSNSで創作発表する行為がさらに身近になり、ソシャゲバブル、コミッションプラットフォームやクリエイター支援系プラットフォームなどの普及にしたがいイラストを描く技術を持った人が商業に参入するハードルが下がると、クライアントとトラブルになったり変な人間に粘着されたりするケースを目にすることが増えてきました。
そういう話を目にするたび、彼ら『好きを仕事にする♪』みたいなキラキラなコマーシャルに騙されて安易に商業参戦したんじゃないか?と私には思えてなりませんでした。
資本主義の根幹は搾取構造であることに気付いていなくて、自分の作品を好きだと言ってくる人を全員自分の作品にリスペクトがある人達だと信じている感じ。
なんなら自分の作品を大事にする気持ちはみんな普通に理解してくれるとでも思っている感じ。
ちょっとお花畑すぎるというか。

エミリーはこの辺りの被害者たちをイメージしています。
彼女は感情(Emotion)を象徴しているのですが、感情に従って行動する人は困った時に適切な対応を選択できないことが多いように見えます。
さらにそれで悲惨な結果になると後悔やショックなどの感情で身動きが取れなくなっていきます。
AI絵師に嫌がらせをされて病んだり生成AI憎しに至った絵師たちもそんな感じ。
ただ好きなお絵描きをしていたかっただけなのに何故……とか言っているのを見るとどうしても、世に作品を公表する覚悟が足りなかったんじゃないかなあと思ってしまいます。

適切に相談しないと弁護士は相手してくれないし、警察も動いてくれません。
著作権の話でその被害を訴えようとするよりも、とにかくAI絵師の吊し上げをまず成功させて、敵に「あ、このやり方でこの業界食い物にするのリスク高いな」って思わせたほうが効率いいような。
AI絵師とか言ってるけど彼らはようは情弱を獲物にしているただの詐欺師であって、武器が包丁から拳銃になっただけ。
拳銃規制しても彼らのやることは変わらないですよ。

ここまでは創作者側からの私のお気持ちでした。
次は創作を愛する者としての考え。

カオス*ラウンジはたぶん現在も活動を続けています。
まあ元代表の黒瀬氏はパワハラ・セクハラで訴訟されたりしているので、業界での評価がどうなっているのかというのはありますが、当時のメンバー全員が社会的に死んだというわけではいないようです。
同様にAI絵師も今日も元気に活動中で、いっぽうでターゲットにされたクリエイターさんは筆を折ったり精神を病んで、自死を考えるところまでいっている人もいます。
この現象に対して無力を感じている・なんとかしたいと強く思っているのは、実はクリエイターというよりはファン層なのではないでしょうか。
私もカオス*ラウンジに直接何かされたわけでもないけど13年前に無力を感じました。
だから他人の創作物を玩具にして遊んでいるAI絵師を憎む人の気持ち自体はわかるつもりです。
才能ある人が潰れていって、それを見ながら贋作コピー生産者が笑ってる。こんな世の中絶対間違ってる。大好きなクリエイターさんたちが泣き寝入りしなくてすむ世界にしたい。

気持ちはわかるんですけどね。
でも生成AIに少しでも肯定的に見えると判断した発言を見つけては速攻敵認定して絡んだりブロックしたりブロックを誘導したり、それはおかしいでしょ。
現状の生成AIは著作権違反製造装置だとか言って、使ったことがあるというだけで犯罪加担・盗人呼ばわりは誹謗中傷ですから。
あと他人の発言とかイラストとかのスクショを貼り付けてポスト拡散は著作権違反になる恐れがあります。
はては「これはこれの盗作」とか言って、他人の絵をトリミングしたり反転したりしてアップするのは、目的違えどもう完全にAI絵師とやっていることが同じです。
それからそもそもの指摘なのですがXは規約に「当社が収集した情報や一般公開された情報を、機械学習または人工知能モデルのトレーニングに使用することがあります。」と明記しているので、無作為な機械学習に反対しているならまずXの使用をやめるべきでは。
これは絵師さんたちにも思うことですが、プロフィールに「AI学習禁止!」って書いているとAI絵師に積極的に狙われる確率高くなると思います。
彼らは自分の行動が人にダメージを与えているのを見て楽しむ愉快犯らしいじゃないですか。
だったらより強くダメージを与えられそうな相手を選ぶはずなので、生成AI憎しをSNSで垂れ流すのは賢明でないです。

まあなんというか、Xで生成AI規制を訴えている人の中には正義代行が悪行であることを証明する特大ブーメランさんがいて、彼らはAI絵師と同じかそれ以上に健全な社会の形成にとって害悪でしかないと私は感じています。
自分の正義(Justice)を信じている人は、自分の言っていることは正しいのだから他人を傷つけることはないし、自分の行動によって傷つくのは正しくないからだから、そんな人は傷つけてかまわないみたいなところへ突っ走ってゆく。
ジェーンはそんな彼らをイメージして設定しました。
女性が一人しか登場しない不均衡を修正したかったのと、エミリーに近しい人物だが恋愛対象にはなりえず、保護者的側面を持つが絶対的存在ではない、という設定をつけたかったので姉にしました。
しかしながら三つの物語はそもそも論として、エミリー役が理不尽に切羽詰まった状況で選択を迫られ酷い目に遭うストーリーであり、その役が女性であるところに妙なリアリティがあって悪意的な作りをしているなあと思いました。
そのせいで最終的に救いの手を差し伸べる男が現れてハッピーエンドの様相になるところすら、主体的に幸せを掴めない『女らしさ』がにじみ出て見えるんですよね……
けっこう胸糞ストーリーじゃね?と思った印象をそのまま乗せて改変してみたけど、原作三つに著作権保持者はいるのか?『五人の遭難者』は同一性保持権の侵害になるのか?みたいなことが気になるところもいいテーマになるような気がしたり。

それはそうと話を戻すと『五人の遭難者』においてはジェーンの行動は私はそこまで悪いとは思わなかったりします。
闇堕ち百合姉妹かわいいよね……じゃなくて、あの状況では彼女たちは法を頼れないからです。
つまり生成AI規制を訴える人たちが過激になっているのは、日本の法治を信じられなくなっているからなのかもしれません。
まあ文化庁の「AIと著作権に関する考え方について(素案)」が生成AIに問題を感じている人の逆鱗に触れまくる表現をしていますからね……さもありなん……
でもSNS上でAIイラストを探して回る『自治』はやめたほうがいいんじゃないかなあと思います。いつか名誉棄損で訴えられると思う。
あと「怒ったり敵意を丸出しにしてもいいことないよ」っていう忠告する人を「中立気取りの冷笑系ムーブうんざり」とか言ってブロック対象にする人もいるみたいだけど、それも味方を増やすことに繋がらないのでやめたほうがいいです。

現実問題として、脱法的に利益を得る方法や人の嫌がることを思いついて実行する人は規制を強化したところで手段を変えるだけで、本質的な行動は変えません。つまりいなくなりません。
AI絵師による嫌がらせ問題に限っては生成AI関係なく以前からあるトラブルで、創作する人たち一人ひとりが意識を高めて餌食になる人を減らしてゆくしか被害を減らす方法はないと思います。
そしてファンがすべきことは、権利者・原作者を応援することであって侵害者を糾弾することではありません。

あと今回のことでなにより感じたのは、生成AIが世界にもたらす危機はそういうところではなくて、ビジネス界のモラル喪失とか大企業への富と権力の集中とかの加速だと思いました。
タイトルの『生成AIは核技術的発明』っていうのはOpenAI内紛劇の背後に「21世紀の優生思想」、EAコミュニティとe/accの危険性というのを読んで思ったことで、でもそこらへんになってくるともう話が大きすぎて政府とか国連レベルでも動かせるかどうか微妙だし、そも資本主義の根幹が搾取(再掲)なのでどうしようもない感。
もちろんだから諦めろとか言うつもりはないけども、少なくとも「目の前の社会との多少の摩擦は重要性が低いことであり、自分たちが長期的に成し遂げようとしているイノベーションの価値が優先されると考えている」イーロン・マスクが私物化しているX内で相反するお気持ちを表明して共感集めても、結局彼が用意してくれた箱の中でしか暮らせない雑魚であることを自ら証明しているようにしか見えないので、EAやe/accの追従者であるAI推進派から冷笑されるのは当たり前でしかないわけですよ。

はあ……私もくそでか感情を抑えきれずお気持ちをグダグダ書きすぎましたね……
まあとにかく社会活動するなら第三者から見て「うわあ……」って思われるような言動は控えたほうがいいと思うんだけどな、という話でした。
SNSは下馬評を書く匿名掲示板ではなく社交場なので。