-
2022年12月26日 10時00分 公開
国産AIはなぜ炎上する？ 「mimic」開発元に反省点を聞いた 海外産AIは平常運転、待つのは“日本1人負け”か2022年、画像生成AIが大きな注目を集めた。「Midjourney」など海外産AIの多くは受け入れられた一方、「mimic」や「クリスタ」では炎上し、停止に追い込まれる事態が続いた。なぜこのような事態になってしまったのか？ 画像生成AIと2022年を振り返る。
2022年、画像生成AIが大きな注目を集めた。7月に米Googleの「DALL・E 2」が一般公開され、8月に「Midjourney」「Stable Diffusion」、10月に「NovelAI Diffusion」（NovelAI）が出現し、いずれも大きな反響を集めた。これらはいずれも海外産サービスであるが、国産サービスでも話題になったものがある。それはラディウス・ファイブが開発した「mimic」だ。
ラディウス・ファイブが開発したイラストメーカー開発サービス「mimic」mimicはイラストレーターの個性を反映した絵を無限に生成できるサービスとして、8月29日に公開された。しかし公開直後から「悪用の危険がある」など、イラストレーターを中心に声が上がり、翌30日にはサービス提供を一時停止に。同社はクリエイターに対し謝罪し、11月に機能改修したβ版2.0を公開した。
mimicの炎上を通して、提供元であるラディウス・ファイブは何を感じたのか。同社でAI技術の統括を行う菅原健太COOは「当初の想定を超える反響があった」と当時を振り返る一方、「日本企業はAIサービスを提供しにくい流れになりつつある」と危機感をあらわにする。画像生成AIを取り巻く環境、そして今後AIはクリエイターにどのような影響を与えていくのか。菅原氏に聞いた。
https://www.itmedia.co.jp/news/articles/2212/23/news154.html
-
2022年12月26日 10時00分 公開
国産AIはなぜ炎上する？ 「mimic」開発元に反省点を聞いた 海外産AIは平常運転、待つのは“日本1人負け”か
2022年、画像生成AIが大きな注目を集めた。「Midjourney」など海外産AIの多くは受け入れられた一方、「mimic」や「クリスタ」では炎上し、停止に追い込まれる事態が続いた。なぜこのような事態になってしまったのか？ 画像生成AIと2022年を振り返る。
[松浦立樹，ITmedia]2022年、画像生成AIが大きな注目を集めた。7月に米Googleの「DALL・E 2」が一般公開され、8月に「Midjourney」「Stable Diffusion」、10月に「NovelAI Diffusion」（NovelAI）が出現し、いずれも大きな反響を集めた。これらはいずれも海外産サービスであるが、国産サービスでも話題になったものがある。それはラディウス・ファイブが開発した「mimic」だ。
ラディウス・ファイブが開発したイラストメーカー開発サービス「mimic」mimicはイラストレーターの個性を反映した絵を無限に生成できるサービスとして、8月29日に公開された。しかし公開直後から「悪用の危険がある」など、イラストレーターを中心に声が上がり、翌30日にはサービス提供を一時停止に。同社はクリエイターに対し謝罪し、11月に機能改修したβ版2.0を公開した。
mimicの炎上を通して、提供元であるラディウス・ファイブは何を感じたのか。同社でAI技術の統括を行う菅原健太COOは「当初の想定を超える反響があった」と当時を振り返る一方、「日本企業はAIサービスを提供しにくい流れになりつつある」と危機感をあらわにする。画像生成AIを取り巻く環境、そして今後AIはクリエイターにどのような影響を与えていくのか。菅原氏に聞いた。
ラディウス・ファイブでAI技術の統括を行う菅原健太COO
ネット上の絵師は常に悪意にさらされ続けている菅原氏によると、mimicの企画が始まったのは21年10月頃。同社ではこれまでも、画像の編集加工が行えるAIツール「cre8tiveAI」などを提供していた。その経験から、今度はAI自体をクリエイターに渡すことで新たなイノベーションが起こり、より便利なサービスを作れるのではないかと考えたという。一方、リリースに伴って批判の声が上がることも当初から理解していたという。
しかし、リリース後に上がった批判の意見は同社の想定をはるかに上回る数だった。菅原氏は「ネット上で活動する絵師の人たちは、トレパクや誹謗中傷など常に悪意にさらされ続けるリスクを抱えている。それは理解していたつもりだったが、そこに対して抱えるストレスは想定よりも大きいものだった」と話す。
「これらのストレスは、インターネット上で活動する以上は仕方がないと多くの方が受け入れていると思う。にもかかわらず、さらに『今度はAIに絵を悪用される』ストレスもmimicで与えてしまった。そこに対しての認識が甘かった」と菅原氏。絵師が自身の作品に持つ思い入れを見誤ったことが炎上を招いた一因だったのではないかと省みた。
また、情報の拡散についても想定を超えており、うまくコントロールできなかったことも炎上を招いた要因になったのではないかとも指摘。「リリースしたタイミングではすでにMidjouneyなどのサービスが先行してあり、画像生成の悪用について、臆測が広まっていた印象がある」と当時の状況を振り返る。
実際、mimicでは初期リリースの段階から顔のイラストしか生成できず、透かしが入る仕様になっていた。菅原COOは「それらの情報が正しく広まらなかったことも一因ではないか」とし「イメージとしては切り抜き動画のように、サービス内容の一部分だけが切り抜かれて伝わってしまった。現代のSNS時代ならではの広まり方と感じた」と話す。
mimic初期リリース時のプレスリリースから引用 -
海外産AIの一人勝ち？ 国産AIサービスに迫る危機
mimic以外にも画像生成AIを巡って、炎上した国産サービスがある。セルシスのイラスト作成ソフト「CLIP STUDIO PAINT」（クリスタ）だ。11月末、画像生成AIを利用した作画補助機能を試験導入すると発表していたが、12月には同機能の実装を見送ると発表。ユーザーからの意見を受け、方針転換した。
セルシスに寄せられた意見一方、MidjouneyやStable Diffusionなど海外産サービスに対する批判の声は、これらのサービスほど目立っていない。一部のユーザーからは、著作権侵害の可能性のあるソースを学習に使用していると指摘する声も見られる。特にNovelAIは、著作権法を侵害している疑いのあるWebサイト「Danbooru」を学習元に使っていると公表済みだ。しかし、これら3種類のサービスは12月23日時点で、いまだ提供が続いている。
-
海外でもしてるから
-
>>5
海外でやってるのは資金あつめてロビー活動につかおうとか
サービスからの締め出しやな
AI作ること自体は止められないだろうな -
国産は炎上したら引くから悪い
突っぱねろよ -
>>6
これなプログラム書いてるだけだから覚悟がねえんだよ
サービス運用のメイン盾は別の人にやってもらうとかがいい -
Danbooru側からは「NovelAIとは無関係」という声明も出た国産サービスの炎上と、提供が続く海外産サービス。これらのことから菅原氏は「日本企業が日本のクリエイター、絵師向けに画像生成AIを用いた機能を提供すると、炎上するという傾向になりつつある」と指摘。この流れが続くならば、日本企業はAIサービスを提供しにくくなる可能性があるという。
海外産サービスが大きく炎上しない原因は、言語の違いにあると菅原氏は分析している。「海外産サービスはその概要や利用規約が外国語である場合が多い。それを全て読む人は日本では少数派になる。それらを和訳して発信する場合も、それをやる多くの人が有識者の方で、切り抜きではなく要点をまとめた形で発信するケースが多く炎上しにくいのではないか」
-
AI安倍は出色の出来なのに
-
また、国産と海外産では情報の拡散速度が異なる点にも言及。日本語ならば利用規約の一部を切り抜いたスクリーンショットが拡散しやすいが、海外産で同じことをしても言語を理解できない人には伝わりにくい。SNSにおける情報が広まる速度と届く距離の違いは、サービス提供元の違いによる影響が大きいと説明する。
「このまま日本企業が画像生成AIに手を出しにくい状況が続くと、国産AIサービスは発展せず、その利益は全て海外に流れていく。日本の絵を学習し、海外の企業だけが利益を上げる構図になれば、企業はもちろん絵師にも利益が還元されず、日本の誰もが得をしない状態になる」
この問題を乗り越えるためにはインターネット上でのモラルが上がっていくことが必要不可欠であるという。「大きく上がっていくAIの技術水準に対し、多くの人々のリテラシーも上がっていかなければ、建設的な意見を交わすことは難しい。また著作権法などにも正しい知識を持ち、その上で議論していくことが正しい状態であると思う」と菅原氏は私見を述べる。
その上でまず目指すべきなのは、インターネット上に流れる誤情報を減らすことであるという。「正しい情報を発信しないことは誰にとってもいい状態ではない。気軽に情報発信ができる時代だからこそ、目の前の情報が本当に正しいか判断する能力が必要なのではないか」
-
絵師様のお気持ち表明なんか無視しとけばいいのに
-
日本語で出すからだろ？
英語で出せよ -
人権侵害生成AIを作ってよ
-
国産は騒いで潰して海外はスルーって酷い国民やな(´・ω・`)
-
英語が話せない馬鹿ばっかだから
-
ユーザーなんて無視しろ
-
海外も規制してるけどな
ジャップだけみたいに言うのは間違い -
だから誰も日本でビジネスなんかしなくなるんだよ
-
海外もなんか訴えられて最近聞いたぞ
-
>>20
エコーチェンバーだぞ
海外も意見は割れているが一辺倒って訳でもないし、巨大資本はガンガン加速してる -
Twitterユーザが多い、ってのもこの場合難点の一つなんだな
日本の絵師は海外よりはるかにストレスフルだって話でもあるのね -
昔から狂人の真似とて大路を走らば即ち狂人なりて言うじゃん
猿を真似してたら猿になるのは当然だよね🤣 -
AIでもなんでもないから
-
インターネットお絵描きマンなんか、他人の著作権一番侵害してるゴミ
コイツらのお気持ちなんか無視して頑張って欲しい -
海外でも批判されとるやん
-
>>26
アメ公に忖度してたらアジアで取り残されるで -
>>26
いくら批判されてもGoogleやMETAが画像生成AIに参入してるからこの流れは止められないよ
ラッダイト運動で職人側が勝つことは無いンだわ -
>>35
イラスト制作AIって画像解析AIの副産物であってイラストで一儲けしようなんてバカな理由で開発されてるわけじゃないぞ。
研究してる側にとっては違法になろうと規制されようとどうでも良くて困るのはオープンソースAIと他人の著作物にただ乗りして稼ごうとしてる企業だけ -
ビッグデータというただの個人情報や画像の集まりを理解できないからな
長～いコードを転載が書いたら人間の様に考えるソフトができてると思ってる -
文句言うバカは無視して法律で規制されるまで突っ走れば良いのにな
-
バカが炎上恐れてすぐ撤退するからだぞバカ
-
日本が発展したのって欧米の技術を猿真似して改良した結果だしな
-
CGのレンダリングとかなら炎上しなかった
-
既得権益が日本を潰す
これはどの業界でもそう
利権を突破できるだけの奴がいない -
海外でも反対運動おきてるがな
-
誰が誰を何の罪で訴えるのか考えると裁判やっても勝てそうにないから尚のこと怒りが収まらない
-
1部のバカが騒いでるだけだから無視すりゃいいのにな
-
海外のサービスは止まってないぞ
-
フェアユース規定がない日本においては
刑事民事の責任追及のリスクを回避する行動になりがち -
そらもともと海外が開発したもののうえにサービスおっ被せるもんだから、
そら立場は弱いわけだけどね -
AI手直ししてる絵師は確かに手が早いしクオリティあるけど
人気キャラの二次創作偏ってるのがまだまだ発展途上なことを分からせられる
欲しいのは不人気キャラを再現する力なんだよ
元スレ：https://greta.5ch.net/test/read.cgi/poverty/1672144784
コメント