生成AIで作成したわいせつ画像 販売した疑い 4人逮捕 全国初摘発 警視庁 | NHK | 生成AI・人工知能
https://www3.nhk.or.jp/news/html/20250415/k10014779551000.html2025年4月15日 11時51分
生成AIを使って作成したわいせつな画像をインターネットのオークションサイトで販売したとして、警視庁は20代から50代の4人を逮捕しました。作成されたのは実在しない成人女性の画像で、警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。
逮捕されたのは、愛知県に住む小売業の水谷智浩容疑者（44）や、埼玉県に住む会社員の菅沼貴司容疑者（53）ら20代から50代の合わせて4人です。
警視庁によりますと、4人はそれぞれ去年10月、生成AIを使って作成した女性のわいせつな画像をポスターにして、インターネットのオークションサイトで複数回販売した疑いが持たれています。
無料で提供されている生成AIのソフトに、ネット上にある大量の画像を学習させたうえで、「脚を開く」などとポーズを指示することで、実在しない成人女性の裸に見える画像を作成していたとみられています。
ポスターは、「AI美女」などとうたって1枚数千円で販売され、水谷容疑者は、およそ1年間で1000万円余りを売り上げていたということです。
調べに対し、いずれも行為を認め、このうち水谷容疑者は、「ポスター販売は利益率が高いと知って始めた」などと供述し、菅沼容疑者は、「ポスター販売を事業の1つにしようと思い、作成方法は独学で学んだ」などと供述しているということです。
「ディープフェイク」と呼ばれるAIを使った技術で作成した実在する人物や架空の人物の性的な画像がネット上に氾濫しているとして課題となっていますが、警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。
城内科技相「既存の法令にのっとり適正に対処されるべき」
城内科学技術担当大臣は、閣議のあとの記者会見で「悪意を持ったAIの活用は望ましくない行為で、既存の法令にのっとり適正に対処されるべきだ。今の国会に提出しているAIの活用などに関する法案では、司令塔機能を強化し、内閣府が関連する情報の収集や調査などを実施することとしており、政府全体で課題に迅速かつ着実に対応したい」と述べました。- ガチ詳しい人に聞きたいんだけど、
AIの発達によって地方の中小サッシ製造会社の仕事減る？潰れる？ - サッシより儲かりそうだな
- アイコラも最後の方は無駄にすげえ職人たちが作品作ってたけど
AIだと余裕でできるわな - >>4
ごく稀に本当に凄い技術の人おったね - 画像も貼らずに
- AI顔が同じできもい
- >>6
逮捕されてると言う事は恐らく実在の人物の画像を加工した物 - 最近はAIモデルのAVまで発売されてる
体は本物の女性だが
顔はAIで別人 - え？何罪なん
- 実在する人物使ったのはアウトなの分かるが架空は何がダメなん？
- >>9
学習データの元になった人物がいるからじゃないかな？
そっち方面で捕まえてそう - >>9
単純に局部が写ってたんじゃないの？ - >>9
漫画でもチ●コ・マ●コをリアルに描いたらわいせつ物頒布等の罪にあたるでそ - >>9
まーんにモザイクかけてないと、実在・非実在とは無関係に罪に問われる
10年ぐらい前にコミックメガストアが漫画の消しが甘くて逮捕されてたよね - どうせ氷河期のしわざだろ
4ねよゴミ氷河期 - 石破がトランプのイチモツをフェラしてたのとかマジキモかった
- ショバを荒らすと捕まるやつ
謎の業界団体がそのうちできるよｗ - >>13
AIアダルト監視委員会 みたいなのやりそうだなw - いうほど罪あるか？
- わいせつポスターの使い道が分からん
部屋に貼るんか？ - AIが勝手に売りますた
- インスタとかにAIで作った美女あげてるアカウントとか無数にあるし、5ちゃんにもそういうスレいっぱいあるけど、まだギリ「あ、これAIかな」って分かるレベル
そんなのも時間の問題だし取り締まりは難しそうだな - >>18
問題はAIってとこじゃない - わいせつ物やから
普通に何もかも丸出しやったんやろ - AI擁護派「AIは悪くない、モロだししたのが悪かっただけ」
みたいな謎擁護コメントをSNSでやたら見るけど
生成AIで問題視されてるのは使うやつの民度だからなんの擁護にもなってなくない？ - モザイク加工の画像だったら捕まらなかったんだろ
売れないけど - ただの絵じゃん
- 何の罪なん？
- >>24
えっちなイラストを作って股間を膨張させた罪
Co2を増加させた罪 - 生成AIで作成したわいせつ物
って、書いてるし。
- 被疑がはっきり書いてないな
- >>27
わいせつ物って書いてあるやん
ま●こ丸だしだったんやろ - >>27
性器無修正を売ってた - 被害者どこ？？？
- よくわからんがそれがダメならかなり広い範囲でAI使用アウトになりそうだな
- そういやサッシ屋の奴って人間らしいな
botの類かと思ってたｗ - この事件はベタな二次元キャラだったらセーフだったパターンか？
- エ口過ぎてアウトってこと？
モザイクとかあればセーフなのかな - イラストのわいせつ画でも捕まるから
一緒だろ - あれがもろに描いてあったのかな
それと販売は著作権違反かな - ニュースを聞いた限り普通にわいせつ画像販売のようだ
AIに指示してもっと足を開いたポーズを作成させたとか…
逆に考えれば水着程度なら販売は問題の無いように思えた - まーん出すだけで罪とか、女って罪の塊みたいな存在やな
- 1000万か
誰でも作れる画像に金払う人間がいることに驚きだわ - >>42
エ口可のAIは使用料がかかるからな
買う奴もいるよ - しかし、ポスターなんか需要ある？
俺ならデシダルデータでもらった方がいいけどな
ポスター壁に貼ってシコるんか? - バカなのかな
じゃあAV取り締まれよ
いい大人が整合性くらい持て - >>44
FC2PPVは不可思議 - >>55
海外サーバからの配信だから
警察も手を出せない - また、わいせつ物としてオークションサイト側に削除されないようにするため、出品時の画像では、下半身にはモザイク加工されていて、届いた商品はモザイクが外されている状態だったということです。
↑
良心的ともいえる(´∀｀)
- どういうこと？
未成年に売ったとか？
わいせつ物売ってアウトならAVなんて全滅じゃん - >>46
猥褻行為はしてないので - >>46
モザイクかかってるからｾﾌｾﾌ - >>46
オークションサイトに掲載してる商品サンプル画像には（運営側に削除されないように）下半身の局部にモザイク掛けてたんだけど
実際に印刷して発送してたポスターにはモザイク掛けてなかった
わいせつ物頒布で逮捕とかニュースに出てた - 無修正を堂々と販売しちゃダメでしょうよ
- ABEMAとかに出てた人？
- >>49
自分もその番組見た 年収1000万越えてるとか紹介してたからそうなのかも
ちなみに販売してたオークションサイトってヤフオク？ - 買う方も馬鹿だろ
AIに書かせるだけでいいのに - どういう目的で買うのかさっぱりわからんな
まぁ何かに似せてあるんだろうけど - >>53
保存しようと思った画像に肩から乳首生えてたからAI猥褻画像は許さん派 - この４人の中の一人が28の女だけど、きれいだからコイツがモデルになれば良かったのに
- 容疑を書けよ容疑を
- 儲けた分、確定申告してないから捕まったんじゃないかね
- >>57
これやな
ヤクザにみかじめ料払わんと商売したら潰されるってことや - モザイク有りで捕まるのか？ それならavも対象になるが
kさつ天下りの映倫通せと言うことかauctions.yahoo.co.jp/search/search?auccat=26146&tab_ex=commerce&type=all&ei=utf-8&p=ai美女&aq=-1&oq=%5Bobject+Object%5D&haq=0
- 生成AIもサービス提供者から無臭絵を買ってるようなもんだけどな
- 黒線入れてるだけで事実上無修正の同人誌はなぜOKなのか
- >>65
黒閃いれたら修正だろ - 生成AIなんか使うからこうなる
ちゃんと手描きで努力してたら逮捕されなかった
AIなんて使った頭悪い馬鹿には当然の結果 - いやま真面目に捕まるのかｗｗｗ
モザイクがなかったから？ｗｗｗ
どうなのよｗ - 陰部がリアルだからダメだと言うのなら、どこからがラインなんだ
ギャグ漫画レベルならいいのか
記号がアウトなわけないしな - Amazon japan洋ピンのモザイクなしが普通に売ってるよ
アメリカには文句言えないのか - 特定人物のlora作ったんだろうな
個人で楽しむだけにしとけよ… - 若手人気女優や女子アナの画像が欲しいなあ
- 二次絵でも修正済み絵で表示して実際には無修正を送ってたらしい。
コメント