ブログ記事7件
データセットLAION-5Bを検索できるhaveibeentrained.comがリニューアルオープンしました。CSAM(日本では児童ポルノ)がどの程度削除されたか確認し、完全ではありませんが問題になりそうなイラストや漫画も削除されていることを確認しました。肝心な自分の絵は以前単語と画像で検索して全部オプトアウト(学習対象から除外)したので残っていないと思っていました。しかし念のため再度検索したところ、以前オプトアウトしたのと同じ画像が2件(10枚以上)見つかりました。一度削除した後にまた
毎日新聞社が「子どもを児童ポルノから守る会」の協力を得て2023年7月以降にネット上で画像検索等で調査した結果、保育園、幼稚園、認定こども園等135園のウェブサイトに、水遊び、泥遊び、ボディーペイント、乾布摩擦、内科検診等の園児の体の一部が露出した画像が掲載されていることがわかりました。それ自体は悪質な画像ではありませんが、12園が掲載した画像が海外のポルノサイトなどに転載され、6園が掲載した画像はAIの学習に使われるデータに組み込まれているということです。園児の画像、海外ポルノサイトへの転
NCMEC(全米行方不明・被搾取児童センター)は、報告されたCSAMから被害児童を特定し保護しています。ウエブサイトでCSAMの被害児童の年齢や性別の傾向を見ることができます。CSAMは女児の被害が多い。CSAMの被害児童は思春期前が多い。男児は女児より露骨な虐待やひどい虐待を受ける可能性が高い。CSAMの被害男児の年齢は女児より低く思春期前が多い。オンライン誘拐の被害児童の78%は女児、15%は男児、残りは不明。ChildSexualAbuseMaterialChildpo
スタンフォード大学インターネット観測所の調査報告書にあるCSAMという言葉はChildSexualAbuseMaterial(児童性的虐待画像)の略語です。露骨な性的行為に関与する未成年者を扱ったあらゆる映像描写を含みます。親が子供の水遊びを撮影した映像は該当しません。性的行為ではないからです。米国ではCSAMを発見したらNationalCenterforMissing&ExploitedChildren(NCMEC、全米行方不明・被搾取児童センター)に報告する
昨日LAION-5Bからポルノが見つからなくなったと報告しましたが、検索ワードを変えてnaked、asianを使ったところ年齢不詳ですが少女らしいヌード、成人のヌード、露天風呂の写真が見つかりました。掲載元はポルノサイトです。改善してはいますが、探せばまだポルノが見つかります。またjapan、girlで検索すると、ヌードではありませんが少女と女児の写真が出てきます。japan、womanでは成人女性が出てきます。名前では見つかりませんので、写真を使われたくない方は面倒ですが全部チェックしてオプ
昨晩はパブリックコメントを書いて疲れ果て、今日は復旧したhaveibeentrained.comで気になるコンテンツを検索しました。porn(ポルノ)は成人も含めて検索結果に出なくなりました。漫画やイラストもかなり減っていますが、書店で販売されている単行本や雑誌のカバー(書店のサムネイル他)や色紙や展示などの画像が出る人がいます。イラストレーターも数は減りましたが本のカバーの他に(無断)転載と思われる画像、ファンアート、AI生成物が出ます。掲載元はPinterest、WixMedia、A
LAION-5Bのデータを検索できるhaveibeentrained.comが復旧していました。Spawning|HaveIbeenTrained?SearchforyourworkinpopularAItrainingdatasetshaveibeentrained.com念のために問題になったCSAM、成人のポルノ、差別用語、犯罪者の名前、写真家の名前で検索してみましたが、イラストも含め問題のありそうな画像はほぼ表示されなくなっていました。病院の入院患者や高齢者