【X】マスク氏率いるGrok、「脱衣」画像を毎時6700枚も生成か…12歳少女も被害　責任追求の声

事の発端は12月31日、マスク氏のX（旧Twitter）上でGrok公式アカウントが投稿した謝罪文だ。 「コミュニティの皆様へ。12月28日、ユーザーの指示に基づき、12～16歳と推定される少女2人の性的画像を生成・共有してしまった件を深く後悔しています。これは倫理基準に違反し、米国のCSAM（児童性的虐待記録物）法に抵触する可能性があります。安全策の不備でした」

Grokは再発防止を誓ったが、被害は「少女2人」にとどまらない。キャサリン皇太子妃や、人気ドラマ『ストレンジャー・シングス』に出演した未成年の女優も同様の標的となった。写真に写る女性や子供の衣服をAIで「脱がす」画像加工は、驚くべき規模で拡散している。

Grok側が介入を約束したにもかかわらず、事態は沈静化するどころか悪化の一途をたどっている。謝罪投稿から2週間が経過した時点で、同意なき性的画像の生成数はむしろ急増しており、マスク氏の企業に対する規制強化や法的措置を求める声は高まる一方だ。

続きはこちら
https://news.yahoo.co.jp/articles/0592bffe044811d42db51ad84d719777c3ca2516