Apple、AI「脱衣」画像対策を強化。意図せぬ生成もNGに

CNET Japan が、Apple が AI による「脱衣」画像への対策を強化したと報じた。

見出しによると、意図して脱衣画像を作る機能だけでなく、「結果的に脱衣できてしまった」ケースも認めない方針だという。

現時点で入手できているのは見出しのみで、この方針が App Store に並ぶアプリの審査ガイドラインに関するものなのか、Apple 自身の画像生成機能に関するものなのか、適用が始まる時期、違反したアプリへの措置は確認できていない。

「結果的にできてしまった」場合まで対象にするという点が、この対策の要点とみられる。画像生成 AI は、指示の書き方次第で開発者が想定していない画像を出力することがある。アプリ側が「そうした用途を想定していない」と主張するだけでは不十分で、実際に出力されないよう防ぐ仕組みまで求められることになる。

本人の同意なく性的な画像を作られる被害は各国で問題になっており、プラットフォームを運営する企業が、生成 AI の出力に対する責任をどこまで負うのかを示す動きといえそうだ。