「ヌード化」アプリ禁止法、xAIの差し止め請求を米裁判所が却下——AI規制の新たな前例に

米ミネソタ州で、AIを使って写真をヌード画像に変換する「ヌード化」アプリを禁止する法律が施行されようとしている。これに対し、イーロン・マスク氏率いるxAIが差し止めを求めたが、連邦判事はこれを却下した。この判決により、同州の法律は当面の間、執行が認められることになる。

「ヌード化」アプリとは何か

「ヌード化」アプリは、AI技術を用いて、人物の写真をまるでヌードであるかのように加工するアプリだ。このようなアプリは、同意のない性的画像の生成に悪用されるケースが多く、特に女性を標的にした深刻なプライバシー侵害やストーカー行為、リベンジポルノの温床となっている。ミネソタ州は2025年、こうしたアプリの提供や宣伝を禁止し、違反者には民事責任を問う法律を制定した。これは全米でも最先端の試みとして注目を集めていた。

xAIの主張と裁判所の判断

xAIは、この法律が表現の自由を侵害し、州際通商への過度な負担を強いるとして、施行の差し止めを求めて訴訟を起こした。同社はGrok AIの開発企業として、画像生成機能を持っていることから、この法律の影響を受ける可能性があると主張していた。しかし、連邦判事は「この法律は明確な公益を保護するものであり、AI技術の悪用から市民を守るために必要な措置である」との判断を示し、xAIの請求を退けた。

判事はまた、ヌード化アプリによる被害が重大かつ irreparable であることを指摘し、法律の施行を妨げる緊急の必要性は認められないとした。この判決は、AIを利用した性的虐待コンテンツへの規制が、憲法上の権利よりも優先される場合があることを示す重要な前例となる。

AI規制の今後の行方

ミネソタ州以外にも、ニューヨーク州やカリフォルニア州などで同様の法律が検討されており、連邦レベルでの規制強化の動きも出ている。今回の判決は、他の州や国に対しても影響を与える可能性が高い。日本では、いわゆる「ディープフェイク」被害への対策が進む中、生成AIを用いた性的画像の規制についても議論が始まっている。

AI技術の急速な発展に伴い、その悪用を防ぎながら表現の自由を守るという難問が、世界中で問われている。今回の判決は、そのバランスをどう取るかという難題に対して、一つの答えを示したと言えるだろう。