執筆：樽本 哲（インテアス法律事務所）

2026年、SNSの世界では新たな被害が急増しています。
X（旧Twitter）の生成AI「Grok」の画像編集機能を悪用し、他人の投稿写真を本人の許可なく性的画像に加工して拡散する、いわゆる「性的ディープフェイク」の問題です。かつては高度な技術を持つ者に限られた行為でしたが、今やクリック一つで誰もが他人の尊厳を傷つけられる時代になりました。
もし、自分や家族がこうした被害に遭ったらどうすべきか。弁護士の視点から、法的・実務的な対処法を整理します。
なお、この文章を書くにあたり、私自身も生成AIを利用していることを予めお断りしておきます。

まず整理すべきは、AIによる加工行為そのものの適法性です。他人の容姿をAIで加工すること自体が直ちに違法となるわけではありません。
例えば、本人の承諾がある場合や、風景の一部として映り込んだ人物をAIで加工して匿名化する場合などは、原則として適法です。
問題は、「本人の承諾なく」加工・投稿が行われる場合です。 たとえ元の写真が公開されていたとしても、それを第三者が勝手に加工し、本人の意図しない性的意味（水着や裸体化など）を付与することは、憲法第13条の幸福追求権から導き出される「人格権（肖像権・プライバシー権）」の重大な侵害となります。
最高裁は、個人の幸福追求権を保障する憲法13条を根拠として「何人も、その承諾なしに、みだりにその容ぼう・姿態を撮影されない自由を有する」と明示しています（最大判昭44.12.24）。さらにその後の判例（最三小判平17.11.10）において、この自由は撮影されることだけにとどまらず、「撮影された肖像をみだりに公表されない自由」にも及ぶと明確に示されました。したがって、たとえ自ら公開した写真であっても、本人の承諾なく勝手に加工・利用されない権利が憲法上保障されているのです。
仮に、SNSの利用規約において、投稿画像の広範な利用ライセンスを事業者に与えている場合でも、それは第三者による悪質な加工や人格権侵害までも承諾したことを意味しません。個人の尊厳に直結する人格権は、規約によって包括的に放棄させられるような性質の権利ではないからです。特に「性的文脈」という人格をおとしめる形で行われた場合、受忍限度（社会生活上我慢すべき限度）を明らかに超えた不法行為として、民事上の損害賠償責任が発生します。

また、被害の対象となった「写真」そのものに注目すれば、著作権の問題も浮上します。著作権法における著作物とは、「思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するもの」と定義されています（同法2条1項1号）。単なる機械的な記録ではない、アングルや光の調整、シャッターチャンスの捕捉など、撮影者の工夫が反映された写真は「著作物」として扱われます。
他人の著作物である写真を無断で生成AIを利用して改変する行為は、著作権だけでなく作品を勝手に変えられない権利（同一性保持権）などの「著作者人格権」の侵害にも該当します。さらに重要なのは、著作権法第113条11項の規定です。これは、「著作者の名誉又は声望を害する方法により、その著作物を利用する行為」を、著作者人格権の侵害とみなすものです。実在する人物の写真を性的な文脈で加工・利用する行為は、著作者（撮影者）の社会的評価を著しく貶める行為であり、単なる「加工」の域を超えた明白な違法行為として、より厳しくその責任を問うことが可能になります。

こうした行為が「表現の自由」の名の下に正当化されることはありません。裁判実務では、表現の自由と人格権が衝突する場合、侵害の態様や目的を総合的に考慮し、それが社会生活上の受忍限度を超えているかどうかで違法性を判断します。性的加工画像は、公共性を一切欠いた私的な嫌がらせに過ぎず、表現としての価値は極めて低いと言わざるを得ません。被害者が受ける精神的苦痛と比較衡量すれば、人格的利益の保護が圧倒的に優先されるべきです。
また、被害を報じるメディアが加工画像をそのまま引用・掲載する行為も、「報道の自由」を逸脱し、人格権侵害を助長する二次被害となり得ます。さらに注意すべきは、一般ユーザーによる「いいね」や「リポスト（シェア）」です。面白半分での拡散であっても、違法な権利侵害を拡大させる行為には変わりありません。拡散の態様によっては、投稿者本人と同様に肖像権侵害や名誉毀損の共同不法行為責任を問われるリスクがあることを、私たちは重く受け止める必要があります。

SNS側は、被害者から通報を受け、肖像権侵害や未成年者の性的画像といった違法性が明白な投稿を確認した場合、速やかに削除や拡散防止の措置を取る義務があります。
特に2025年に施行された「情報流通プラットフォーム対処法（情プラ法）」により、大規模なSNS事業者には権利侵害への迅速な対応がより厳格に求められるようになりました。特に未成年者の性的画像については、国際的にも厳格な対応が求められており、通常より高い注意義務が課されます。AI機能の設計や運用においても、実在人物を容易に性的加工できる状態を放置していれば、安全配慮義務違反が問題視される可能性があります。

被害に気づいた際に最も重要なのは、感情的に反応する前に事実関係を記録することです。画像や投稿URL、日時、アカウント名、拡散状況などを保存した上で、プラットフォームの通報機能を利用し、速やかに削除要請を行うことが基本的な初動対応となります。
未成年者が写っている場合や性的な文脈が明らかな場合には、その点を具体的に示すことが重要です。加害者本人に直接抗議することは、さらなる拡散やトラブルを招くおそれがあるため避け、必要に応じて弁護士や警察など第三者を介した対応を検討するのが適切です。被害者本人や家族、とりわけ未成年者が受ける心理的負担にも十分な配慮が必要です。

画像の無断加工による被害の予防策としては、自身のSNSでの投稿がAI学習や素材として利用される設定をオフにすること、SNSでの写真公開範囲を見直すことや、加工・悪用が容易な高解像度の写真の公開を控えることが有効だと言われています。未成年者の写真については、家族間で、困ったことがあればすぐ相談する、というルールを共有しておくことも重要です。
こうした個人の備えに加え、被害に対して適切に法的責任が問われる前例を積み重ねていくことが、社会全体での大きな抑止力に繋がります。

よく技術は善悪に対して中立であり、それを使う人間こそが悪なのだ、という言葉が語られます。しかし、事業者にビジネスモデルの適法性について助言し、被害者から被害の相談を受ける実務家としての立場からすれば、容易に悪用できる機能や仕様を、十分なガードレールも設けないまま社会に垂れ流す姿勢には、到底賛同できません。とりわけ匿名利用を認めるSNSの運営事業者は、利用規約で悪用を認めないと定めるだけでは対策は不十分だと認識するべきです。
技術がもたらす利便性やビジネス上の利益と、それによって破壊される個人の尊厳。このバランスが簡単に崩れてしまう時代に私たちは生きています。AIを開発・提供する企業には、自らの生み出した技術が暴力の道具と化している現実に真摯に向き合う責任があります。