【NSFW禁止】StableDiffusion規約変更　SDXL系のローカル生成はどうなる？

こんばんは、スタジオ真榊です。StableDiffusionを提供する英企業、StabilityAI社が2025年7月31日付けで利用規約を変更すると発表しました。最大の変更点は、性的な画像生成一切が禁止されるという点。我々がローカル生成で主に使用しているのはillustrious系などSDXL1.0をべースとしたモデルですが、そうしたモデルでもNSFW生成は一切できなくなるのでしょうか。

利用規約やモデルのライセンスは、AIを安全に利用する上で欠かせない重要ポイント。今回の利用規約の経緯と内容、適用範囲を整理した上で、あらためてモデルのライセンスやAI提供企業の利用規約が我々の画像生成・学習・モデル公開などに及ぼす効果と、規約の事後変更がどこまで遡及して適応されるかなどについて詳しくまとめてみたいと思います。

目次

１．新規約のポイント

　　・対象範囲

　　・ペナルティ

　　・新たな禁止事項

　　・その他変更点

２．モデルの利用ライセンスとの関係

　　・「CreativeML OpenRAIL-M」とは

　　・恒久的な無償・非独占ライセンス

３．ローカル生成ユーザーへの影響は？

　　・人気SDXL系モデルで考えてみる

　　・不可逆ライセンスと利用規約の事後変更の関係

４．「グレーゾーン」で片付けてよいか

５．利用規約改定の背景分析

終わりに

【更新2025/07/12 15:30】ToSとAUPの違いを明確化しました。この記事で「利用規約」と呼ぶ場合はToSとAUPの総体を指します。

１．新規約のポイント

Stability AIが7/31から適用される新たな利用規約（Terms of Service、以下ToS）と、禁止行為を列挙した利用許容ポリシー（Acceptable Use Policy、以下AUP）を公開したのは25年7月9日のこと。まずはこちらの全文を確認してみましょう。

・対象範囲

AUPの冒頭に《ユーザーが"Stability AI Technology"にアクセス、使用、または配布する場合、お客様はこの利用許容ポリシー（AUP）に同意するものとします》とあり、7月31日以降にStabilityAI社が提供している技術で画像生成したり、再配布したり、同社のサービスを利用したりする場合は、商業・非商用問わずこのAUPに縛られるよ、ということが確認されています。「Stability AI Technology」という定義はやや分かりにくいですが、ローカル用モデルやAPI利用も含め、同社が提供する技術全般を指すと読むべきでしょう。

「including self-hosting Stability AI code or weights」という文言も見えるので、Dream StudioなどのStabilityAI公式サービス上だけでなく、Forgeなどを使ってローカル生成をする場合も新規約の対象ということになります。「accessing Stability Technology via third-party hosted platforms」とあるので、StabilityAI技術を使って運営されている他社のプラットフォームにもこの利用規約は影響します。

例えば、NovelAIはv3モデルまでStableDiffusionベースでしたので、当時のNovelAIのままならNSFW生成は不可という効果が及んでいたと考えられます。が、v4以降は同社が一から構築したオリジナルモデルとなっているので、今回の利用規約変更は影響しません。ついでに言えば、Xで使えるGrokや、OpenAI社のChatGPTにおける画像生成も関係ありません。（もちろん、実はStableDiffusion技術を裏で使っていた場合はこの限りではありませんが…）

　　▲今回のStableDiffusion規約変更を受けたものとみられるNovelAIの声明

・ペナルティ

規約違反については、《規約に違反したことが判明した場合、当社はお客様による当社製品およびサービスへのアクセスを停止または終了する場合があります》とあり、ローカル生成ユーザーが規約に違反した場合のペナルティについては特に記載されていません。

StabilityAIとしては、自社のオンラインサービスのユーザーへはアクセス禁止やアカウントのBANといった対抗措置がとれるでしょうが、個人のPC内で完結するローカル生成に対してチェックやペナルティを課すことは事実上難しかったのでしょう。

　　　▲StabilityAI社の「DreamStudio」。使っている人はあまり多くなさそう

ただ、ここに明記されていないからと言って、何らかの権利行使を試みてくる可能性がないとは言えません。例えば、SNSやCivita上で利用規約違反とみなせる投稿に対して、StabilityAI社が削除要求を掛けてくるなどの対応は考えられるところです。

・新たな禁止事項

法律や他者の権利を侵す行為は旧AUPから禁止されていますので、規約改定で新たに盛り込まれた部分を確認します。 最も大きい変化は性的コンテンツの扱いです。

まず、旧AUP（下図スクリーンショット）では「合意のないヌードや違法なポルノコンテンツを作成すること」などが禁止されていました。

一方新AUPでは、「性的に露骨なコンテンツを禁止する」とされ、従来のような合意のないヌード、児童ポルノのような違法コンテンツだけでなく、「性交（セックス）や性的行為、性的暴力に関連するコンテンツ」全体が対象となりました。「以下のことを可能にするstability technorogyの使用が含まれる」という定義がなされています。意味は必ずしも明らかではありませんが、禁止されるのは性的な画像をStableDiffusionで生成することだけでなく、それを可能にするような技術利用ーたとえばモデルや追加学習ファイル（LoRA等）を作るといった行為も含まれるという解釈ができそうです。

・その他変更点

旧AUPと見比べると、他にもいくつかの変更点が見て取れます。

18歳未満は「保護者の同意が必要」とされていたところ、新AUPでは「当社のテクノロジーは成人向けに開発されているため、18歳未満は利用不可」と見直され、たとえ保護者の同意があっても利用不可になりました。StabilityAI社が施した技術的な安全対策の回避・無効化も明文化されています。今後提供されるモデルはNSFW生成ができないようプロテクトされているのでしょうが、なんとかそれをかいくぐって生成しようとするたぐいの行為も正式に禁じたということです。

全体にEUで発効されたAI法の影響が強く感じられ、「同意なしに顔認識データベースを作成する」「有害または不利な扱いにつながるような人物の分類・評価」などなどの行為も禁止対象に新たに盛り込まれています。が、このあたりはFANBOX読者とはあまり関係がないので割愛。これは個人的な感想ですが、StabilityAI社が提供するAI技術を巡って法的トラブルが起きた場合に、同社の免責を狙うための規約整備といった印象が感じられる内容となっています。

２．モデルの利用ライセンスとの関係

今回の規約改定で最も気になるのは、「7月31日以降、Hな画像をローカルで生成したらどうなってしまうの？」ということでしょう。その話題に入る前に、あらためてローカル生成で利用するwebUIやモデルの「ライセンス」についておさらいしておきます。

StabilityAI社が配布してきた過去のStableDiffusionモデルをはじめ、Civitaiで配布されているようなcheckpointやLoRA、Controlnetなどの学習済みモデル、そして我々が普段使っているreForgeやcomfyUIといった各種webUIには、それぞれ利用に当たってのライセンスが設けられています。

・「CreativeML OpenRAIL-M」とは

StableDiffusionモデルを始め、多くの画像生成AIモデルは「CreativeML OpenRAIL-M」ライセンスか、その拡張版ライセンスで公開されています。これはモデルを無償・恒久で再配布・改変できる一方、差別・搾取・違法行為などの禁止用途を必ず受け継がせる、生成AIモデル専用のライセンスです。

末尾についている"-M"はライセンスの適用範囲がモデル（Model）に限定されていることを示しており、"+"（プラス）がついていると、もとのライセンスに追加の条件、制限、または拡張が加えられているバージョンであることを示しています。

例えば、現在Civitaiで流通しているモデルの多くにベースモデルとして用いられているSDXL1.0のライセンスは「CreativeML Open RAIL++-M」であることが確認できます（下記リンク）。これらのライセンスと、今回のStabilityAI社の利用規約変更はどう関係してくるのでしょうか。

・恒久的な無償・非独占ライセンス

「CreativeML OpenRAIL-M」ライセンスには、ユーザーに著作権と特許上の無償・非独占ライセンスを恒久的に付与し、出力画像の権利は原則ユーザーに帰属することが明記されています。例えば、スタジオ真榊ではSDXL系モデルを利用して同人漫画を公開し、売り上げから収益を得ていますが、このコンテンツについてStabilityAI社が突然権利主張をすることは恒久的にできないわけです。

末尾にある「Attachment A」というリストが、モデルの禁止用途です。人権侵害／差別／児童搾取／違法医療・司法判断／感情操作などが列挙され、このモデルを使ってこれらを助長するような生成を行うことは禁じられています。

▼機械翻訳▼

派生モデルを配布する場合は「本ライセンス全文を同梱し、変更点があれば明記し、禁止用途のリストも継承しなければならない」と定められています。現在SDXL1.0モデルをそのまま使っているユーザーはほとんどおらず、皆さんillustrious系などの人気派生モデルや、自分でマージしたモデルを利用していると思いますが、StabilityAI社が定めたライセンスはそうした派生モデルにも継承されている（継承しなくてはならない）わけです。派生モデル配布者が「二次創作禁止」などと追加制限を上乗せしてもOKですが、「児童ポルノOK」「嫌がらせに使用しても可」などと狭めることはできません。

３．ローカル生成ユーザーへの影響は？

ここからが本題。今回の利用規約変更は、「CreativeML Open RAIL++-M」で提供されているSDXL系モデルの利用にどのように影響するのでしょうか。

まず、いま触れたようにローカル画像生成モデルにはそれぞれライセンスがあり、StableDiffusion系モデルであれば、大元はStabilityAI社が定めたものです。これまでStabilityAI社が公開してきたStable Diffusion1.5や2.x、SDXLなどのモデルは、いま触れた「CreativeML Open RAIL++-M」などの不可逆な恒久ライセンスで公開されており、派生モデルにも継承されているわけですから、これを後から取り上げることはライセンス条項上ほぼ不可能と言えます。もしするのであれば、SDXL1.0を新たに変更したライセンスを付して再配布し、その日から影響させる形ですが、旧ライセンスをベースに派生したモデルをそれによって禁じることはできません。

・人気SDXL系モデルで考えてみる

ここからはより身近に感じられるよう、プロンプト大辞典でも利用したillustrious系モデル「WAI-NSFW-illustrious-SDXL」モデル（v14.0）を例に考えてみます。少しややこしいので整理しますが、まずillustrious1.0は韓国OnomaAI社がファインチューニングしたSDXL系列モデルで、ライセンスはCreativeML Open RAIL++-Mではなく、「Fair AI Public License 1.0-SD」となっています。

WAIv14もこちらのライセンスを継承しているのですが、CreativeML Open RAIL++-Mのルールでは「本ライセンス全文を同梱し、変更点があれば明記し、禁止用途のリストも継承しなければならない」ということになっています。冒頭文を読むと、SDモデルのライセンスとの互換性を保つために、「Attachment A」の文節は同じにしたよ、ということが書かれています。「全文を同梱し、変更点があれば明記し」の部分はやや怪しいように思いますが、CreativeML Open RAIL++-Mを継承した派生モデル用の新ライセンスという理解になるでしょう。

ユーザーはこちらのモデルを使う限り、このライセンスに縛られることになります。禁止用途は以下の通りで、確かにSDXL1.0のライセンスで禁じられているのと同様のものになっていることが確認できます。

少なくともこのライセンスを見る限り、StabilityAI社が今回の規約で設けた「NSFW生成の全面禁止」がこちらの派生モデルに及ぶことはなさそうに見えます。一方で、《ユーザーがStability AIテクノロジーにアクセス、使用、または配布する場合、お客様は本利用規約に同意するものとします》という定義はSDXLモデルやその派生モデルの恒久的ライセンスと相反する内容ですので、ここが混乱を呼ぶところです。

少なくとも、例えばStabilityAI社が提供する公式のサービス上で、禁止措置を回避してNSFW生成を行ったりすればアカウントBANになることは明らかです。「性的コンテンツは全面NG、18歳未満は利用不可、AI法リスク用途を禁止」 という規約変更ですから、StabilityAI社の技術を使って画像生成サービスを提供している企業などは、7月31日までにこの利用規約を踏まえたフィルタリングなどを求められることになります。

・不可逆ライセンスと利用規約の事後変更の関係

一方、オープンソース版のStableDiffusionモデル、とりわけSDXL系派生モデルのローカル運用については、不可逆ライセンスとの衝突をどう考えるかが問題になります。

モデルの再配布やローカル生成自体が新規約で突然「違法」になるわけではありませんが、我々は「Stability(AI) Technology」を使う限り新規約に同意している扱いです。新規約には「ローカルで動かしている場合も対象（including self-hosting Stability AI code or weights）」と明記されているので、理屈上はローカルでHな画像生成をしている段階で規約違反ということになります。とはいえ、「Dream Studio」や「Stable Assistant」といった同社の公式サービスをオンライン利用しているのでない場合、StabilityAI社が自宅に立ち入って取り締まることは難しく、BANなどのペナルティを課すこともできません。

一方、新ToSには≪本規約と、当社技術の一部に適用されるその他の規約（オープンソースライセンス条項など、第三者の規約含む）との間に矛盾が生じた場合、矛盾が生じた部分についてはその規約が優先します≫という一文があり、今回の規約改定で不可逆ライセンスを覆すことができないことを認めています。

この関係は喩えるなら、土地の権利と町内会のルールのような関係です。町内会は土地の権利者を強権的に追い出したり、家の中に立ち入ってルール違反していないか調べたりすることはできませんが、町内会のルールに違反していると、地元のイベントに参加できなくなったり、後ろ指を指されて住みづらくなったりするのに近いのではないかと思います。

４．「グレーゾーン」で片付けてよいか

ここまでの話を整理すると、

「使用モデルのライセンスを守っている限り、StabilityAI社が規約変更によってローカル生成ユーザーにペナルティを課すことは難しいが、道義上は『ライセンス順守・規約違反』のモデル利用と整理される」

ーというのが、今回の規約変更の常識的な読み解き方ではないかと思われます。

個人的な感想ではありますが、今回の変更はAPI や同社の公式UI（Dream StudioやStable Assistant等）を使う法人・サービス事業者向けに「盾」として整備された色が濃いように思います。とはいえ、いかにライセンスを順守していても、世間一般に「StabilityAI社がやめてくれと言っているNSFW生成をStabilityAI社の技術で堂々と行っている」という倫理的批判を受ける可能性はあるでしょう。

もちろん、生成画像をPCの中から出さず、個人的用途で使用する限りは問題になる余地がないわけですが、生成画像をWeb上でStabilityAI社の技術を使ったことを明示して公開した場合、7/31以前のモデルであったとしても、第三者から後ろ指を指される恐れはあります。

また、StabilityAI社が利用規約を根拠として削除要請を行ってくる可能性も否めません。具体的には、XやPixiv、Civitaiなどに生成画像やLoRA、派生モデル等を公開したのに対して、StabilityAI社が「このコンテンツには当社の技術が使われており、利用規約違反なので削除してください」とプラットフォーム側に要求することなどが全くありえないとは思いません。

そうした動きに対してユーザー側がモデルのライセンスを遵守していることを示して権利主張する場合、場合によっては民事訴訟も含めた面倒な手続きになることは容易に想像できるわけで、そうした行為を行う場合はリスクを理解した上で、自己責任で行うことが求められることになります。「公式が本気になったら非常に面倒なことになる」のは二次創作の権利関係とよく似た構造ですね。

５．利用規約改定の背景分析

StabilityAI社はローカル画像生成の雄である一方で、どんなに公式モデルの利用が広がっても企業としての直接収益にはつながってこなかったという経緯があります。StabilityAI社にお金を払ったことがある画像生成AIユーザーはかなり少ないのではないかと思いますし、そこはNovelAIやNiji journeyと対照的。ローカル生成が流行するほどに儲かってきたのは、むしろグラフィックボードを売るNVIDIAだったわけですね。

一方で、StabilityAIは「Stable Diffusionには、大量の著作物が無許可で使われている」「アーティストに取り返しのつかない損害を与える寄生虫」などと批判され、イラストレーターからの訴訟にも直面しています。（記事は2023年当時、提訴前のもの）

さらに、SDXLがヒットして以降、StabilityAI社のモデルはなかなかユーザーコミュニティに受け入れられない状況が続いてきました。SD3では月6000回の生成制限や有償の企業ライセンスを導入しようとしたことでユーザーの不興を買い、また性能にも問題がみられました。SD3.5で立て直しを図った格好ですが、今のところユーザー間で「移住」が見られることはありません。

画像生成コミュニティでは、人気モデル「AnimagineXL3.0」が登場した際にSD1.5からSDXLへの「民族大移動」が起きたわけですが、今回たとえ同じようなローカル環境の異変が生じたとしても、我々ユーザーがStabilityAI社にお金を落とすようになる未来につながるかというと、なかなか想像しづらいものがあります。

今回の利用規約の背景には、AIのハイリスク用途を禁じたEUのAI法や、VISAなどの決済企業によるポルノ規制、そして既に直面している著作権関係の訴訟リスクを踏まえて「防御態勢を固めた」対応のように見えます。使用モデルのライセンスをきちんと守って利用している限り、ローカル生成ユーザーが今回の利用規約変更で大きな訴訟リスクを受けることはないのかもしれませんが、ローカル生成シーンは今後StableDiffusion系ではないNSFWフリーな新興モデルに移行していく呼び水になるのではないかーと個人的には考えています。

終わりに

というわけで、駆け足でしたが利用規約変更の経緯と影響について、ローカル生成ユーザーの観点から公開情報を整理しました。StableDiffusionによるローカル生成がここまで広がったのは、オープンかつ出力物の権利一切をユーザーが得られる恒久的ライセンスが背景にあったわけですから、いったん企業がライセンスによって約束した恒久的権利を利用規約の事後変更によって絞るような事態はあまり喜ばしくない出来事かなと思います。

このFANBOXで言えるのは、いつもどおり「ルール・ライセンス・法律をよく調べて、最後は自己責任・自己防衛」ということまでです。素人判断で合法に見えるからと言って、ことさらに露悪的な使い方をすれば、最終的に法廷で勝利を収めたとしても膨大な時間や資金、感情コストを失ってしまいます。もちろんどんな使い方をするかは個人の自由であり、こと表現については特に広い自由が認められるべきと個人的には考えていますので、マナー警察のような呼び掛けはしませんが、どんなときでも「自分の身は自分で守る」の精神が重要だと思います。

画像生成は私を含めた多くのユーザーにとってただの趣味やツールであり、社会的生命や資産をオールベットするたぐいのものではないはずです。できるだけトラブルに巻き込まれないように、今後もそれぞれで気を付けていきましょう。

それでは今日はこのへんで。スタジオ真榊でした。

-免責事項-

本記事は公開情報をもとに個人が整理したものです。法務レベルでの正確性・完全性は保証できませんので、実際の対応を検討される際は必ず一次資料を確認し、必要に応じて弁護士等の専門家へご相談ください。