生成AIに対する考え方

世界新奈（坂井新奈アーカイブ）の方針

立場の要約

世界新奈は「坂井新奈に関する情報を、できるだけ長くこの世界に残す」ことを目的とした有志のアーカイブです。生成AIについても、この目的と、私たちが掲げる「プライバシーの尊重」という価値に照らして方針を定めます。

私たちの考えを一言でいえば、問題の中心は「AIに画像を入力すること」そのものよりも、「本人に酷似した生成物を作り、公開・悪用すること」の側にある、というものです。

1. 「入力（学習・解析）」と「出力（生成・公開）」を分けて考える

画像生成AIをめぐっては、「推しの画像をAIに入れてほしくない」という気持ちがあります。その思いは私たちもよく理解できます。そのうえで、問題がどこにあるのかを、次のように整理しています。

  • まず前提として、画像をSNS等に公開した時点で、それがAIの学習に使われうる状況は、すでに広く生じています。たとえば Xの現行利用規約では、利用者が投稿したコンテンツについて、X社が自社の機械学習・AIモデル（生成系を含む）の訓練に利用できるライセンスを取得する旨が明記されています（原文："...for use with and training of our machine learning and artificial intelligence models, whether generative or another type"）1。
    • この意味で、画像をXに投稿した時点で、それがAIの学習に用いられうることには、少なくとも規約上は同意していることになります。そのため、「AIに学習されうるか」という観点だけで、個人による直接入力だけを切り分けて特別視するのは、実態と合いにくい面があります1。
  • また、入力そのものを避けても、悪用を防ぐ効果は限定的だと考えられます。悪用を意図する人は、すでに公開されている画像を集めたり、専用の学習（LoRA等）を行ったりするためです。
  • こうしたことから私たちは、問題の本質は「入力するかどうか」よりも、「本人に似た生成物を作り、公開・悪用するかどうか」 の側にあると考えています。
  • （補足）悪意のない生成物に偶然本人に似た人物が出る確率を、入力を避けることで多少下げられる可能性はあります。ただし、その効果は限定的である可能性が高いと考えます。理由は次の2点です。
    • 生成画像モデルは、Web上から収集された数十億規模の画像で学習されています。 例として、Stable Diffusion 等の基盤となった学習データ LAION-5B は、Web由来の約58.5億の画像・テキスト対です4。すでにネット上に公開されている画像は、こうした学習データに含まれている可能性を否定できません。
    • モデルが特定の画像を再現しやすくなる一因として、学習データ中の重複が重要であること が報告されています。研究では、重複した学習例は重複していない例より記憶（memorize）されやすいとされています5。このため、多数の画像がすでに広く出回っている人物については、個々の利用者が入力を避けることの効果には限界がある、と推測されます。

なお「学習段階」と「生成・利用段階」を分けて考える見方は、法的な整理とも一致します。文化庁は、AIと著作権の問題を 開発・学習段階 と 生成・利用段階 に分けて整理しています2。

2. 入力（学習・解析）について

  • 著作権法には、著作物に表現された思想・感情の「享受」を目的としない利用（非享受目的。情報解析等） であれば、原則として著作権者の許諾なく著作物を利用できる、という考え方があります（第30条の4）2。
    • 例えば「画像から髪型などの情報を抽出・分析する」ような利用は、鑑賞（享受）を目的としない解析に近いと考えられます。
  • ただし、文化庁の整理では、学習段階であっても 生成物を享受する目的が併存する場合 や、著作権者の利益を不当に害することとなる場合 には、扱いが変わりうるとされています2。
  • なお、これは著作権の話であり、人の容ぼう等にかかわる 肖像権・パブリシティ権 とは別の問題です（後述）。

これらを踏まえると、私たちは 「AIに入れること自体」を一律に違法・不当とみなすことには慎重でありたい と考えています。入力が必ずしも「本人に似た画像を作ること」を意味するわけではないからです。

補足：「画像を入れること＝画像を作ること」になる専用サービス（本人の似姿生成に特化したアプリ等）を前提にしているなら、「入力するな」という主張にも一定の意味があります。汎用AI（ChatGPT等）と、そうした専用サービスは区別して語られるべきです。

3. 出力（生成・公開・悪用）について

権利・倫理の問題が現実に生じやすいのは、主に 生成物の公開・流通 の段階です。

  • 著作権の面では、既存の著作物に似た生成物を作って公開・利用すると、通常の著作権侵害の問題になりえます（文化庁も、生成・利用段階には通常の著作権法が適用されるとしています）2。
  • 人の容ぼう等の面では、一般に 肖像権（本人に無断でその容ぼうをみだりに使われない利益）や、著名人の パブリシティ権（氏名・肖像が持つ顧客吸引力を無断で利用されない利益）が問題となりえます。とくに、本人と分かる似姿を無断で公開したり、その人の顧客吸引力を利用する形で使うことは、これらの権利との関係で問題になりやすいといえます。
    • ただし、これらの権利は 法律に明文の規定がなく、判例によって認められてきた もので、生成AIによる似姿への適用はまだ確立していません。法務省は、生成AIによる肖像・声の無断利用について、民事責任の在り方を検討する会議を設けています3。
  • 私的に鑑賞するにとどまるのと、外部に公開・流通させるのとでは、問題の性質が大きく異なります。とくに、性的・名誉毀損的なディープフェイクの作成・公開は、名誉毀損など既存の法律にも触れうる、深刻な権利侵害です。

本人の顔や身体が意図しない形で切り抜かれ・加工され、本人とわかる状態で世間に流布されること は、従来のコラージュ（コラ）画像と同様、強い嫌悪感や権利侵害を生みうる行為です。私たちは、問題として向き合うべき中心は「画像をAIに入れること」よりも、こうした「本人に似せた生成物を作り、公開・流通させること」の側にある と考えています。

4. 世界新奈の立場

坂井新奈に関する情報がAIに学習され、AIの「記憶」の中に残っていくこと自体は、「情報をできるだけ長く残す」という私たちの目的に反するものではないと考えます。問題なのは、それを 悪用する 行為です。

ただし「学習されること自体は問題ない」ことと「私たちが何をしてよいか」は別の話です。世界新奈は、上記の整理を踏まえ、自らに次のルールを課します。

5. 世界新奈の生成AI利用ルール（コミットメント）

  • アーカイブ本体（事実・出典のある情報）には、AI生成物を「記録」「事実」として一切混入させません。 AIで作ったものは、あくまで装飾・象徴的なビジュアルであり、記録ではありません。
  • サムネイル等にAIを利用する場合：
    • 本人の顔（容ぼう）は描写せず、その日の服装・髪型といった情報を、明らかにイラスト・スケッチとわかる形で図示します。本人の実写と誤認させる画像や、フォトリアルな“なりすまし”は作りません。
    • AI生成であることがわかるようにします。
    • 本人の肖像を、顧客吸引目的・広告・収益化 に用いません。
    • 性的・名誉毀損的な生成、本人や関係者に不利益を与えうる生成は一切行いません。
  • 解析目的（非享受。情報抽出・整理等）でのAI利用は、上記を守る範囲で行います。
  • 公式（運営・事務所）の方針を最優先 とし、本人・関係者から要請があれば、該当物を速やかに取り下げます。本方針や掲載物についてのご懸念・取り下げのご要望は、お問い合わせからご連絡ください。
  • 規範・法令・公式方針の変化に応じて、本方針を見直します。

6. 補足：サムネイル（顔を描かない服装・髪型のスケッチ）について

世界新奈では、ミーグリ記事などのサムネイルに、その日の 服装・髪型を、本人の顔を描かないイラスト（スケッチ） として用いることがあります。これは、本人の実際の画像を参考に生成していますが、上記の整理に照らして次の理由から許容できると考えています。

  • 肖像（容ぼう）の再現を避けています。 顔は意図的に描かず、描写の対象は主に「服装」と「髪型」です。肖像権が主に容ぼう・姿態にかかわる利益であることを踏まえると、顔貌を再現しないことは「本人に酷似した画像」を作るリスクを下げると考えます。
  • 参照元画像の利用目的は、鑑賞（享受）よりも情報の可視化にあります。 「その日に何を着て、どんな髪型だったか」を記録・整理するための図解であり、本人の似姿を鑑賞させることを主目的とするものではありません。この意味で、参照元画像の利用は「画像から服装・髪型といった情報を抽出する」という非享受目的の利用に近いと考えます2。
  • 明らかにイラスト・スケッチであり、実写と誤認させません。 ディープフェイクのように「本人がそう見える／そう言っている」と誤認させるリスクがありません。
  • 広告・商品販売のための利用ではありません。 本人の顔・姿の魅力（顧客吸引力）を前面に出して商品化するものではなく、非営利のアーカイブ内の補助的な図像として用いています。

つまりこれは、「本人に酷似した似姿を見せること」を目的とするものではなく、「その日の装い・髪型という情報を、本人の顔を描かない形で図示する」ものだと位置づけています。

ただし、顔を描かなくても、文脈上は坂井新奈と結びつくビジュアルであることは認識しています。だからこそ、AI生成であることの明示・非営利での利用・公式や本人の意向の優先・要請があった際の取り下げ、という前項のルールを併せて守ります。

出典・参考

  1. X（旧Twitter）利用規約「3. Content on the Services」 — 投稿コンテンツについて、X社が機械学習・AIモデル（生成系を含む）の訓練に利用できるライセンスを取得する旨。 x.com/en/tos
  2. 文化庁「AIと著作権について」（公式まとめ。「AIと著作権に関する考え方について」令和6年3月を含む） — 開発・学習段階／生成・利用段階の区別、非享受目的利用（30条の4）などの公的な整理。 bunka.go.jp
  3. 法務省「肖像、声等の無断利用による民事責任の在り方に関する検討会」 — 肖像権・パブリシティ権は明文規定がなく判例で確立してきた権利であること、生成AIによる無断利用の民事責任を検討していること。 moj.go.jp
  4. Schuhmann et al. "LAION-5B: An open large-scale dataset for training next generation image-text models"（NeurIPS 2022, arXiv:2210.08402） — 約58.5億の画像・テキスト対からなる、Web由来の大規模学習データ。 arxiv.org/abs/2210.08402
  5. Carlini, Hayes, et al. "Extracting Training Data from Diffusion Models"（2023, USENIX Security, arXiv:2301.13188） — 重複した学習例は記憶されやすい旨。 arxiv.org/abs/2301.13188

※ 本ページは法的助言ではなく、世界新奈としての考え方の表明です。法令・公式方針の最新状況は各一次情報をご確認ください。