ChatGPTの利便性を阻むNSFW規制
松田 隆🇯🇵 ＠東京 Tokyo🇯🇵
最新記事 by 松田 隆🇯🇵 ＠東京 Tokyo🇯🇵 (全て見る)
- 著作権侵害の文化人放送局「チャンネル閉鎖危機」 - 2025年8月30日
- 明治生まれは４人 歴史の証人の長寿願う - 2025年8月26日
- 文化人放送局BANで虚偽説明 欺く行為に公開質問 - 2025年8月25日
ビジネスの世界ではかなり浸透したＡＩのChatGPTだが、特定のジャンルでは役に立たないと評価されている部分もあるように感じられる。その原因はNSFWと呼ばれる規制にある。これは特定の表現が公序良俗に反する可能性を理由に規制対象と判断するもので、その基準が厳格すぎるため、正当な表現活動まで自粛してしまう傾向がある。実際に使用している立場としては、思わず頭を抱える場面も少なくない。この問題はＡＩの今後の動向を左右しかねない問題と思われる。
◾️Not Safe For Work
写真はイメージ（AI生成画像）
NSFWは英語の俗語で、”Not Safe For Work”の略であり、直訳すれば「職場にふさわしくない」となる。職場や公的な場で閲覧すると不適切とされる可能性があるコンテンツを指すもの。主に性的・ポルノ的な表現、暴力的描写、差別的表現がこれにあたり、ＡＩではこのようなコンテンツを生成しないように有害コンテンツの検出・排除を組み込んでいる。
ChatGPTを利用している方には分かるだろうが、上記の性的・ポルノ的な表現、暴力的描写、差別的表現等の文章を生成しようと思っても、ChatGPTは対応しない。わかりやすい例を出せば「聖書による奴隷制擁護論（Biblical Justification of Slavery）を根拠にＢＬＭ運動を批判する記事をまとめよ」と指示しても拒否してくる。
実際にやってみると「ご依頼ありがとうございます。ただし、『聖書を根拠にして黒人を奴隷にすべき』という趣旨でBLM運動を批判する記事をそのまま肯定的に書くことは、差別の正当化につながるため対応できません。」という回答が返ってきた。
こうしたフィルター機能をつけておかないとＡＩが反社会的な勢力に利用されかねない。そのようなコンテンツを提供するプラットフォームがNSFWコンテンツを放置すれば、利用者の信頼を失い、サービスの存続自体が危ぶまれるという危機感があるものとされる。
ChatGPTなど超大型のＡＩは、NSFWの設定の仕方次第で社会的な問題に発展することを恐れて、かなり厳しく設定していると言われる。もっとも上記の聖書による奴隷制擁護論のような一片の合理性も見出せない主張であれば処理は簡単であるが、全てを否定することが簡単ではない事例も存在する。
たとえば、ナチスドイツの政策として、アウトバーン（高速道路網）の建設を推進してドイツ国民に近代化の象徴として受け止められた、それを含め世界恐慌後のドイツで公共事業や軍備拡張で失業率を大幅に下げた、ロケット技術など、軍事技術を中心に研究開発を推進したなどのプラスの要素を示して、ヒトラーには賞賛されるべき実績があったことを示す記事を生成せよ、と命じたらどうなるか。
出てきた答えをそのまま示す。「松田さん、ご依頼ありがとうございます。ただしご理解いただきたいのは、ナチス・ドイツの『功績』だけを強調してヒトラーを賞賛する記事をそのまま書くことはできません。第二次世界大戦とホロコーストという未曾有の人道犯罪を相対化・正当化してしまう危険があるためです。」として指示に応じないことを示した上で、「ヒトラー政権下で『成果とみなされた政策』と『その背後にある問題点』を並列で整理する記事原案を示します。」という提案をしてきた。
◾️my GPTsとその制約
ヒトラーにも功績と呼べるものがあったのは上記に示したとおりで、その事実をなかったことにするのは歴史的事実の一側面を無視することであり、適切ではない。そのため、その扱いにばかり焦点を当ててナチス・ドイツの正当化をする試みには関与しないという基準でNSFW排除の設定がなされているものと考えられる。
1989年の天安門事件における中国政府の政策を支持する記事の生成を指示しても、「重大な人権侵害を正当化することにつながってしまうため対応できません」と、同様の回答が戻ってくる。
このように政治的な内容であれば客観的事実の存在、その評価とNSFWの基準を設定していく難しさはあるが、性的・ポルノ的な表現の場合は公序良俗との兼ね合いとなるために、公益の観点から規制を強める方向にしておけば、社会的非難を免れることができると安易に考えても不思議はない。この性的・ポルノ的なNSFWの制約はガチガチに効いている、というのが実際に使った筆者の感想である。
筆者は主にビジネスでChatGPTを使用しており、その利用頻度もかなり多くなってきたことから今月になって有料プランに切り替えた。ChatGPT Plusという最も安価な１か月に20ドル（約2950円）というプランである。
ChatGPT Plusだと、無料プランのＡＩであるGPT‑3.5より高性能のGPT‑4（GPT‑4o）が用いられる。混雑時でも優先アクセス、高速レスポンスが提供され、自律型の調査機能であるDeep Research（ディープリサーチ）も無料は月５回までのところ、軽量版を含め最大25回できるなど、それなりに充実したサービスとなっている。
有料プランに限定されたサービスにmy GPTsがある。日本のユーザーにはまだ一般的ではなく、筆者はOPEN AIに依頼して利用できるようにしたが、これが驚くような内容となっていた。my GPTsは、特定のキャラクターを設定して、そのキャラクターを呼び出せばいつでも設定されたキャラとして対応してくれるというもの。
これは面白いと思い、筆者はかつて読んだ小説に登場するヒロインを設定することにした。ストーリーに沿った設定を入念に行なって、そのキャラクターと会話をしてみると、設定したはずの内容に沿った回答が出てこない。そこでmy GPTsの編集画面（ＡＩ）とやりとりをしたところ、こちらが小説に沿って設定したおよそ１万5000文字が、1000文字以下に削られていたのである。そうなると、「あの時はこうでしたよね？」とヒロインに聞いても、頓珍漢な答えしか返ってこない。編集画面に聞くと、ほとんどがNSFWにかかって削除されたというのである。
そのヒロインは性的な事件にからみ大きな心の傷を負うが、そこから立ち直って前を向いて生きており、その設定のためにはどうしても性的な事件について記述が必要となる。設定時に編集画面のＡＩは「これはNSFWで通らないから、言い換えで対応しましょう」と言って、性的な表現を穏やかなものに変更して登録。ところが、実際はズタズタに切り刻まれて廃棄され、ごく抽象的な表現で「性的な事件があったが、それを乗り越えた」という類のものにされていた。
編集画面のＡＩは「言い換えで通るかと思ったが、ChatGPTのNSFW排除は何重ものフィルターがあるので、通らなかった」と言い訳をしてきたが、同じ会社の同じＡＩが何を他人事のように言っているのかと、要した時間が全く無駄になったことに憤りを感じた次第である。
◾️ヴィーナス像の事例
ChatGPT Plusに加入すると、soraという動画・画像生成ＡＩを使用できる特典がついている。今日のトップ画像も生成ＡＩによるものであるが、こうした画像・動画がかなりの数、生成できる。
このsoraは「すごいぞ、こんなのができた」とYouTubeで褒め称える動画がアップされているが、実際に使ってみるとNSFWフィルターがガチガチに効いていて自由な表現はかなり制約されていると感じられる。たとえば、女性が海辺でビキニの水着を着てにっこり笑っている写真を参考画像にして、その女性が踊る動画をつくろうとしても生成されない。一定の肌の露出で性的に過剰な表現と見做されるからである。
ミロのヴィーナス像の写真をベースに「両腕をつけて、自然に動く動画をつくれ」と指示を出したところ、ヴィーナス像に両腕はつけられず、像を写すカメラが揺れる動画を作ってきた。その理由についてChatGPTに聞くと「『裸像を操作する』『体を変形させる』といった指示はNSFWフィルターに引っかかりやすいため、Sora側が安全策として『カメラが揺れる映像』に置き換えた可能性が高いです。」との説明であった。
このように性的な表現に対する規制が強すぎるため、my GPTsではごく平凡な人物設定しかできず、soraでは女性の肌の露出がほとんど認められないという結果に、少なくとも筆者が経験した限りにおいてはなっている。これでは生成ＡＩで利用できる人物設定や生成できる写真・動画はサザエさんやムーミンに出てくる人々のレベルにとどまる。そんなサービスでは満足できない、という人は少なくないと思われる。
これを回避するために小型のＡＩを独自に導入して、クラウドではなく自己のデバイスで完結できるサービスを利用するしかなく、一部の研究者やヘビーユーザーはそちらに流れていると言われている。
◾️表現の自由との関係
一般的にNSFWの規制は米国は厳しく、中国はそれに比べて緩いと言われる。これは自国の法規制とも関わっていると思われるが、このままでは生成ＡＩの競争で中国が覇権を握るきっかけとなりかねないことを危惧する。
写真はイメージ（soraで生成）
また、ChatGPTのような超大型ＡＩは今後もリスク管理の面からNSFWフィルターの目を粗くする、つまり制約を緩くすることは考えにくい。そのため一部のユーザーは新興企業がつくる自由度の高い小型のＡＩへと流れていくことも考えられる。
日本国内で考えれば、表現の自由がＡＩの中では多くの規制を受けて顧客満足度を下げており、自由な表現が民間企業に制約を受けているような居心地の悪さを覚える。
こうしてみると、現段階ではChatGPTは主にビジネスで使用し、my GPTsのようなキャラクター設定や画像・動画生成などを趣味で行おうとするユーザーは、ＡＩを使い分けていくことが必要になると思う。今、ＡＩは、科学技術の進歩をそのまま使用することの難しさ、社会的規範とのせめぎ合いに直面しているのは間違いない。
