上海の網信部門は、中央網信弁公室の統一部署に基づき、AIサービス／AIアプリの乱象を是正する「清朗」专项行動を4カ月実施すると発表した。ポイントは、モデル性能の議論ではなく、備案（届出）・安全審査・データ／表示の運用に焦点が移っていることだ。
何を取り締まるのか（2段階）
発表内容は2段階に分かれる。
- AIアプリ／サービスの典型的な違反
大模型の備案・登記義務の未履行、安全審査能力の不足、学習データ（語料）の安全、AIデータ投毒、生成合成コンテンツの表示（ラベル）不徹底など、いわば“源流”側のガバナンスを強化する。 - AI生成コンテンツの内容面の乱象
AIで「虚假信息」を作る、暴力・低俗情報を拡散する、なりすまし、未成年の権益侵害、ネット水軍（投稿代行・誘導）などを重点対象に、違法・不良情報の清理とアカウント処置を進める。
企業側に起きる実務インパクト
この種のキャンペーンは、違反摘発のニュースだけを追っても実務に落ちにくい。重要なのは、**“やるべきことが列挙された”**点だ。
- 大模型を使う／提供する事業者は、備案や安全審査の要件を「法務対応」ではなく「プロダクト仕様」として織り込む必要がある
- 学習データの出所・権利・安全、運用ログ、生成物の表示（ラベル）など、モデル以前に運用設計が問われる
- 生成AIがSNS・EC・メディアに広がるほど、なりすましや虚偽情報の対策が“機能追加”ではなく“必須の安全機能”になっていく
日本企業が見るべき点
中国向けにAI機能を展開する日本企業にとって、チェックすべきは「中国のモデルが強いか」よりも、中国市場でAI機能を運用するための必須要件がどこまで具体化しているかだ。
今回の上海の動きは、（1）備案・審査の実装負担、（2）生成物ラベルの徹底、（3）学習データの安全、（4）コンテンツ乱象（虚偽・なりすまし・未成年）という、運用上の論点がセットで提示された。今後は、具体的な処分事例（どの違反が多いのか、どこが実務上の落とし穴なのか）と、事業者側の準拠手順の明確化を追いたい。