コンテンツセキュリティ管理
コンテンツセキュリティ管理の入口は以下のとおりです：
センシティブワード管理
センシティブワード管理機能は、ユーザーがプラットフォーム上のコンテンツを効果的に制御し、コンテンツのコンプライアンスと健全性を確保し、企業内部規定またはコミュニティ管理規範に適合させるのに役立ちます。センシティブワードを定義することで、システムはコンテンツの生成、表示、または保存の段階でインテリジェントに識別・ブロックを行い、機密情報の拡散を防止できます。
機能のハイライト
- 一括インポートとエクスポートに対応しており、大量のセンシティブワードを集中的に管理しやすくなります。
- 状態制御が柔軟で、各センシティブワードを個別に有効化または無効化できます。
- 説明情報に対応しており、センシティブワード設定の背景や用途を記録しやすくなります。
- インポートテンプレートの検証メカニズムにより、形式エラーや重複項目のインポートを防止します。
センシティブワードの新規追加
ユーザーは1件または複数件のセンシティブワードを手動で追加できます。操作手順は以下のとおりです：
- 次のパスに移動します：
内容安全管理 -> 敏感词 -> 新建。 - ポップアップウィンドウで以下の情報を入力します：
- センシティブワード：例
Text（225文字以内）。 - 有効状態：
启用または停用を選択します。 - 説明（任意）：センシティブワード追加の背景を補足説明します（500文字以内）。
- センシティブワード：例
- 保存 をクリックすると、センシティブワードは直ちに有効になるか、待機状態で保持されます（有効状態に応じて）。
インポートテンプレートのダウンロード
センシティブワードを一括管理しやすくするため、システムでは統一されたインポートテンプレートを提供しています。操作は以下のとおりです：
- 次のパスに移動します：
内容安全管理 -> 敏感词 -> 下载模板。 - システムが自動的に Excel ファイルをダウンロードし、デフォルト名は
敏感词导入模板.xlsxです。 - テンプレートファイルを開き、以下の項目を入力します：
敏感词（必須）是否启用（はい / いいえ）描述（任意）
- 入力完了後にファイルを保存し、インポート用に備えます。
センシティブワードのインポート
センシティブワードテンプレートの準備後、一括インポートを実行できます：
- 次のパスに移動します：
内容安全管理 -> 敏感词 -> 导入。 - アップロードエリアをクリックしてアップロードするか、テンプレートファイルをドラッグ＆ドロップしてアップロードします。
- システムが内容を自動検証します（項目の完全性、形式、重複項目など）。
- インポート成功後、「アップロード成功」と表示され、一覧に新しいセンシティブワードが表示されます。
⚠️ 対応ファイル形式:xlsx、xls、csv。1回につきアップロードできるファイルは1つのみです。形式が正しいことを確認してからインポートしてください。
センシティブワードのエクスポート
現在のプラットフォーム内のすべてのセンシティブワードを Excel ファイルとしてエクスポートできます。操作手順は以下のとおりです：
- 次のパスに移動します：
内容安全管理 -> 敏感词 -> 导出。 - エクスポートをクリックすると、システムが自動的に
.xlsxファイルをダウンロードし、デフォルト名は敏感词报表.xlsxです。 - レポート内容にはセンシティブワード本体、有効状態、および説明情報が含まれ、保存や共有に便利です。
コンテンツ審査モデル
信頼度（Confidence）とは通常、あるモデルまたはシステムがその予測結果に対してどの程度確信しているかを指します。
コンテンツ審査モデルの文脈では、信頼度しきい値の設定は重要な機能です。これにより、ユーザーは、モデルがコンテンツを特定カテゴリ（スパム、不適切な内容など）としてマークする前に到達すべき最小信頼度レベルを定義できます。これにより、しきい値の設定に応じて、誤検知や見逃しの数を減らすことができます。
たとえば、信頼度しきい値が0.8に設定されている場合、モデルがその予測結果に対して少なくとも80%の信頼度を持つときにのみ、コンテンツを不適切としてマークします。これにより、モデルが非常に高い確信を持つケースに対してのみ対応が行われることを保証できます。
⚠️ 現在この機能は個別導入構成が必要です。サービス設定については管理者にお問い合わせください。
PII検出とマスキング
PII（Personally Identifiable Information、個人識別可能情報）の検出とマスキング機能は、個人のプライバシーを露出させる可能性のあるデータを識別し、保護するために使用されます。システムは、単独または他の情報と組み合わせて特定の個人を識別できる各種データに対応しており、その中核的な役割はデータセキュリティとプライバシーコンプライアンスを確保することです。
グローバル設定
画面説明
「管理者コンソール」で【内容安全管理 > PII检测与脱敏 > 全局配置】に進むと、プラットフォーム全体に対する PII 検出ポリシーを一元設定できます。
設定項目の説明
- 自動PII検出とマスキング：
- プラットフォームレベルのスイッチで、デフォルトで有効です。
- 有効にすると、システムはAgentの対話およびデータ処理の過程で個人プライバシー情報（氏名、電話番号、メールアドレス、身分証番号など）を自動識別し、マスキング処理を行います。
- この機能を無効にすると、すべてのPII検出が無効になります。
- Agentホワイトリスト：
- 特定のAgentをホワイトリストに追加できます。
- ホワイトリスト内のAgentはPII検出およびマスキング処理をスキップしますが、すべての操作は監査ログに記録され、安全性と追跡可能性を確保します。
操作説明
- 「Agentホワイトリスト」のドロップダウンで、検出対象から除外するAgentを選択します；
- 「自動PII検出とマスキング」スイッチを切り替えて、グローバル検出を有効または無効にします；
- 【保存】をクリックすると、設定は即時反映されます。
機能の役割
- 機微な個人情報を自動識別してマスキングし、プライバシー漏えいを防止します；
- 柔軟な設定に対応し、さまざまな業務シナリオにおけるプライバシーポリシー要件を満たします；
- 監査ログにより、すべての設定変更を追跡可能とし、安全でコンプライアンスに準拠した制御を実現します。
マスキングルール設定
機能説明
「マスキングルール設定」は、システムが個人の機微情報（PII）を検出した際の処理ポリシーを定義するために使用されます。異なるルールとポリシーを設定することで、管理者は機微データの識別、通知、およびマスキング方法を柔軟に制御し、データコンプライアンスとプライバシー保護を確保できます。
ページ説明
ページには、システム内で設定済みのすべてのマスキングルールが表示され、以下の情報が含まれます：
- ルールタイプ：システム内蔵（プリセット）ルールとユーザー定義ルールを区別します。
- ルール名：このルールが検出する機微情報の種類。例：身分証番号、携帯電話番号、メールアドレスなど。
- ルール内容：機微情報をマッチングするための正規表現または検出ロジック。
- 有効状態：このルールを有効にするかどうかを制御できます。
- マスキングポリシー：機微情報に一致した際にシステムが実行する操作で、「遮盖」「提示」「终止」「删除」などを選択できます。
- 更新日時：ルールの最新更新日時。
- 操作：ルールの編集または削除に対応します。
設定手順の説明
- カスタムルールの新規追加
- ページ右上の「新增自定义规则」ボタンをクリックします；
- ポップアップで以下の内容を入力します：
- ルール名：例
银行卡号检测のようにルール名を設定します； - ルール内容：この種類の情報を識別するための正規表現を入力します；
- 有効状態：必要に応じてすぐに有効化するか、ひとまず有効化しないかを選択できます；
- マスキングポリシー：ドロップダウンからマスキング方法を選択します（例：
遮盖、提示、终止、删除）；
- ルール名：例
- 入力完了後、「保存」をクリックするとルールが有効になります。
- ユーザープロンプトのカスタマイズ
- マスキングポリシーで「提示」を選択した場合、右上の「自定义用户提示」をクリックしてプロンプト文言を設定できます；
- 例：「
您的输入包含身份证信息，是否继续？」； - 保存後、ユーザーがこのルールをトリガーすると、システムが確認ダイアログを表示します。
- ルール管理
- 「編集」により、いつでもルール内容またはポリシーを変更できます；
- 不要になったルールは「削除」をクリックして削除できます。
使用例
システムには一般的な機微情報ルール（身分証番号、中国本土の携帯電話番号など）があらかじめ用意されており、管理者はこれらのルールを直接有効化できます。また、業務シナリオに応じて、メールアドレス、銀行カード番号、またはその他の特定形式のデータを検出するカスタムルールを追加することもできます。