コンテンツセキュリティ管理
コンテンツセキュリティ管理
コンテンツセキュリティ管理の入口は以下の通りです：
センシティブワード管理
センシティブワード管理機能は、ユーザーがプラットフォームのコンテンツを効果的にコントロールし、コンテンツの適合性と健全性を確保し、企業内部規定やコミュニティ管理規範に準拠させることを支援します。センシティブワードを定義することで、システムはコンテンツ生成、表示、保存の段階でインテリジェントに識別・ブロックし、センシティブな情報の拡散を防止します。
機能のハイライト
- 一括インポート・エクスポート対応で大量のセンシティブワードを集中管理可能
- ステータス管理が柔軟で、各センシティブワードを個別に有効化または無効化可能
- 説明情報対応でセンシティブワード設定の背景や用途を記録可能
- インポートテンプレートの検証機能でフォーマットエラーや重複項目のインポートを防止
センシティブワードの新規追加
ユーザーは手動で1件または複数のセンシティブワードを追加できます。操作手順は以下の通りです：
- パスを開く：
コンテンツセキュリティ管理 > センシティブワード > 新規作成 - ポップアップウィンドウで以下の情報を入力：
- センシティブワード：例
恐怖 - 有効状態：
有効または無効を選択 - 説明（任意）：センシティブワード追加の背景説明
- センシティブワード：例
- 保存をクリックすると、センシティブワードは即時に有効化されるか、（有効状態に応じて）保留されます
インポートテンプレートのダウンロード
大量のセンシティブワード管理を容易にするため、システムは統一されたインポートテンプレートを提供しています。操作手順は以下の通りです：
- パスを開く：
コンテンツセキュリティ管理 > センシティブワード > テンプレートダウンロード - システムは自動的にExcelファイルをダウンロードし、デフォルト名は：
敏感词导入模板.xlsx - テンプレートファイルを開き、以下のフィールドを記入：
センシティブワード（必須）有効かどうか（はい / いいえ）説明（任意）
- 記入後、ファイルを保存し、インポート用に準備
センシティブワードのインポート
センシティブワードテンプレートの準備ができたら、一括インポートを行えます：
- パスを開く：
コンテンツセキュリティ管理 > センシティブワード > インポート - アップロードエリアをクリックするか、テンプレートファイルをドラッグ＆ドロップでアップロード
- システムは内容（フィールドの完全性、フォーマット、重複項目など）を自動検証
- インポート成功後、「アップロード成功」のメッセージが表示され、リストに新規センシティブワードが表示されます
⚠️ まずは少量でテストを行い、フォーマットが正しいことを確認してから一括インポートを推奨します
センシティブワードのエクスポート
現在プラットフォーム内のすべてのセンシティブワードをExcelファイルとしてエクスポート可能です。操作手順は以下の通りです：
- パスを開く：
コンテンツセキュリティ管理 > センシティブワード > エクスポート - エクスポートをクリックすると、システムは自動的に
.xlsxファイルをダウンロードし、デフォルト名は：敏感词报表.xlsx - レポート内容にはセンシティブワード本体、有効状態、説明情報が含まれ、記録や共有に便利です
コンテンツ審査モデル
信頼度（Confidence）は通常、モデルやシステムが予測結果に対してどれだけ確信しているかを指します。
コンテンツ審査モデルの文脈では、信頼度閾値設定は重要な機能であり、ユーザーがモデルが特定のカテゴリ（スパム、不適切な内容など）としてコンテンツをマークする前に達成すべき最低信頼度レベルを定義できます。これにより、誤検知や見逃しの数を閾値設定に応じて減らすことが可能です。
例えば、信頼度閾値を0.8に設定した場合、モデルが予測結果に対して少なくとも80%の信頼度を持つ場合にのみ、そのコンテンツを不適切とマークします。これにより、モデルが非常に確信しているケースのみが処理されることを保証します。
⚠️ 本セクションの内容は現在開発中です。ご期待ください。
PII検出とマスキング
💡 ヒント：この機能はV4.1以降のバージョンのみ対応しています
PII（Personally Identifiable Information、個人識別情報）検出とマスキング機能は、個人のプライバシーを露出する可能性のあるデータを識別・保護するためのものです。システムは単独または他の情報と組み合わせて特定個人の各種データを識別し、その核心的な役割はデータの安全性とプライバシーコンプライアンスを保障することにあります。
グローバル設定
画面説明
「管理者コンソール」の【コンテンツセキュリティ管理 > PII検出とマスキング > グローバル設定】にて、プラットフォーム全体のPII検出ポリシーを統一設定できます。
設定項目説明
- 自動PII検出とマスキング：
- プラットフォームレベルのスイッチで、デフォルトはオン。
- 有効にすると、Agentとの対話やデータ処理の過程で個人のプライバシー情報（氏名、電話番号、メールアドレス、身分証番号など）を自動的に識別し、マスキング処理を行います。
- 無効にすると、すべてのPII検出が無効になります。
- Agentホワイトリスト：
- 特定のAgentをホワイトリストに追加可能。
- ホワイトリスト内のAgentはPII検出とマスキング処理をスキップしますが、すべての操作は監査ログに記録され、安全性と追跡可能性を確保します。
操作説明
- 「Agentホワイトリスト」ドロップダウンから検出除外したいAgentを選択；
- 「自動PII検出とマスキング」スイッチを切り替えてグローバル検出を有効または無効に設定；
- 【保存】をクリックすると設定が即時反映されます。
機能の役割
- 敏感な個人情報を自動的に識別しマスキングしてプライバシー漏洩を防止；
- 柔軟な設定が可能で、異なるビジネスシナリオのプライバシーポリシーに対応；
- 監査ログによりすべての設定変更を追跡可能で、安全かつコンプライアンスを確保。
マスキングルール設定
💡 ヒント：この機能はV4.1以降のバージョンのみ対応しています
機能説明
「マスキングルール設定」は、システムが個人の敏感情報（PII）を検出した際の処理ポリシーを定義するためのものです。異なるルールやポリシーを設定することで、管理者は敏感データの識別、警告、マスキング方法を柔軟に制御し、データの適合性とプライバシー安全を確保します。
画面説明
画面にはシステム内に設定済みのすべてのマスキングルールが表示され、以下の情報を含みます：
- ルールタイプ：システム内蔵（プリセット）ルールかユーザー定義ルールかを区別
- ルール名：検出対象の敏感情報タイプ（身分証番号、携帯番号、メールアドレスなど）
- ルール内容：敏感情報をマッチングする正規表現や検出ロジック
- 有効状態：ルールの有効・無効を制御可能
- マスキングポリシー：敏感情報検出時にシステムが実行する操作（「マスク」「警告」「停止」「削除」など）
- 更新日時：ルールの最終更新日時
- 操作：ルールの編集または削除が可能
設定手順説明
-
カスタムルールの新規追加
- 画面右上の「カスタムルール新規追加」ボタンをクリック；
- ポップアップで以下を入力：
- ルール名：例
銀行カード番号検出； - ルール内容：該当情報を識別する正規表現を入力；
- 有効状態：必要に応じて即時有効化または無効化；
- マスキングポリシー：ドロップダウンからマスキング方法（「
マスク」「警告」「停止」「削除」）を選択；
- ルール名：例
- 入力完了後、「保存」をクリックするとルールが有効化されます。
-
ユーザー向けカスタム警告設定
- マスキングポリシーで「警告」を選択した場合、右上の「ユーザー向けカスタム警告」から警告メッセージを設定可能；
- 例：「
入力に身分証情報が含まれています。続行しますか？」； - 保存後、ユーザーが該当ルールをトリガーした際に確認ダイアログが表示されます。
-
ルール管理
- 「編集」からいつでもルール内容やポリシーを変更可能；
- 不要になったルールは「削除」で除去可能。
使用例
システムには身分証番号や中国本土の携帯番号など、よく使われる敏感情報ルールがプリセットされています。管理者はこれらのルールを直接有効化できます。また、メールアドレス、銀行カード番号、その他特定フォーマットのデータ検出など、ビジネスシナリオに応じてカスタムルールを追加することも可能です。