Skip to main content

モデル管理

モデルセットの新規作成

管理者は以下の手順で新しいモデルセットを作成できます。

  1. モデルセット管理ページへ移動モデル管理に入り、「モデルセット」をクリックします。
  2. 「新規作成」をクリック:ページ右側の「新規作成」ボタンをクリックし、新しいモデルセットの作成を開始します。
  3. モデルタイプを選択:表示されたウィンドウでモデルのタイプを選択します。選択可能なタイプは以下の通りです。
    • LLM(大規模言語モデル)
    • Embedding(埋め込みモデル)

💡 ヒント:システムはEmbeddingの追加を1つのみサポートしています。

  1. 言語モデルを選択:ニーズに応じて適切な言語モデルを選択します。現在サポートされている言語モデルは以下の通りです。
  • LLM言語モデル:OpenAI、Deepseek、Azure、Ollama、Tongyi、Qianfan;
  • Embedding言語モデル:OpenA Embeddings、Azure Embeddings、AliEmbeddings、Ollama Embeddings;
  1. モデルセット情報の入力:モデルセットの名称と説明を入力し、情報が明確かつ正確であることを確認します(名称は50文字以内、説明は200文字以内)。
  2. 追加設定の選択:ニーズに応じて画像QAのサポートや推論モデルかどうかを選択します。
  3. 作成の確認:入力が完了したら「確認」ボタンをクリックし、モデルセットの作成を完了します。

これらの手順により、管理者は新しいモデルセットを作成し、必要な設定を構成できます。

tip

Embeddingモデルの場合、ベクトル次元数の制限にご注意ください:

  • PgSQLのベクトルフィールドは最大2000次元まで対応
  • Embeddingモデル購入時、出力ベクトル次元数が2000未満であることを確認してください(一部モデルは設定で調整可能);
  • システムにベクトルモデルを追加する際は、2000未満のベクトル次元値を入力してください。そうしないと、保存異常やインデックス失敗の原因となる可能性があります。
  • Tokenコンテキスト制限は8192を推奨します。

デフォルトモデル設定

モデル管理では、管理者がデフォルトモデルを設定でき、異なる利用シーンに適したモデルを指定できます。例えば、BI(ビジネスインテリジェンス)、翻訳(Translate)などのシーンでは、デフォルトモデルをAzure-4oモデルに設定できます。この方法により、システムは該当シーンで自動的にプリセットされたデフォルトモデルを使用し、業務効率と一貫性を向上させます。

設定手順はモデルセット作成と類似しており、管理者は実際のニーズに応じて適切なモデルをシーンのデフォルトモデルとして選択できます。

利用シーン

機能名説明典型的な利用例
RAGナレッジベースと連携し、検索強化で大規模モデルの回答精度と信頼性を向上企業ナレッジQA、スマートカスタマーサポート
i18n translation多言語翻訳とUI国際化を実現し、グローバル展開をサポート海外向けAI製品、国際運営プラットフォーム
gallery ssn writingユーザーの各インタラクションや生成プロセスを記録し、閲覧や再編集を容易に会話履歴アーカイブ、コンテンツ作成履歴、バージョン追跡
gallery rednoteユーザーが重要情報のマーキングや注釈を行い、レビューや内容確認を補助AI生成内容の審査、ユーザー共同作成、重要部分のハイライト
gallery mindmapテキスト内容を構造化されたマインドマップに変換し、情報理解を強化プロジェクト整理、ナレッジグラフ生成
optimize promptユーザー入力のプロンプトを最適化し、モデルの理解と出力品質を向上不明確な入力のリライト補助、簡易質問の最適化
recommend question次に興味や関連性のある質問を自動推薦し、インタラクション体験を向上チャットボットの会話継続、推薦ガイド
gallery chat lead会話ガイドテンプレートや「冒頭語」を提供し、ユーザーが明確な質問や作成リクエストを開始できるよう支援チャットテンプレート集、作成プロンプト
recommend configタスクに応じて大規模モデルのパラメータ(温度、RAG利用など)を自動推薦Agent設定パネル、ローコード/ノーコードのスマート推薦
pdf_markdownPDFファイルをMarkdown構造化形式に解析し、読み取りや後処理を容易にドキュメントのナレッジベース取り込み、要約生成
translateユーザー入力やモデル出力を自動翻訳し、言語間コミュニケーションを実現多言語会話、多言語カスタマーサポート
BI大規模モデルで構造化データを処理し、可視化分析やビジネスインサイトを生成自然言語分析レポート、グラフ生成、BI質問アシスタント
llm_ocr画像内の文字を構造化テキストに抽出し、大規模モデルで意味理解を補助画像QA、フォーム認識、PDFスクリーンショット解読、画像ドキュメント検索等

モデルグループの作成

管理者はモデル管理でモデルグループを作成できます。作成したモデルグループは、アシスタント作成時に適切なモデルグループを設定するために利用できます。

モデルグループ作成の手順は以下の通りです。

  1. モデルグループ管理ページへ移動管理に入り、「モデル管理」を選択し、「モデルグループ」をクリックします。
  2. 「新規モデルグループ」をクリック:ページ右側の「新規モデルグループ」ボタンをクリックし、新しいモデルグループの作成を開始します。
  3. モデルグループ名の入力:モデルグループに一意の名称を指定し、識別しやすくします(50文字以内)。
  4. モデルの選択:利用可能なモデルリストから、グループに含めるモデルを選択します。複数選択が可能です。
  5. アダプティブモデルデプロイの有効化選択:ニーズに応じて、アダプティブモデルデプロイ機能の有効化を選択し、モデルの柔軟性と適応性を向上させます。
  6. ディープシンキングモデルの有効化選択:必要に応じて、ディープシンキングモデルの有効化を選択し、モデルのインテリジェンス処理能力を強化します。
  7. 「保存」をクリック:すべての設定を確認後、「保存」ボタンをクリックしてモデルグループの作成を完了します。

モデルグループチャネル詳細

新規モデルグループ作成後、**「チャネル詳細」**ページに入り、設定済みのすべてのチャネルを確認できます。ニーズに応じて:

  • 新規チャネルの作成
  • 右側の**「Key詳細」**をクリックして、該当チャネルのすべてのキー情報を確認し、新規キーの作成も可能

このページを通じて、各チャネルと対応するAPI Keyを一元管理できます。

当プラットフォームが提供するAPI Keyは高い独立性と認証効力を持っています。各API Keyは独立した「通行証」として、完全なアクセス・呼び出し権限を有します。詳細は以下の通りです。

  • プラットフォームユーザー体系から独立
    API Keyを持つ呼び出し元は、プラットフォームの登録ユーザーである必要はなく、特定のユーザー権限も不要です。有効なAPI Keyをリクエストに含めるだけで、正規認証済みリクエストと見なされ、システムは正常に処理・応答します。

  • ライセンス制限なし
    API Keyによる呼び出しは、プラットフォームのユーザーライセンス枠を消費しません。したがって、企業の実際登録ユーザー数が限られていても、API Keyを通じてより多くのサービス接続や業務シーンを柔軟にサポートでき、追加認証や拡張なしで大規模利用が可能です。

  • ニーズに応じた柔軟な設定
    各API Keyは有効期限や権限範囲(アクセスモジュール、データ範囲など)をニーズに応じて設定でき、異なる接続システムや業務先に適合します。各接続先ごとに独立したAPI Keyを生成することを推奨し、後の管理や利用状況の追跡が容易になります。

⚠️ セキュリティ注意: API Keyは厳重に管理し、漏洩を防いでください。外部に悪用された場合、そのKeyによるすべてのリクエストは完全な権限を持つものと見なされ、データやシステムの安全にリスクをもたらす可能性があります。

モデル設定説明

本製品は以下の強化機能の統合をサポートしており、すべてAzureまたは外部プラットフォームのサービスに依存します。ご自身のニーズに応じて、関連プラットフォームで必要な認証情報(API Key、Endpointなど)を取得してください。

  1. 音声入力機能(Whisperサービス)
    • サービス説明:AzureでWhisperサービスを購入・デプロイし、音声からテキストへの変換機能を実現します。
    • 設定方法:環境変数で複数のWhisper Keyを設定可能。変数名には「Whisper」を含める必要があります。未設定の場合、音声入力ボタンは表示されません。
    • 互換性説明:初期化SQLによるWhisperサービス設定もサポートしており、設定内容は自動的に環境変数に書き込まれ、後から修正可能です。

  1. Azure OCRモード(Azure Document Intelligence)
    • サービス説明:Azure Document IntelligenceをベースにOCR機能を実現し、「Basic」と「Advanced」の2つの認識モードをサポートします。
    • 設定方法:環境変数でAzure OCRモードのKEYとEndpointを設定する必要があります。未設定の場合、該当OCRモードは選択できません。
    • インタラクションヒント:画面は設定状況に応じて選択可能なモードを自動表示し、無効な選択肢は制限されます。

tip
  • サービス購入やAPI Key・Endpointの取得が必要な場合は、Microsoft Azure公式サイトまたは関連サービス提供元ページをご参照の上、適切な料金プランを選択してください。
  • データセキュリティ、応答速度、価格要素を優先的に評価した上で設定することを推奨します。導入サポートが必要な場合は、技術サポートチームまでご連絡ください。