- Private AI
- 構成案
- QuickSolution連携
QuickSolution × Private AI Appliance
貴社のQuickSolutionに、社内で動くローカルLLM(Private AI Appliance)を組み合わせ、生成AIによる回答を社外に出さずに使うための構成案です。実現できるかどうかは、下記の確認事項と検証で判断します。
要点
- QuickSolutionの生成AI連携(RAG)オプションは、接続先としてローカルLLM(gpt-oss等)に対応しています(提供元の公開情報)。
- RAGの回答は質問者の閲覧権限の範囲で作られ、出典が表示されます(QuickSolutionの機能)。
- Private AI Applianceは、ローカルLLMを社内ネットワーク上でOpenAI互換APIとして提供します。
- 両者の接続はまだ検証していません。接続仕様の確認と検証で判断します。
確認事項と進め方#
接続方式は、次の確認結果で決まります。
確認したいこと
- ローカルLLMの接続設定QuickSolutionの管理ツールで、生成AI連携(RAG)の接続先にローカルLLMを指定できるか。できる場合は、その入力項目(接続先URL・APIキー・モデル名など)。
- ご契約内容バージョン、ライセンス種別(QuickSolution/エンジンライセンス。旧:拡張/基本)、ご契約中のオプション(生成AI連携(RAG)・ベクトル検索・MCPサーバ)。
- 社外通信の有無ベクトル検索の処理やライセンス認証など、インターネット接続が必要な機能がないか。
- 配合情報と質問例保管形式(Excel・PDF・データベースなど)と、実際に想定される質問の例(精度の評価に使用)。
- 現在お使いの生成AI用途を問わず、社内で利用中の生成AIとモデル(例: ChatGPTのGPT-5.6 Terra、Microsoft 365 Copilot)と、その回答品質の評価(ローカルLLMとの比較に使用)。
前提
- QuickSolutionは貴社内のサーバーで稼働しています。
- ローカルLLMの接続先は、OpenAI互換API(アプライアンスが対応する形式)で指定できます。
- ローカルLLMの接続設定は、有償の生成AI連携(RAG)オプションの機能です。未導入の場合は追加が必要です(エンジンライセンスでは追加できません)。
- 配合情報は、すでにQuickSolutionの検索対象です。
想定する進め方
- 事前確認上記5点を、必要に応じてQuickSolutionの提供元である住友電工情報システム様にもご確認いただきます。
- 検証生成AI連携(RAG)オプションの接続先をアプライアンスに設定し、実際の質問20〜30件で回答と出典を確認します。オプション未導入の場合は、評価利用を住友電工情報システム様にご相談いただきます。
- 導入住友電工情報システム様の生成AI連携(RAG)オプションとCuonのアプライアンスを社内ネットワークに導入します。
- 運用社員は従来どおりQuickSolutionの画面から質問し、アプライアンスは社外と通信しません。
全体構成#
社内ネットワークの中で、質問から回答までが完結します。
アプライアンスの中身#
役割ごとに分かれた層で構成し、外部へは通信しない構成です。
連携方式の比較#
QuickSolutionのご契約内容に合わせて、二つの方式から選べます。
導入から運用まで#
インターネットに接続しないまま、導入・評価・更新まで行えます。
Private AI Applianceを選ぶ理由#
- 貴社の質問で精度を確認してから導入配合に関する実際の質問(数値・単位を含む)で回答の精度を検証し、その結果を見て導入をご判断いただけます。
- 特定のLLMに縛られないgpt-ossやGemmaなどの公開モデルから選べ、より良いモデルが出れば同じアプライアンスのまま切り替えられます。
- 今のQuickSolutionをそのまま活かすデータ移行は不要です。方式A(図3)なら画面も従来どおり、Bに変える場合も機器はそのまま使えます。
- 導入後もオフラインのまま運用更新や保守のためにインターネットへ接続する必要はありません(図4)。
- 必要な規模から始められる最小構成はGPU1台のワークステーション(図2)です。
- 他の社内ツールにも使えるOpenAI互換APIで応答するため、翻訳や報告書の要約など、QuickSolution以外からも同じアプライアンスを利用できます。