AIシステムのセキュリティ診断サービス

AIシステムのセキュリティ診断とは

AI技術の業務活用が急速に進む一方で、AIモデルの誤出力や情報漏えい、不正利用といった新たな脅威が増加しています。ユーザーの入力を悪用してAIの動作を意図的に変える「プロンプトインジェクション」や、内部設定・機密情報が AI の応答に含まれてしまうといったリスクが指摘されています。さらに、誤った回答や不正な利用によって業務に支障をきたすリスクも指摘されています

こうしたリスクに対し、従来のWebアプリケーション向けの診断だけでは不十分なケースも少なくありません。本サービスでは、LLMを活用したAIアプリケーション特有のリスクを検査・分析。生成AI時代のセキュアなアプリケーション開発・運用を支援します。

＼　無料相談受付中！　／

お問い合わせはこちらから

AI特有のリスクとは？

AI特有の新たな脅威が増加
AIの普及に伴い、プロンプトインジェクションや学習データの汚染、モデル情報の漏えいといった、従来のWebアプリケーションには無かった、新たなセキュリティリスクへの対策が必要となります
機密情報漏えいのリスクが高まっている
AIシステムは、入力内容やモデル内部のプロンプト、学習データなどに機密情報が含まれる場合があり、適切な制御が行われないと、ユーザーデータやシステム内部情報が出力されるリスクがある
誤出力や不正利用による業務影響
AIの出力は常に正確とは限らず、誤情報の発信や不適切な応答は、意思決定の誤りや業務への支障だけでなく、企業の信用失墜やブランド価値の低下を招く可能性がある

AIシステムのセキュリティ診断で確認できること

大規模言語モデル（LLM）との対話機能を組み込んだWebアプリケーションに対して脆弱性診断を行います。ユーザーの入力に応じて対話や応答を行うAI機能に対して、AI特有のリスクの発生有無を検査し、見つかった問題点を改修することで、不適切な応答・機密情報の漏洩・外部連携の悪用、などのリスクを低減することができます。

意図的に特殊な質問や命令を送ることで、想定外の動作が発生しないか
機密情報や認証情報などが意図せず出力されていないか
外部連携している場合、APIや外部ツール経由での不正利用リスクがないか

診断項目

診診断項目	診断内容
プロンプトインジェクション	ユーザの入力などにより、想定外の応答や動作が発生しないか確認します。また、許可されていないコンテンツ（違法な指示、ヘイトスピーチ、著作権で保護されたテキストなど）の制御が適切に行われているか、システムが想定している範囲の応答のみが行われるか確認します。
機密情報・システムプロンプトの漏洩	機密情報やシステムプロンプト、認証情報、社内用データなどが、ユーザ入力によって意図せず取得できないか確認します。
コード実行・スクリプト誘発	ユーザ入力の内容を通じて、OSコマンドインジェクションやSQLインジェクション、クロスサイトスクリプティング（XSS）などの、Webアプリケーションにおける従来型の脆弱性の有無を確認します。
ツール・外部連携機能の悪用	AIがAPI、データベース、ファイル操作、メール送信などの機能と連携している場合、ユーザ入力によって不正な操作が行われないか確認します。

Proactive Defenseのセキュリティ診断を選ぶ理由

AI活用システムを自社開発しているがゆえの知見: KDL では、セキュリティサービスの提供に加え、生成 AI を組み込んだシステムや業務支援アプリケーションの開発も数多く手がけています。そのため、セキュリティの専門知識と、開発現場で培った AI システム構築のノウハウを組み合わせ、開発チームが取り組みやすい形で改善提案を行うことが可能です。システム開発、AI、セキュリティの三要素を理解しているからこそ、実務にフィットした支援を提供できます。
診断サービスの導入実績が豊富: 情報セキュリティサービス「Proactive Defense」では、2008年頃からWebアプリケーションやプラットフォームなど多岐にわたる診断サービスを実施しており、豊富な実績とノウハウを蓄積しています。これまで培った知見をもとに、AIシステム特有のリスクにも対応した信頼性の高い診断を提供します。

サービスの進め方

STEP

事前相談

診断対象システムに関する概要をヒアリングさせていただき、本サービスが適切かをご案内させていただきます。

STEP

診断

お客様のシステム環境についての情報をご提供いただきます。
日程調整の上、診断を実施します。

STEP

報告会

診断結果をご報告させていただきます。
報告結果に対するご質問にも後日フォローアップを実施させていただきます。(対応期限有)

価格

価格：要お見積り

お客様環境により価格が変動しますので、まずは一度ご相談ください。

＼　無料相談受付中！　／

お問い合わせはこちらから

よくあるご質問

診断対象となるAIシステムの範囲を教えてください: ユーザー入力を基にしたチャット機能や自動応答機能など、LLMを活用したWebアプリケーションが診断対象となります。
どのLLMサービスに対応していますか: OpenAIなど主要なLLMサービスに対応しています。その他のサービスについてもお気軽にご相談ください。
開発段階のシステムでも診断を依頼できますか: 開発・検証環境での診断にも対応しており、早期にリスクを把握することで安全な本番リリースを支援します。
見積にあたって、どのような情報が必要でしょうか: 以下をご提示ください。システムの概要によって追加でヒアリングなどさせていただく場合がございます。
※すべて揃わない場合も、お気軽にご相談ください。

AIモデルの種類

アクセス情報

システムの概要（画面遷移図/機能一覧など）
診断にあたって、どのような情報が必要でしょうか: 以下をご提示ください。システムの概要によって追加でヒアリングなどさせていただく場合がございます。
※すべて揃わない場合も、お気軽にご相談ください。

AIモデルの種類

アクセス情報

システムの概要（画面遷移図/機能一覧など）

プロンプト構成
LLM以外のAIを利用しているシステムも診断可能ですか: 現時点ではLLMを利用したシステムを対象としていますが、その他のAIを活用したシステムについても個別に対応可能な場合があります。お気軽にご相談ください。
プロンプトインジェクションなどの攻撃にはどのように対策できますか: システムプロンプトやユーザー入力制御の状況を確認し、プロンプト設計やシステムの改善策をご提案します。