定義
カテゴリ: AI Product読み: プロンプトインジェクション関連リソース: 3件
ユーザー入力や外部コンテンツに含まれる指示によって、AIが本来のルールや権限境界を逸脱するよう誘導される攻撃・失敗パターン。
PM Compass Insight: RAGやエージェントでは取得文書も信頼できる命令とは限りません。入力の出所・権限・ツール実行条件を分離して設計します。
ソウAI Product
プロンプトインジェクション
ユーザー入力や外部コンテンツに含まれる指示によって、AIが本来のルールや権限境界を逸脱するよう誘導される攻撃・失敗パターン。
編集部が選んだ関連リソースを優先し、不足分は内容の近さから自動で補っています。
定義やカテゴリが近く、あわせて確認しやすい用語を自動で選んでいます。
Saved Workflow
進捗はこのブラウザのlocalStorageだけに保存します。候補製品名・評価点・PoC結果・Evidence本文は保存しません。