LLM推論初出 7/31 02:58
AISPA：大規模言語モデルアプリケーションのためのユーザー中心システムプロンプト監査
AISPA: User-Centric System Prompt Auditing for Large Language Model Applications
https://export.arxiv.org/api/query·2026/7/30
AI要約
システムプロンプトはAIアプリケーションの基盤モデルの動作を指示しますが、その開示が少ないため、信頼性と説明責任のギャップが生じています。本研究では、AISPAというユーザー中心のフレームワークを提案し、AIシステムにおけるシステムプロンプトを体系的に監査します。
AI要点
- 大規模言語モデル(LLM)アプリケーションにおけるシステムプロンプトの監査フレームワークAISPAを提案。
- AISPAは、ユーザー視点の8つの次元でシステムプロンプトを評価し、保護的か問題かを分類。
- 88の商用AI製品の3,249のシステムプロンプトを監査した結果、問題のある指示が依然として多いことを発見。
- システムプロンプトは長くなり保護的になる傾向があるが、ユーザーの利益に反する指示も依然として普及していることを指摘。
なぜ重要か
AISPAは、LLMアプリケーションにおけるシステムプロンプトの透明性と説明責任を強化するための体系的な監査手法を提供し、AIシステムの信頼性とユーザー保護の向上に貢献する。