AIに仕事を奪われる不安から始めるハーネス作成入門 第19回 機密情報をLLMに渡さないハーネス設計

本記事は、AIエージェント利用時の機密情報漏洩リスクと、それを回避するためのハーネス設計について解説しています。LLMに機密情報を渡さないための具体的な設計手法に焦点を当て、AI開発におけるセキュリティの重要性を強調しています。

• AIエージェント利用時の機密情報漏洩リスクと、それを防ぐためのハーネス設計について解説している。
• 機密情報がLLMに渡る経路として、プロンプト直接入力、RAG、ツール応答、ログ記録の4つが挙げられている。
• SEの経験を活かした情報分類（機密、社内限定、公開可）に基づき、AIハーネスでの扱い方を提案している。
• 入力フィルタ、マスキング、通信制御、出力検証などの多層防御による対策が紹介されている。