AI任せで痛感した反省を活かす、ブラックボックス化を防ぐチャットボット実装

AIに実装を任せたチャットボット開発で発生したブラックボックス化や不具合の反省を活かし、AIへの指示方法を見直した記録。自社ホームページへの組み込み方法も解説。

• AIにチャットボット実装を任せた結果、ブラックボックス化し、テストが通っても不具合が残る問題が発生しました。
• AIへの指示方法を見直し、実装前に複数のチャットボット実装候補（ノーコード、ルールベース、LLM連携、ハイブリッド）をAIに提示させ比較検討しました。
• LLMモデル選定では、提供元（Claude, OpenAI, Azure OpenAI）、推論処理のプロンプト実行場所、モデルごとの料金比較をAIと相談しながら行いました。
• HP側（フロントエンド）とAPI側（Azure Functions）それぞれで、文字数制限、レート制限、CORS制限、reCAPTCHA検証、プロンプトインジェクション対策などの不正アクセス対策を実施しました。