NVIDIA NeMo Guardrails: LLMアプリケーションに安全性を追加するためのオープンソースツールキット

NeMo Guardrailsは、LLMベースの対話システムにプログラム可能なガードレールを簡単に追加するためのオープンソースツールキットです。Colangという言語を使用し、テキスト生成AIアプリケーションに安全性、信頼性、倫理性を確保するための制御（例：特定のトピックから外れない、特定の応答形式に従う、機密情報を抽出するなど）を定義します。