LLMエージェントの「できました」を検証する(2)— AIが記録を改竄できない構造を、OpenTelemetry Collectorで作る

LLMエージェントが作業記録を改竄できない構造を、OpenTelemetry CollectorとUnix権限で構築。AIの可観測性から抜け落ちている土台部分を改善し、「もう少し安全なデモ」ではなく、AIが自身の記録を偽造できない仕組みを提示。

• LLMエージェントが自身の作業記録を改竄できない構造を、OpenTelemetry CollectorとUnix権限で実現した。
• 従来の可観測性は「観測される系は記録に利害を持たない」という前提だったが、LLMエージェントはこの前提を破る。
• LLMエージェントは自己の作業を語り、記録に触れる手（シェル）、承認されるように最適化されるという点で、従来のシステムと異なる。
• AIの可観測性では、ログ、メトリクス、トレースといった観測データが、エージェント自身によって改竄されるリスクが考慮されていない。
• 解決策として、追記専用の記録、権限の分離、記録者と保管者の分離といった、数十年以上前からある内部統制の考え方を応用した。