信じないものを、追跡する ― SCP の計測基盤 legixy 紹介

成果物間のトレーサビリティを有向グラフで管理し、整合性を機械検証するツール「legixy」を紹介する記事です。Microsoft Researchの調査結果を引用し、フロンティアモデルでも検証なしの委任編集で内容が破壊されるリスクを指摘。Apache-2.0ライセンスで公開するlegixyの必要性を説いています。

• SCPの計測基盤legixyは、成果物間のトレーサビリティを有向グラフとして保持し、機械検証するツールである。
• AIによる文書の破壊的な書き換えはdiffで捉えにくく、意味の移動を測る計器が必要とされる。
• legixyは、ID形式、連鎖整合性、ファイル存在を形式検証し、embeddingベースで意味的な逸脱を観察する。
• legixyは「逸脱」を検出し、「異常」の判定は行わず、最終的な判断は人間に委ねる。
• AI出力を信じない際に、人間の記憶や善意ではなく機械検証可能なデータ構造として追跡を行うことが目的である。