安全機構を外したLLMは、いま誰が売っているのか

Kimi K3の重みが公開され、2.8兆パラメータというオープンモデルとしては最大級のものが登場しました。しかし、その公開前後に安全機構が取り除かれたモデルも出回っており、その現状について論じています。

• 安全機構を外した大規模LLM（2.8兆パラメータKimi K3ベース）のAPI販売業者は見つかりませんでした。
• その理由は、倫理や規制ではなく、原価（計算資源）の問題であると分析されています。
• プロンプトによるジェイルブレイクと異なり、モデルの重み改変（abliteration）は防御が困難です。