「やるぞ、Cloudflare Workers AI上のOSSモデルへ全面移行！」と意気込んだけど、見送らざるを得なかった話

Cloudflare Workers AI上のOSSモデルへの移行を試みたが、見送らざるを得なかった。各社APIのCloudflare版をWorkersの隣で動かせると期待したが、実際は単純ではなかった。

• Cloudflare Workers AI上のOSSモデルへの全面移行を見送ることが決定された。
• OSSモデルはSchema不適合、誤検出、同期APIでの長い待ち時間といった問題があった。
• @cf/ プレフィックスはCloudflare版APIではなく、キュレーションされたOSSモデルを指す。
• 外部の商用モデル（OpenAI, Vertex AI, Anthropic）は構造化出力と速度で優位性があった。
• 移行条件はJSON Schema適合、レスポンス速度維持、費用削減だった。