スマホのWebGPUで分散AI基盤を作ろうとしたら精度差で出力が分岐した話（ArcAsha-OS開発記）

スマホのWebGPUを活用し、分散AI基盤ArcAsha-osを開発。個人のスマホ群を連携させ、データセンターに依存しないAI基盤構築を目指す取り組みについて解説。

• スマホ群を接続し、分散AI基盤ArcAsha-OSを構築する実験に成功した。
• MacのMasterとiPhone（WebGPU+WebSocket）をエッジノードとして接続した。
• 異種ランタイム間（PyTorch vs ONNX/WebGPU）での精度差による出力分岐現象を検証した。
• Logit Marginが0.02以下の微小な差でFP16の丸め誤差により出力が分岐するメカニズムを特定。
• ゼロコピーバイナリプロトコルや、異種ランタイム間の振る舞いの違いを吸収する仕組みを導入。