LLM推論初出 8/24 18:45
第1回 ローカルLLMだけで動く音声アシスタント(JARVIS)を作ってみた
https://zenn.dev/topics/ai/feed2026/8/24
AI要約
ローカルLLMを活用し、MacBook Pro M5proで執事型AI(JARVIS)を構築した体験談。全5回シリーズの第1回として、AIの概要、ローカルLLMを使用する理由、システム構成について解説しています。
AI要点
- ローカルLLMのみで動作する音声アシスタント(JARVIS)がMacBook Pro M5pro 48GBモデルで開発された。
- ローカルLLMを使用する理由は、機密情報(医療現場の話題など)を外部に送信できない、応答速度が速い、トークン使用量に制限がないことである。
- AIアシスタントの構成は、Mac上でopenWakeWord、faster-whisper、pipeline.py、40の「担当」コード、Ollama、VOICEVOXなどが連携する。
- 「今日のタスク教えて」のような定型的な依頼はLLMを経由せず、専用のコマンドで処理し、LLMは担当がいない場合にのみ利用される。
- 実際には「予定・シフト」「Notionタスク」「統合コックピット」などの業務で毎日利用され、ログが995件蓄積されている。
なぜ重要か
ローカルLLMを活用することで、機密性を保ちつつ高速な応答を実現するAIアシスタントを構築できる。これにより、医療現場など機密情報を取り扱う分野でのAI活用が現実的になる。