Tag
スマホでのオンデバイスAIはパッケージングとDRAMの制約で実現不可能だが、SK hynixの最新アーキテクチャはそれを覆す可能性
SK hynixは、スマートフォンにおけるオンデバイスAIの実現を阻むパッケージングとDRAMの制約を克服するため、3D積層DRAM-on-logicアーキテクチャを開発中です。これにより、データ転送距離の短縮、転送チャネルの増加、レイテンシ削減、電力効率向上、省スペース化が期待され、スマートフォンが真のオンデバイスAIデバイスとなる可能性を秘めています。
インテリジェントな Android アプリを構築する: オンデバイス推論 | Android Developers' Blog
Android Developers' Blogは、Gemini NanoやML Kitの生成AI APIを活用したオンデバイス推論によるインテリジェントなAndroidアプリ開発について解説しています。記事では、旅程の要約や領収書の解析、ローカル音声処理など、プライバシーを重視した機能の実装方法を具体的に紹介しています。特に、Gemini Nano 4のプロンプトAPIを用いた機能プロトタイピングや、ML Kit GenAI Speech Recognition APIによるオンデバイス音声認識について詳細に説明しており、開発者が手軽に高度なAI機能をAndroidアプリに組み込める方法を示しています。
Pixel 9/10のAI処理が50％高速化、130MBのメモリー節約と電池持ちを改善するグーグル「Gemini Nano v3」新技術とは
Googleは、オンデバイスAI「Gemini Nano v3」モデルの推論性能を高速化するマルチトークン予測（MTP）アーキテクチャを開発しました。Pixel 9/10シリーズで50%以上の速度向上と130MBのメモリ節約、バッテリー持続時間の改善を確認。従来の生成プロセスにおけるボトルネックを解消し、通知要約や文章校正などのAI処理を効率化します。これは、モバイルデバイスの限られたRAM消費問題を解決するため、メインモデルの最終層にTransformerヘッドを追加する手法を取り入れたものです。
Google、スマホで動くオンデバイスAI「Gemma 4 E2B for TPU」をお披露目 ～「Pixel 10」TPUでネイティブ動作
Googleは、インドで開催された「Google I/O India」で、オンデバイスAIの取り組みを発表しました。特に注目は、新モデル「Gemma 4 E2B for TPU」で、これはPixelシリーズに搭載されているTPU上でネイティブに動作するように設計されています。これにより、インターネット接続なしで、プライバシーが保護された状態でAI機能を利用できるようになります。デモンストレーションでは、機内でのAIチャット、写真からの情報識別、オフラインでの文字起こしなどが披露されました。さらに、TPUを活用した「Agent Skills」や、コア機能を操作する「Mobile Actions」といった活用例も示されました。
Googleの最新Pixel AIは、データをスマホ内に留める
GoogleはPixelデバイス向けにオンデバイスAIへの注力を強化し、プライバシー、速度、オフライン機能を向上させています。新しいGemma 4 E2B for TPUは、PixelのTPUに最適化され、AIタスクのローカル処理を可能にし、クラウド接続への依存をなくします。これにより、オフラインでの旅行計画やレシピ提案、音声/テキストによるデバイス操作などが実現し、機密データはユーザーのデバイスに留まります。Googleは、Pixelハードウェア向けのローカルAIアプリケーションを開発するための新しいツールも開発者に提供しています。