Maud Nalpas
Kenji Baheux
Alexandra Klepper
オンデバイス AI は、機密データを保護し、レイテンシを改善しながら、ユーザーに強力なモデルを提供する最新のサービスです。
デバイス上で行う作業を、デバイス上で完全に置き換えて複製することはできません。サーバーは非常に強力で、大規模で複雑なモデルを保持し、結果を迅速に提供できます。ただし、デバイス上では、既存のサーバーサイド セットアップに加えて、いくつかの驚くべき可能性を解き放つことができます。
- プライバシーとセキュリティ: オンデバイス AI を使用すると、データをローカルで操作できます。これは、機密データを扱って安全性とプライバシーを確保する能力に大きな影響を与えます。エンドツーエンドの暗号化を使用して、ユーザーに AI 機能を提供できます。
- 可用性の向上: オンデバイス AI は、ユーザーの可用性の向上に役立ちます。AI 機能へのアクセスを増やす代わりに、ユーザーのデバイスが処理負荷の一部を担うことができます。製品でプレミアム サービスを提供する場合は、ユーザーがプレミアム サービスの概要を垣間見ることができる、オンデバイスの AI 機能を備えた無料枠を検討できます。
オンデバイスが常に正しい選択であるとは限らないため、次に進む前に、ベスト プラクティスをいくつか紹介します。
- 正常なフォールバックを使用して機能を設計し、ターゲット デバイスでベンチマークを実行します。すべてのデバイスが強力な AI として機能できるわけではありません。
- 特定のユースケース向けに構築する。オンデバイス AI は、特定のユースケースに最適です。これらのモデルは本質的に、サーバー側の AI で通常使用されるものよりも小さくなります。プロセスをターゲットのステップに分割し、前処理と後処理を利用します。これにより、小規模なモデルでも最善のレスポンスを提供できます。
- ダウンロード要件は戦略的に決めます。AI モデルの規模は大きくなる場合があり モバイルデータとデバイスのストレージが大量に使用される可能性がありますユーザーにとって有用な機能を構築し、責任を持ってサービングとキャッシュ保存の戦略を策定してください。
フィードバックをお寄せください
特に関心が高いユースケースや、Google のアプローチに関するフィードバックをお待ちしています。フィードバックを共有し、早期プレビュー プログラムへの登録をリクエストして、ローカル プロトタイプでテストできます。
皆様のご協力は、AI を強力でありながら実用的なツールにするために役立てられます。