Maud Nalpas
Kenji Baheux
Alexandra Klepper
發布日期：2024 年 5 月 14 日
用戶端 AI 推論會在裝置端進行，搭配現有的伺服器端設定，可發揮強大效用。內建 AI 是用戶端 AI 的一種形式，可將模型帶到瀏覽器，保護私密資料並改善延遲。
- 隱私權和安全性：用戶端 AI 可讓您在本地處理資料，大幅提升處理敏感資料的能力，同時確保資料安全無虞。您可以為啟用端對端加密功能的使用者提供 AI 功能。
- 提高可用性：用戶端 AI 可協助提高使用者可用性。使用者裝置可分擔部分處理負載，換取更多 AI 功能的使用權。如果產品提供進階服務，可以考慮推出免費方案，並提供用戶端 AI 功能，讓顧客瞭解進階服務的內容。
執行用戶端 AI 無法完全取代及複製您在雲端執行的工作。畢竟伺服器功能強大，可容納大型複雜模型，並快速提供結果。
用戶端不一定是正確的選擇，因此在繼續之前，我們想提醒您一些最佳做法：
- 設計功能時，請採用安全的回退機制，並在目標裝置上執行基準測試。並非所有裝置都能成為 AI 強大後盾。
- 為特定用途建構。用戶端 AI 最適合特定用途。這些模型本質上比伺服器端 AI 中常見的模型小。將程序分解為目標步驟，並運用前處理和後處理，讓較小的模型仍能提供最佳回應。
- 策略性地設定下載規定。AI 模型可能很大，因此可能會大量使用行動數據和裝置儲存空間。請確保您為使用者建構實用功能，並採用負責任的放送和快取策略。
提供意見
我們想瞭解您最感興趣的使用案例，以及您對我們做法的意見。您可以分享意見並加入搶先體驗方案，使用本機原型進行測試。
你的貢獻有助於我們將 AI 打造為實用又強大的工具，造福所有人。