使用裝置端 AI 的優點

Maud Nalpas
Maud Nalpas
Kenji Baheux
Kenji Baheux
Alexandra Klepper
Alexandra Klepper

裝置端 AI 是最新的服務,可為使用者提供強大的模型,同時保護機密資料並縮短延遲時間。

您在雲端工作,無法在裝置端完全取代及複製工作。畢竟,伺服器極為強大,能夠容納大型、複雜的模型,同時仍能快速提供結果。然而,與任何現有的伺服器端設定搭配使用,裝置端可能會帶來一些驚豔的可能性。

  • 隱私權和安全性:裝置端 AI 可讓您在本機處理資料,大幅影響您處理機密資料的能力,並保障資料的安全性。您可以透過端對端加密為使用者提供 AI 功能。
  • 可用性更高:裝置端 AI 有助於讓使用者享有更高的可用性。使用者的裝置可能會承受部分處理負載,進而交換更多 AI 功能的存取權。如果您的產品提供付費服務,您可以考慮提供裝置端 AI 功能的免費方案,協助客戶概略瞭解進階服務提供的內容。

裝置端未必是正確的選擇,因此在進一步探討前,我們想先提醒您以下幾項最佳做法:

  1. 使用安全備用機制設計功能,並在目標裝置上執行基準測試。並非所有裝置都能做為 AI 驅動工具。
  2. 針對特定用途建構。裝置端 AI 最適合特定用途模型本身比伺服器端 AI 通常小得少,將處理程序細分為具體的步驟,並善用預先和後續處理,讓小型模型仍可提供最佳回應。
  3. 制定符合下載規定的策略。AI 模型規模可能相當龐大 可能會導致大量使用行動數據和裝置儲存空間請確認您為使用者建構的有用功能,且擁有負責任的提供與快取策略。

提供意見

我們想瞭解您最感興趣的用途,以及對我們的方法的意見。您可以提供意見及要求加入搶先體驗預先發布版計畫,使用本機原型進行測試。

你的貢獻可以幫助我們將 AI 打造成功能強大而實用的工具,造福所有使用者。