AI di perangkat adalah penawaran terbaru untuk menghadirkan model yang canggih kepada pengguna, sekaligus melindungi data sensitif dan meningkatkan latensi.
Di perangkat tidak dapat sepenuhnya mengganti dan mereplikasi pekerjaan yang Anda lakukan di cloud. Lagi pula, server sangat canggih dan mampu menampung model yang besar dan kompleks, serta tetap memberikan hasilnya dengan cepat. Namun, di perangkat dapat membuka beberapa kemungkinan luar biasa bersamaan dengan penyiapan sisi server yang ada.
- Privasi dan keamanan: AI di perangkat memungkinkan Anda menangani data secara lokal, yang sangat memengaruhi kemampuan Anda untuk bekerja dengan data sensitif dan menjaganya tetap aman dan bersifat pribadi. Anda dapat menawarkan fitur AI kepada pengguna dengan enkripsi end-to-end.
- Ketersediaan yang lebih besar: AI di perangkat dapat membantu mencapai ketersediaan yang lebih besar bagi pengguna. Perangkat pengguna Anda dapat memikul sebagian beban pemrosesan dengan imbalan lebih banyak akses ke fitur AI. Jika produk Anda menawarkan layanan premium, Anda dapat mempertimbangkan paket gratis dengan fitur AI di perangkat untuk membantu pelanggan melihat sekilas apa yang disediakan layanan premium.
Di perangkat tidak selalu merupakan pilihan yang tepat, jadi sebelum kita melangkah lebih jauh, kami ingin mengingatkan Anda tentang beberapa praktik terbaik:
- Desain fitur Anda dengan penggantian yang halus dan jalankan benchmark di perangkat target. Tidak semua perangkat dapat berfungsi sebagai pembangkit tenaga AI.
- Membuat aplikasi untuk kasus penggunaan tertentu. AI di perangkat berfungsi paling baik untuk kasus penggunaan tertentu. Model ini jauh lebih kecil daripada model yang biasanya ditemukan di AI sisi server. Bagi proses Anda menjadi beberapa langkah yang ditargetkan dan manfaatkan pra-pemrosesan dan pasca-pemrosesan, sehingga model yang lebih kecil masih dapat memberikan respons terbaik.
- Gunakan strategi tentang persyaratan download. Model AI bisa berukuran besar, yang dapat mengakibatkan penggunaan data seluler dan penyimpanan perangkat yang besar. Pastikan Anda membuat fitur yang berguna bagi pengguna, serta memiliki strategi penayangan dan cache yang bertanggung jawab.
Bagikan masukan
Kami ingin mengetahui kasus penggunaan yang paling menarik bagi Anda dan masukan Anda tentang pendekatan kami. Anda dapat memberikan masukan dan meminta untuk bergabung dengan program pratinjau awal guna menguji dengan prototipe lokal.
Kontribusi Anda dapat membantu kami menjadikan AI sebagai alat yang canggih tetapi praktis bagi semua orang.