Ngày xuất bản: 14 tháng 5 năm 2024
Suy luận bằng AI phía máy khách diễn ra trên thiết bị, có thể mang lại hiệu quả đáng kinh ngạc cùng với mọi chế độ thiết lập phía máy chủ hiện có. AI tích hợp sẵn là một dạng AI phía máy khách, đưa các mô hình vào trình duyệt, bảo vệ dữ liệu nhạy cảm và cải thiện độ trễ.
- Quyền riêng tư và tính bảo mật: AI phía máy khách cho phép bạn làm việc với dữ liệu cục bộ, điều này ảnh hưởng lớn đến khả năng làm việc với dữ liệu nhạy cảm, đồng thời giúp dữ liệu luôn an toàn và riêng tư. Bạn có thể cung cấp các tính năng AI cho người dùng có sử dụng phương thức mã hoá hai đầu.
- Tính sẵn có cao hơn: AI phía máy khách có thể giúp người dùng có được tính sẵn có cao hơn. Thiết bị của người dùng có thể đảm nhận một phần tải xử lý để đổi lấy quyền truy cập vào nhiều tính năng AI hơn. Nếu sản phẩm của bạn cung cấp dịch vụ cao cấp, bạn có thể cân nhắc cung cấp một cấp miễn phí với các tính năng AI phía máy khách để giúp khách hàng của bạn có cái nhìn sơ bộ về những gì dịch vụ cao cấp mang lại.
AI chạy trên phía máy khách không thể thay thế và sao chép hoàn toàn công việc bạn thực hiện trên đám mây. Sau tất cả, các máy chủ đều cực kỳ mạnh mẽ và có thể lưu trữ các mô hình lớn, phức tạp để mang lại kết quả nhanh chóng.
Phía máy khách không phải lúc nào cũng là lựa chọn phù hợp, vì vậy, trước khi tiếp tục, chúng tôi muốn nhắc bạn về một số phương pháp hay nhất:
- Thiết kế các tính năng của bạn bằng các phương án dự phòng phù hợp và chạy các phép đo điểm chuẩn trên thiết bị mục tiêu. Không phải thiết bị nào cũng có thể đóng vai trò là một trung tâm AI.
- Xây dựng cho các trường hợp sử dụng cụ thể. AI phía máy khách hoạt động hiệu quả nhất cho các trường hợp sử dụng cụ thể. Các mô hình này vốn nhỏ hơn so với những mô hình thường thấy trong AI phía máy chủ. Chia quy trình của bạn thành các bước có mục tiêu và tận dụng quá trình xử lý trước và sau, để các mô hình nhỏ hơn vẫn có thể đưa ra phản hồi tốt nhất có thể.
- Đưa ra yêu cầu tải xuống một cách có chiến lược. Các mô hình AI có thể có kích thước lớn, điều này có thể dẫn đến việc sử dụng nhiều dữ liệu di động và bộ nhớ thiết bị. Đảm bảo rằng bạn đang xây dựng một tính năng hữu ích cho người dùng và bạn có một chiến lược phân phát và lưu vào bộ nhớ đệm có trách nhiệm.
Chia sẻ ý kiến phản hồi của bạn
Chúng tôi muốn biết những trường hợp sử dụng nào mà bạn quan tâm nhất và ý kiến phản hồi của bạn về cách tiếp cận của chúng tôi. Bạn có thể chia sẻ ý kiến phản hồi và tham gia Chương trình dùng thử sớm để kiểm thử bằng các nguyên mẫu cục bộ.
Đóng góp của bạn có thể giúp chúng tôi biến AI thành một công cụ mạnh mẽ nhưng thiết thực cho tất cả mọi người.
Bắt đầu bằng các API AI tích hợp sẵn trong Chrome.