Ngày xuất bản: 5 tháng 8 năm 2024
Nhóm Chrome rất vui khi thấy sự nhiệt tình của mọi người đối với Prompt API trong Chrome, một phần của nỗ lực tích hợp AI. Chúng tôi đã công bố thử nghiệm này tại Google I/O vào tháng 5 vừa qua, cùng với cơ hội đăng ký tham gia chương trình xem trước sớm. Bằng cách đăng ký, bạn có thể thử các API ở giai đoạn đầu, chẳng hạn như Prompt API, đồng thời có cơ hội chia sẻ ý kiến phản hồi về cách bạn đang sử dụng các API này trong nguyên mẫu cục bộ.
AI tích hợp và API Lời nhắc vẫn còn ở giai đoạn đầu. Chúng tôi hy vọng bạn sẽ tiếp tục hào hứng trong suốt quá trình thử nghiệm này, vì chúng tôi sẽ thay đổi API và cách triển khai API để giải quyết ý kiến phản hồi của bạn và giúp bạn dễ dàng sử dụng hơn.
Tại sao chúng tôi chạy thử nghiệm này?
Chúng ta còn phải học hỏi nhiều. Doanh nghiệp của bạn có những nhu cầu nào có thể hưởng lợi từ AI? Bạn có muốn cung cấp cho người dùng những tính năng nào nhưng không thể do chi phí quá cao, các quy định hạn chế về quyền riêng tư hoặc lo ngại về độ trễ không? Làm cách nào để chúng tôi có thể giúp bạn bắt đầu sử dụng công nghệ này dễ dàng hơn mà không cần đầu tư đáng kể hoặc có kiến thức chuyên sâu về AI?
Một trong những cách tốt nhất để học là thử nghiệm. Vì vậy, chúng tôi đề xuất và xây dựng các API để cung cấp cho bạn quyền truy cập vào các chức năng thử nghiệm, mới mẻ do các LLM trên thiết bị cung cấp, chẳng hạn như Gemini Nano.
Chrome cung cấp nhiều API thử nghiệm cho nhà phát triển. Bạn có thể truy cập các API này bằng cờ Chrome. Về cơ bản, đây là các nút chuyển bật hoặc tắt các chức năng cụ thể của trình duyệt. Cờ là một cách để chúng tôi kiểm thử giả thuyết và thu thập ý kiến phản hồi của nhà phát triển khi bạn tạo nguyên mẫu và thử nghiệm. Các API có thể thay đổi thường xuyên dựa trên phản hồi này và không có gì đảm bảo rằng chúng sẽ được phát hành. Chúng tôi có thể ngừng sử dụng một cờ nếu cờ đó không đáp ứng được kỳ vọng hoặc chúng tôi có thể nhận thấy rằng mình cần giải quyết một vấn đề khác với dự kiến ban đầu.
Quá trình phát triển API mới là một quá trình lâu dài và các cờ thử nghiệm này giúp chúng tôi tìm hiểu, thích ứng và đổi mới một cách hiệu quả.
Đối với AI tích hợp, chúng tôi cần ý kiến phản hồi của bạn để đảm bảo rằng chúng tôi xây dựng các tính năng có trường hợp sử dụng thực tế, thiết thực và đáp ứng kỳ vọng về hiệu suất và chất lượng của bạn. Đó là lý do chúng tôi mời bạn tham gia chương trình xem trước sớm – giúp chúng tôi xây dựng các API AI mà bạn muốn sử dụng.
Chúng ta đang xây dựng gì?
Chúng tôi đang xây dựng hai loại API cho AI tích hợp:
- API tác vụ cho phép nhà phát triển truy cập vào các tính năng AI tích hợp, chẳng hạn như API bản dịch hoặc API tóm tắt. API tác vụ được thiết kế để chạy suy luận dựa trên các mô hình đã thiết lập sẵn cho bài tập.
- API khám phá chủ yếu dành cho việc tạo bản mô hình cục bộ. Với các API này, chúng tôi dự định yêu cầu ý kiến phản hồi, xác nhận các giả định và xác định những API tác vụ mà chúng tôi sẽ xây dựng trong tương lai. Do đó, API khám phá có thể không bao giờ khởi chạy.
Giờ đây, các thành viên tham gia chương trình xem trước sớm của chúng tôi có thể thử nghiệm với Prompt API để gửi các yêu cầu bằng ngôn ngữ tự nhiên đến Gemini Nano trong Chrome. Nội dung giải thích về Prompt API khác với cách triển khai hiện tại, vì chúng tôi hy vọng có thể triển khai thêm các phương thức và tính năng nâng cao theo thời gian.
Dựa trên ý kiến phản hồi có giá trị của các thành viên tham gia chương trình xem trước sớm, chúng tôi nhận thấy rằng API tác vụ chuyên dụng có thể không phải là giải pháp tốt nhất cho mọi trường hợp sử dụng. Những người tham gia bản dùng thử sớm đang thấy tiềm năng của các API tác vụ tập trung và API Lời nhắc linh hoạt hơn. Để tìm hiểu thêm về vấn đề này, chúng tôi đang xác định xem có thể cung cấp Prompt API trong các tiện ích Chrome hay không.
Prompt API trong tiện ích của Chrome
Tiện ích Chrome sẽ cho phép bạn thử nghiệm trong môi trường thực tế và giúp chúng tôi có được thông tin chi tiết chuyên sâu hơn. Dựa trên những phát hiện này, chúng ta có thể tinh chỉnh API để giải quyết tốt hơn các trường hợp sử dụng thực tế.
Mục tiêu của chúng tôi là sử dụng phạm vi đơn giản hơn này để kiểm thử một số ý tưởng, tìm hiểu hiệu quả hơn so với các nguyên mẫu riêng biệt, từ đó hỗ trợ API chất lượng cao hơn.
Đề xuất này vẫn đang được xem xét, vì vậy, chúng tôi chưa có tiến trình chi tiết về thời điểm Prompt API sẽ có trong Tiện ích Chrome.
Tiếp theo là gì?
Chúng tôi còn nhiều việc phải làm trong chương trình xem trước sớm và cuối cùng, chúng tôi sẽ tạo bản dùng thử theo nguyên gốc để thu thập thêm ý kiến phản hồi có giá trị từ nền tảng web và cung cấp các API thử nghiệm khác, theo quy trình ra mắt của Chromium. Chúng tôi đang cộng tác với các nhà cung cấp trình duyệt khác để có thể chuẩn hoá nhiều API tích hợp nhất có thể.
Khi có tiến trình, chúng tôi sẽ chia sẻ tiến trình đó trên blog Chrome dành cho nhà phát triển và với danh sách gửi thư. Hãy đăng ký để đảm bảo bạn thấy những thông báo này.
Có rất nhiều sự đổi mới đang diễn ra và chúng tôi rất vui mừng khi AI ưu tiên web ngày càng xuất hiện nhiều hơn. AI tích hợp chỉ là một phần của câu chuyện đó. Mục tiêu của chúng tôi là tìm hiểu nhiều nhất có thể để đảm bảo đáp ứng nhu cầu và kỳ vọng của bạn
Chúng tôi hiểu rằng bạn có thể muốn biết thêm thông tin. Bạn nên đăng ký chương trình xem trước sớm và danh sách gửi thư công khai về thông báo dành cho nhà phát triển AI của Chrome.