Ngày xuất bản: 5 tháng 8 năm 2024
Nhóm Chrome rất vui khi thấy sự nhiệt tình đối với Prompt API trong Chrome, một phần trong nỗ lực tích hợp AI. Chúng tôi đã công bố thử nghiệm này tại hội nghị Google I/O vào tháng 5 vừa qua, cùng với cơ hội đăng ký tham gia Chương trình dùng thử sớm (EPP). Khi đăng ký, bạn có thể dùng thử các API ở giai đoạn đầu (chẳng hạn như Prompt API) và có cơ hội chia sẻ ý kiến phản hồi về cách bạn đang sử dụng những API này trong các nguyên mẫu cục bộ.
AI tích hợp và Prompt API vẫn đang ở giai đoạn đầu. Chúng tôi hy vọng bạn sẽ tiếp tục hào hứng trong suốt quá trình thử nghiệm này, vì chúng tôi sẽ thay đổi API và cách triển khai API để giải quyết ý kiến phản hồi của bạn và giúp bạn dễ dàng sử dụng hơn.
Tại sao chúng tôi tiến hành thử nghiệm này?
Chúng ta còn nhiều điều phải học. Bạn có nhu cầu kinh doanh nào có thể hưởng lợi từ AI không? Có những tính năng mà bạn muốn cung cấp cho người dùng nhưng không thể do chi phí quá cao, các hạn chế về quyền riêng tư hoặc lo ngại về độ trễ không? Làm cách nào để bạn có thể dễ dàng bắt đầu sử dụng công nghệ này mà không cần đầu tư nhiều hoặc có kiến thức chuyên sâu về AI?
Một trong những cách học hiệu quả nhất là thông qua thử nghiệm. Vì vậy, chúng tôi đang đề xuất và xây dựng các API để cấp cho bạn quyền truy cập vào các chức năng mới, thử nghiệm do LLM trên thiết bị cung cấp, chẳng hạn như Gemini Nano.
Chrome cung cấp nhiều API thử nghiệm cho nhà phát triển. Bạn có thể truy cập vào các API này bằng cờ Chrome. Đây về cơ bản là các công tắc bật hoặc tắt các chức năng cụ thể của trình duyệt. Cờ là cách để chúng tôi kiểm tra các giả thuyết và thu thập ý kiến phản hồi từ nhà phát triển khi bạn tạo nguyên mẫu và thử nghiệm. Các API có thể thay đổi thường xuyên dựa trên ý kiến phản hồi này và không có gì đảm bảo rằng các API đó sẽ được phát hành. Chúng tôi có thể ngừng sử dụng một cờ nếu cờ đó không đáp ứng được kỳ vọng hoặc chúng tôi có thể nhận thấy mình cần giải quyết một vấn đề khác so với dự kiến ban đầu.
Việc phát triển các API mới là một quá trình lâu dài và những cờ thử nghiệm này giúp chúng tôi học hỏi, điều chỉnh và đổi mới một cách hiệu quả.
Đối với AI tích hợp, chúng tôi cần ý kiến phản hồi của bạn để đảm bảo chúng tôi xây dựng các tính năng có trường hợp sử dụng thực tế và đáp ứng kỳ vọng của bạn về hiệu suất và chất lượng. Đó là lý do chúng tôi mời bạn tham gia Chương trình dùng thử sớm – hãy giúp chúng tôi xây dựng các API AI mà bạn muốn sử dụng.
Chúng ta đang xây dựng điều gì?
Chúng tôi đang xây dựng 2 loại API cho AI tích hợp:
- Các API tác vụ cho phép nhà phát triển truy cập vào các chức năng AI tích hợp sẵn, chẳng hạn như API dịch hoặc API tóm tắt. API tác vụ được thiết kế để chạy suy luận dựa trên các mô hình đã được thiết lập cho việc chỉ định.
- Các API khám phá chủ yếu dành cho việc tạo mẫu cục bộ. Với các API này, chúng tôi dự định yêu cầu ý kiến phản hồi, xác nhận các giả định và xác định những API tác vụ mà chúng tôi sẽ xây dựng trong tương lai. Do đó, các API khám phá có thể không bao giờ ra mắt.
Giờ đây, các thành viên EPP có thể thử nghiệm Prompt API để gửi yêu cầu bằng ngôn ngữ tự nhiên đến Gemini Nano trong Chrome. Phần giải thích về Prompt API khác với cách triển khai hiện tại, vì có thêm các phương thức và điểm cải tiến mà chúng tôi hy vọng sẽ triển khai theo thời gian.
Dựa trên ý kiến phản hồi có giá trị của các thành viên EPP, chúng tôi nhận thấy rằng API tác vụ chuyên dụng có thể không phải là giải pháp tốt nhất cho mọi trường hợp sử dụng. Những người tham gia chương trình xem trước sớm nhận thấy tiềm năng của các API tác vụ tập trung và Prompt API linh hoạt hơn. Để tìm hiểu thêm về vấn đề này, chúng tôi đang xác định xem có thể cung cấp Prompt API trong các tiện ích của Chrome hay không.
Prompt API trong tiện ích của Chrome
Tiện ích Chrome sẽ cho phép bạn thử nghiệm trong môi trường thực tế và giúp chúng tôi thu thập thông tin chi tiết hơn. Dựa trên những phát hiện này, chúng tôi có thể tinh chỉnh API để giải quyết tốt hơn các trường hợp sử dụng trong thực tế.
Mục tiêu của chúng tôi là sử dụng phạm vi đơn giản hơn này để kiểm thử một số ý tưởng, học hỏi hiệu quả hơn so với việc sử dụng các nguyên mẫu riêng lẻ. Điều này cuối cùng sẽ hỗ trợ một API có chất lượng cao hơn.
Đề xuất này vẫn đang được xem xét, vì vậy, chúng tôi chưa có tiến trình chi tiết về thời điểm Prompt API sẽ có trong Tiện ích của Chrome.
Tiếp theo là gì?
Chúng tôi còn nhiều việc phải làm trong EPP và cuối cùng, chúng tôi sẽ tạo các bản dùng thử theo nguồn gốc để thu thập thêm nhiều ý kiến phản hồi có giá trị từ nền tảng web, đồng thời cung cấp các API thử nghiệm bổ sung, theo quy trình ra mắt của Chromium. Chúng tôi đang cộng tác với các nhà cung cấp trình duyệt khác để có thể chuẩn hoá càng nhiều API tích hợp càng tốt.
Khi có mốc thời gian, chúng tôi sẽ chia sẻ trên blog Chrome for Developers và qua danh sách gửi thư. Hãy đăng ký để đảm bảo bạn nhận được những thông báo này.
Có rất nhiều hoạt động đổi mới đang diễn ra và chúng tôi rất vui mừng khi AI ưu tiên web ngày càng phổ biến. AI tích hợp chỉ là một phần của câu chuyện đó. Mục tiêu của chúng tôi là tìm hiểu càng nhiều càng tốt, đảm bảo rằng chúng tôi đáp ứng nhu cầu và kỳ vọng của bạn
Chúng tôi hiểu rằng có thể bạn muốn biết thêm thông tin chi tiết. Bạn nên đăng ký tham gia Chương trình xem trước sớm và danh sách gửi thư thông báo công khai dành cho nhà phát triển AI trên Chrome.