פורסם: 5 באוגוסט 2024
צוות Chrome נרגש לראות את ההתלהבות סביב Prompt API ב-Chrome, כחלק מהמאמץ של AI מובנה. הכרזנו על הניסוי הזה ב-Google I/O במאי האחרון, וגם על ההזדמנות להירשם לתוכנית ההפצה המקדימה (EPP). אם תירשמו, תוכלו להתנסות בממשקי API בשלב מוקדם, כמו Prompt API, ולשתף משוב על השימוש שלכם בממשקי ה-API האלה באבות טיפוס מקומיים.
השימוש ב-AI מובנה וב-Prompt API עדיין נמצא בשלבים מוקדמים. אנחנו מקווים שתמשיכו להיות נלהבים מהניסוי הזה, כי אנחנו נשנה את ה-API ואת ההטמעה שלו כדי לתת מענה למשוב שלכם ולפשט את השימוש בו.
למה אנחנו מריצים את הניסוי הזה?
יש לנו הרבה מה ללמוד. מהן הדרישות העסקיות שלך שעשויות להפיק תועלת מ-AI? יש תכונות שאתם רוצים להציע למשתמשים שלכם, אבל לא יכולים בגלל עלות גבוהה מדי, מגבלות פרטיות או בעיות שקשורות לזמן האחזור? איך אפשר להקל עליך את תחילת השימוש בטכנולוגיה הזו בלי השקעה משמעותית או ידע מעמיק ב-AI?
אחת הדרכים הכי טובות ללמוד היא באמצעות ניסויים. לכן, אנחנו מציעים ומפתחים ממשקי API כדי לתת לכם גישה ליכולות חדשות וניסיוניות שמציעים מודלים מסוג LLM במכשיר, כמו Gemini Nano.
Chrome מציע למפתחים מגוון ממשקי API ניסיוניים. אפשר לגשת לממשקי ה-API האלה באמצעות תכונות ניסיוניות של Chrome, שהן בעצם מתגים שמפעילים או משביתים פונקציות ספציפיות בדפדפן. הדגלים מאפשרים לנו לבדוק את ההשערות שלנו ולאסוף משוב ממפתחים, בזמן שאתם יוצרים אבות טיפוס ועורכים ניסויים. ממשקי ה-API עשויים להשתנות לעיתים קרובות על סמך המשוב הזה, ואין ערובה לכך שהם יושקו. יכול להיות שנפסיק להשתמש בדגל אם הוא לא עומד בציפיות, או שנבין שאנחנו צריכים לפתור בעיה אחרת מזו שחשבנו בהתחלה.
פיתוח של ממשקי API חדשים הוא תהליך ארוך, והתכונות הניסיוניות האלה עוזרות לנו ללמוד, להסתגל ולחדש בצורה יעילה.
כדי לוודא שאנחנו יוצרים תכונות עם תרחישי שימוש אמיתיים ופרקטיים, שעומדות בציפיות שלכם לגבי ביצועים ואיכות, אנחנו צריכים את המשוב שלכם על ה-AI המובנה. לכן אנחנו מזמינים אתכם להצטרף לתוכנית Early Preview (גרסת טרום-השקה מוקדמת) – עזרו לנו ליצור ממשקי AI API שתרצו להשתמש בהם.
מה אנחנו בונים?
אנחנו מפתחים שני סוגים של ממשקי API ל-AI מובנה:
- ממשקי API של משימות שמאפשרים למפתחים לגשת ליכולות AI מובנות, כמו API לתרגום או API לסיכום. ממשקי Task API נועדו להריץ הסקה על מודלים מבוססים היטב לצורך הקצאה.
- ממשקי API ניסיוניים שמיועדים בעיקר ליצירת אב טיפוס מקומי. באמצעות ממשקי ה-API האלה, אנחנו מתכוונים לבקש משוב, לאמת הנחות ולקבוע אילו ממשקי API למשימות נפתח בעתיד. לכן, יכול להיות שממשקי API ניסיוניים לא יושקו לעולם.
חברי EPP יכולים עכשיו להתנסות ב-Prompt API, כדי לשלוח בקשות בשפה טבעית ל-Gemini Nano ב-Chrome. הסבר על Prompt API שונה מההטמעה הנוכחית, כי יש שיטות נוספות ושיפורים שאנחנו מקווים להטמיע עם הזמן.
על סמך משוב חשוב מחברי EPP, הבנו שאולי API ייעודי למשימות הוא לא הפתרון הכי טוב לכל תרחיש שימוש. משתתפים בגרסת טרום-ההשקה המוקדמת רואים פוטנציאל לשימוש בממשקי API ממוקדים למשימות וב-Prompt API המגוון יותר. כדי לבדוק את האפשרות הזו, אנחנו בודקים אם אפשר להפוך את Prompt API לזמין בתוספים ל-Chrome.
Prompt API בתוספים ל-Chrome
תוספים ל-Chrome יאפשרו לכם להתנסות בסביבה אמיתית, ויעזרו לנו לקבל תובנות מעמיקות יותר. על סמך הממצאים, נוכל לשפר את ה-API כדי שיתאים יותר לתרחישי שימוש בעולם האמיתי.
המטרה שלנו היא להשתמש בהיקף הפשוט הזה כדי לבדוק כמה רעיונות, ללמוד בצורה יעילה יותר מאשר משימוש באבות טיפוס מבודדים, ובסופו של דבר לתמוך ב-API באיכות גבוהה יותר.
ההצעה הזו עדיין בבדיקה, ולכן אין לנו עדיין לוח זמנים מפורט לגבי המועד שבו ה-API של ההנחיות יהיה זמין בתוספים ל-Chrome.
מה השלב הבא?
יש לנו עוד עבודה לעשות ב-EPP, ובסופו של דבר ניצור גרסאות מקור לניסיון כדי לאסוף משוב חשוב נוסף מפלטפורמת האינטרנט, ולהציע ממשקי API ניסיוניים נוספים, בהתאם לתהליך ההשקה של Chromium. אנחנו משתפים פעולה עם ספקים אחרים של דפדפנים, כדי לפעול לסטנדרטיזציה של כמה שיותר ממשקי API מובנים.
כ שיהיה לנו ציר זמן, נפרסם אותו בבלוג Chrome למפתחים וברשימת התפוצה. כדאי להירשם כדי לקבל את ההודעות האלה.
יש כל כך הרבה חידושים, ואנחנו שמחים על הנוכחות הגוברת של AI שפועל באינטרנט. ה-AI המובנה הוא רק חלק מהסיפור הזה. המטרה שלנו היא ללמוד כמה שיותר, כדי לוודא שאנחנו עונים על הצרכים והציפיות שלכם
אנחנו מבינים שחשוב לך לקבל פרטים נוספים. מומלץ מאוד להירשם לתוכנית Early Preview ולרשימת התפוצה של Chrome AI developer public announcements.