פורסם: 14 במאי 2024, עדכון אחרון: 20 במאי 2024
אנחנו מפתחים ממשקי API של פלטפורמת אינטרנט ותכונות לדפדפן שנועדו לעבוד עם מודלים של AI, מודלים מומחים ומודלים גדולים של שפה (LLM), שמוטמעים בדפדפן. בעזרת AI מובנה, האתר או אפליקציית האינטרנט יכולים לבצע משימות מבוססות-AI, בלי צורך בפריסה, בניהול או באירוח עצמי של מודלים.
כאן תוכלו לקרוא על היתרונות של AI מובנה, על תוכנית ההטמעה שלנו ועל הדרכים שבהן תוכלו להתחיל להטמיע את הכלים האלה.
אם אתם חדשים בתחום ה-AI באינטרנט, מומלץ לקרוא את המונחון והמושגים של AI באינטרנט.
היתרונות של AI מובנה למפתחי אתרים
הדפדפן כולל AI מובנה, שמספק ומנהל מודלים בסיסיים ומודלים של מומחים.
היתרונות של AI מובנה:
- קלות הפריסה: הדפדפן מפיץ את המודלים, תוך התחשבות ביכולות המכשיר, ומנהל את העדכונים. כלומר, אתם לא צריכים להוריד או לעדכן מודלים גדולים ברשת. אתם לא צריכים לפתור בעיות שקשורות לפינוי אחסון, לתקציב זיכרון בזמן ריצה, לעלויות של הצגת מודלים ולאתגרים אחרים.
- גישה להאצת חומרה: סביבת זמן הריצה של ה-AI בדפדפן מותאמת כדי להפיק את המרב מהחומרה הזמינה, בין אם מדובר ב-GPU, ב-NPU או במעבד (CPU). כתוצאה מכך, האפליקציה יכולה להשיג את הביצועים הכי טובים בכל מכשיר.
היתרונות של הפעלה בצד הלקוח
עם AI מובנה, אתם יכולים להשתמש ב-AI בצד הלקוח, וליהנות מהיתרונות הבאים:
- עיבוד מקומי של מידע אישי רגיש: AI מצד הלקוח יכול לשפר את ההגנה על הפרטיות. לדוגמה, אם אתם עובדים עם מידע אישי רגיש, אתם יכולים להציע למשתמשים תכונות מבוססות-AI עם הצפנה מקצה לקצה.
- חוויית משתמש מהירה: במקרים מסוימים, ויתור על הלוך ושוב לשרת מאפשר להציג תוצאות כמעט מיידיות. שימוש ב-AI בצד הלקוח יכול להיות ההבדל בין תכונה שימושית לבין חוויית משתמש לא אופטימלית.
- גישה נרחבת יותר ל-AI: המכשירים של המשתמשים יכולים לשאת חלק מעומס העיבוד בתמורה לגישה רחבה יותר לתכונות. לדוגמה, אם אתם מציעים תכונות AI Premium, אתם יכולים להציג תצוגה מקדימה של התכונות האלה באמצעות AI בצד הלקוח, כדי שלקוחות פוטנציאליים יוכלו לראות את היתרונות של המוצר שלכם, ללא עלות נוספת. הגישה ההיברידית הזו יכולה גם לעזור לכם לנהל את עלויות ההסקה, במיוחד בתהליכי משתמשים שנעשה בהם שימוש תדיר.
- שימוש ב-AI במצב אופליין: המשתמשים יכולים לגשת לתכונות מבוססות-AI גם כשאין חיבור לאינטרנט. כלומר, האתרים ואפליקציות האינטרנט שלכם יכולים לפעול כצפוי במצב אופליין או עם קישוריות משתנה.
AI היברידי: בצד הלקוח ובצד השרת
למרות ש-AI בצד הלקוח יכול לטפל במגוון רחב של תרחישי שימוש, יש תרחישי שימוש שדורשים תמיכה בצד השרת. AI בצד השרת הוא אפשרות מצוינת למודלים גדולים, והוא יכול לתמוך במגוון רחב יותר של פלטפורמות ומכשירים.
כדאי לשקול גישה היברידית אם האפליקציה שלכם דורשת:
- מורכבות: קל יותר לתמוך בתרחישי שימוש ספציפיים ופשוטים באמצעות AI במכשיר. בתרחישי שימוש מורכבים, כדאי לשקול הטמעה בצד השרת.
- עמידות: המערכת משתמשת כברירת מחדל בצד השרת, ובמכשיר כשהמכשיר במצב אופליין או כשהחיבור לא יציב.
- מעבר חלק למודל חלופי: ייקח זמן עד שדפדפנים עם AI מובנה יהיו זמינים. יכול להיות שחלק מהמודלים לא יהיו זמינים, ומכשירים ישנים או חלשים יותר לא יעמדו בדרישות החומרה להפעלה אופטימלית של כל המודלים. להציע למשתמשים האלה AI בצד השרת.
לדוגמה, אם משתמשים בממשק ה-API המובנה של Prompt, ממשק ה-API זמין רק בתוספים ל-Chrome, ב-Windows, ב-macOS וב-Linux. כדי לוודא שכל המשתמשים יוכלו ליהנות מתכונת ה-AI, כדאי להגדיר ארכיטקטורה היברידית עם Firebase AI Logic.
גישה ל-AI מובנה
הגישה ליכולות ה-AI המובנות מתבצעת בעיקר באמצעות ממשקי API של משימות, כמו Translator API או Summarizer API. ממשקי API של משימות מיועדים להפעלת הסקה על המודל הטוב ביותר למשימה, בין אם מדובר במודל שפה או במודל מומחה.
מתי כדאי להשתמש ב-AI מובנה
הנה כמה דרכים שבהן בינה מלאכותית מובנית יכולה להועיל לכם ולמשתמשים שלכם:
- צריכת תוכן משופרת באמצעות AI: כולל סיכום, תרגום, סיווג, אפיון ומתן ידע.
- יצירת תוכן בעזרת AI: כמו עזרה בכתיבה, הגהה, תיקון שגיאות איות ודקדוק וניסוח מחדש.
חלק מממשקי ה-API המובנים של AI זמינים בגרסה היציבה של Chrome ובגרסאות מקור לניסיון. ממשקי API ניסיוניים וממשקי API בשלב מוקדם זמינים למשתתפים בתוכנית ההפצה המקדימה Early Preview Program (EPP).
תצוגה מקדימה של תכונות חדשות
המשוב שלכם חשוב לנו כדי לעצב את ממשקי ה-API כך שיתאימו לתרחישי השימוש שלכם, וכדי להשתמש בו בדיונים שלנו עם ספקי דפדפנים אחרים לצורך סטנדרטיזציה.
הצטרפות ל-EPP מאפשרת לספק משוב על רעיונות ל-AI מובנה בשלב מוקדם של הפיתוח, ולגלות הזדמנויות לבדיקת ממשקי API שנמצאים בתהליך פיתוח באמצעות יצירת אב טיפוס מקומי.
מאמץ התקנון
אנחנו פועלים כדי לתקנן את כל ממשקי ה-API האלה כך שיהיו תואמים לדפדפנים שונים.
Language Detector API ו-Translator API אומצו על ידי W3C WebML Working Group. פנינו אל Mozilla ו-WebKit כדי לקבל את עמדותיהן בנוגע לתקנים.
גם Summarizer API, Writer API ו-Rewriter API אומצו על ידי קבוצת העבודה W3C WebML. פנינו אל Mozilla ואל WebKit כדי לקבל את עמדותיהן בנוגע לתקנים.