تاریخ انتشار: 14 می 2024، آخرین به روز رسانی: 20 می 2024
ما در حال توسعه APIهای پلتفرم وب و ویژگی‌های مرورگر هستیم که برای کار با مدل‌های هوش مصنوعی، مدل‌های خبره و مدل‌های زبان بزرگ (LLM) طراحی شده‌اند که در مرورگر ساخته شده‌اند. این شامل Gemini Nano ، کارآمدترین نسخه از خانواده LLMهای Gemini است که برای اجرا به صورت محلی در اکثر رایانه‌های رومیزی و لپ‌تاپ مدرن طراحی شده است. با هوش مصنوعی داخلی، وب سایت یا برنامه وب شما می تواند وظایف مبتنی بر هوش مصنوعی را بدون نیاز به استقرار، مدیریت یا میزبانی مدل های هوش مصنوعی انجام دهد.
مزایای هوش مصنوعی داخلی، طرح پیاده سازی ما و نحوه استفاده از این فناوری را کشف کنید.
مزایای هوش مصنوعی داخلی برای توسعه دهندگان وب
با هوش مصنوعی داخلی، مرورگر شما مدل های پایه و متخصص را ارائه و مدیریت می کند.
هوش مصنوعی داخلی مزایای زیر را ارائه می دهد:
- سهولت استقرار : مرورگر مدل ها را توزیع می کند، قابلیت دستگاه را محاسبه می کند و به روز رسانی ها را مدیریت می کند. این بدان معنی است که شما مسئول دانلود یا به روز رسانی مدل های بزرگ از طریق شبکه نیستید. شما مجبور نیستید برای حذف فضای ذخیره سازی، بودجه حافظه زمان اجرا، هزینه های سرویس و سایر چالش ها حل کنید.
- دسترسی به شتاب سخت‌افزاری : زمان اجرای هوش مصنوعی مرورگر برای استفاده حداکثری از سخت‌افزار موجود، چه با GPU، NPU یا بازگشت به CPU، بهینه‌سازی شده است. در نتیجه، برنامه شما می تواند بهترین عملکرد را در هر دستگاه داشته باشد.
مزایای اجرای سمت مشتری
با هوش مصنوعی داخلی، می‌توانید هوش مصنوعی را در سمت کلاینت انجام دهید، که به این معنی است که از مزایای زیر برخوردار می‌شوید:
- پردازش محلی داده های حساس : هوش مصنوعی سمت مشتری می تواند داستان حریم خصوصی شما را بهبود بخشد. به عنوان مثال، اگر با داده های حساس کار می کنید، می توانید ویژگی های هوش مصنوعی را با رمزگذاری سرتاسر به کاربران ارائه دهید.
- تجربه کاربری سریع : در برخی موارد، کنار گذاشتن مسیر رفت و برگشت به سرور به این معنی است که می‌توانید نتایجی تقریباً فوری ارائه دهید. هوش مصنوعی سمت مشتری می تواند تفاوت بین یک ویژگی قابل دوام و یک تجربه کاربری غیربهینه باشد.
- دسترسی بیشتر به هوش مصنوعی : دستگاه های کاربران شما می توانند بخشی از بار پردازشی را در ازای دسترسی بیشتر به ویژگی ها تحمل کنند. برای مثال، اگر ویژگی‌های هوش مصنوعی ممتاز را ارائه می‌دهید، می‌توانید این ویژگی‌ها را با هوش مصنوعی سمت مشتری پیش‌نمایش کنید تا مشتریان بالقوه بتوانند بدون هزینه اضافی، مزایای محصول شما را ببینند. این رویکرد ترکیبی همچنین می‌تواند به شما در مدیریت هزینه‌های استنتاج به‌ویژه در جریان‌های کاربر که اغلب استفاده می‌شوند کمک کند.
- استفاده از هوش مصنوعی آفلاین : کاربران شما می توانند به ویژگی های هوش مصنوعی حتی زمانی که اتصال اینترنتی وجود ندارد دسترسی داشته باشند. این بدان معناست که سایت‌ها و برنامه‌های وب شما می‌توانند مطابق انتظار آفلاین یا با اتصال متغیر کار کنند.
هوش مصنوعی ترکیبی: سمت مشتری و سمت سرور
در حالی که هوش مصنوعی سمت کلاینت می تواند طیف وسیعی از موارد استفاده را مدیریت کند، برخی از موارد استفاده نیاز به پشتیبانی سمت سرور دارند. هوش مصنوعی سمت سرور یک گزینه عالی برای مدل های بزرگ است و می تواند طیف وسیع تری از پلتفرم ها و دستگاه ها را پشتیبانی کند.
اگر برنامه شما به موارد زیر نیاز دارد، می توانید یک رویکرد ترکیبی را در نظر بگیرید:
- پیچیدگی: موارد استفاده خاص و قابل دسترسی آسان‌تر با هوش مصنوعی روی دستگاه پشتیبانی می‌شوند. برای موارد استفاده پیچیده، اجرای سمت سرور را در نظر بگیرید.
- انعطاف‌پذیری : به‌طور پیش‌فرض از سمت سرور استفاده کنید و زمانی که دستگاه آفلاین است یا در یک اتصال ناقص است، از روی دستگاه استفاده کنید.
- بازگشت دلپذیر : استفاده از مرورگرهایی با هوش مصنوعی داخلی زمان می‌برد، برخی از مدل‌ها ممکن است در دسترس نباشند، و دستگاه‌های قدیمی یا کم‌قدرت‌تر ممکن است شرایط سخت‌افزاری را برای اجرای بهینه همه مدل‌ها برآورده نکنند. هوش مصنوعی سمت سرور را برای آن کاربران ارائه دهید.
به عنوان مثال، اگر از Prompt API داخلی استفاده می‌کنید (به زودی در نسخه آزمایشی اصلی قرار می‌گیرد)، API فقط برای مرورگرهای Chrome روی دسک‌تاپ و در برنامه‌های افزودنی Chrome، در Windows، macOS و Linux کار می‌کند. برای اطمینان از اینکه همه کاربران شما می توانند از ویژگی هوش مصنوعی شما بهره مند شوند، یک معماری ترکیبی با Firebase AI Logic راه اندازی کنید.
هنگام استفاده از مدل‌های Gemini، می‌توانید با Node.js یکپارچگی باطن ایجاد کنید.
دسترسی به هوش مصنوعی داخلی
شما می‌توانید به قابلیت‌های هوش مصنوعی داخلی عمدتاً با APIهای وظیفه مانند Translator API یا Summarizer API دسترسی داشته باشید. Task APIها برای اجرای استنتاج در برابر بهترین مدل برای تخصیص طراحی شده اند.
در کروم، این APIها برای اجرای استنتاج در برابر Gemini Nano با تنظیم دقیق یا یک مدل خبره ساخته شده‌اند. Gemini Nano که برای اجرای محلی در اکثر دستگاه‌های مدرن طراحی شده است، بهترین گزینه برای موارد استفاده مرتبط با زبان، مانند خلاصه‌سازی، بیان مجدد یا دسته‌بندی است.
زمان استفاده از هوش مصنوعی داخلی
در اینجا چند راه وجود دارد که هوش مصنوعی داخلی می تواند برای شما و کاربران شما مفید باشد:
- مصرف محتوای تقویت‌شده با هوش مصنوعی : از جمله خلاصه‌سازی، ترجمه، دسته‌بندی، مشخص‌سازی و به عنوان ارائه‌دهنده دانش.
- ایجاد محتوای با پشتیبانی هوش مصنوعی : مانند کمک نوشتن، تصحیح، تصحیح دستور زبان و بازنویسی.
چندین APIهای داخلی هوش مصنوعی در آزمایش‌های اولیه و پایدار Chrome در دسترس هستند. APIهای اکتشافی و APIهای مرحله اولیه برای شرکت‌کنندگان در برنامه پیش‌نمایش اولیه (EPP) در دسترس هستند.
پیش نمایش ویژگی های جدید
ما به نظرات شما برای شکل دادن به APIها نیاز داریم، اطمینان حاصل کنیم که موارد استفاده شما را برآورده می‌کنند، و بحث‌هایمان را با سایر فروشندگان مرورگر برای استانداردسازی اطلاع‌رسانی می‌کنیم.
به EPP بپیوندید تا درباره ایده‌های هوش مصنوعی داخلی در مراحل اولیه بازخورد ارائه کنید و فرصت‌هایی را برای آزمایش APIهای در حال پیشرفت از طریق نمونه‌سازی محلی کشف کنید.