هوش مصنوعی داخلی

Kenji Baheux
Kenji Baheux
Alexandra Klepper
Alexandra Klepper

تاریخ انتشار: ۱۴ مه ۲۰۲۴، آخرین به‌روزرسانی: ۲۶ مه ۲۰۲۶

ما درحال توسعه میاناهای برنامه‌سازی کاربردی پلاتفرم وب و ویژگی‌های مرورگر هستیم که برای کار با مدل‌های هوش مصنوعی، مدل‌های تخصصی، و مدل‌های زبانی بزرگ (LLM) ساخته‌شده در مرورگر طراحی شده‌اند. با هوش مصنوعی داخلی، وب‌سایت یا برنامه وب شما می‌تواند بدون نیاز به استقرار، مدیریت، یا میزبانی خودکار مدل‌ها، کارهای هوش مصنوعی را انجام دهد.

با مزایای هوش مصنوعی داخلی، طرح پیاده‌سازی ما، و نحوه شروع پیاده‌سازی این ابزارها آشنا شوید.

اگر با هوش مصنوعی در وب آشنایی ندارید، واژه‌نامه و مفاهیم هوش مصنوعی وب ما را بخوانید.

مزایای هوش مصنوعی داخلی برای توسعه‌دهندگان وب

مرورگرتان با بهره‌گیری از هوش مصنوعی تعبیه‌شده، مدل‌های پایه و تخصصی را ارائه و مدیریت می‌کند.

با هوش مصنوعی داخلی، وب‌سایت شما با «میاناهای برنامه‌سازی کاربردی» مرورگر به پردازنده محلی (CPU،‏ GPU، یا NPU) متصل می‌شود. سپس با مدل محلی ارتباط برقرار می‌کند که پاسخ را ارسال می‌کند. «میانای برنامه‌سازی کاربردی» پاسخ را برمی‌گرداند.

هوش مصنوعی داخلی مزایای زیر را ارائه می‌دهد:

  • سهولت استقرار: مرورگر مدل‌ها را توزیع می‌کند، قابلیت دستگاه را درنظر می‌گیرد، و به‌روزرسانی‌ها را مدیریت می‌کند. این یعنی شما مسئولیت بارگیری یا به‌روزرسانی مدل‌های بزرگ ازطریق شبکه را ندارید. لازم نیست برای تخلیه فضای ذخیره‌سازی، بودجه حافظه زمان اجرا، هزینه‌های ارائه، و چالش‌های دیگر راه‌حل پیدا کنید.
  • دسترسی به شتاب سخت‌افزاری: زمان اجرای هوش مصنوعی مرورگر بهینه‌سازی شده است تا از سخت‌افزار دردسترس، چه با GPU، چه با NPU، و چه با CPU، بیشترین بهره را ببرد. درنتیجه، برنامه شما می‌تواند بهترین عملکرد را در هر دستگاه داشته باشد.

مزایای اجرای سمت کارخواه

با هوش مصنوعی داخلی، می‌توانید هوش مصنوعی را در سمت مشتری اجرا کنید، که یعنی این مزایا را دریافت می‌کنید:

  • پردازش محلی داده‌های حساس: هوش مصنوعی سمت مشتری می‌تواند داستان حریم خصوصی شما را بهبود بخشد. برای مثال، اگر با داده‌های حساس کار می‌کنید، می‌توانید ویژگی‌های هوش مصنوعی را با رمزگذاری سرتاسر به کاربران ارائه دهید.
  • تجربه کاربری سریع: در برخی موارد، کنار گذاشتن سفر رفت‌وبرگشت به سرور به این معنی است که می‌توانید نتایج تقریباً فوری ارائه دهید. هوش مصنوعی سمت مشتری می‌تواند تفاوت بین یک ویژگی امکان‌پذیر و یک تجربه کاربری زیربهینه باشد.
  • دسترسی بیشتر به هوش مصنوعی: دستگاه‌های کاربران شما می‌توانند بخشی از بار پردازش را در ازای دسترسی بیشتر به ویژگی‌ها برعهده بگیرند. برای مثال، اگر ویژگی‌های هوش مصنوعی ممتاز ارائه می‌دهید، می‌توانید این ویژگی‌ها را با هوش مصنوعی سمت مشتری پیش‌نمایش کنید تا مشتریان بالقوه بتوانند مزایای محصولتان را بدون هزینه اضافی برای شما ببینند. این رویکرد ترکیبی همچنین می‌تواند به شما کمک کند تا هزینه‌های استنباط را به‌ویژه در جریان‌های کاربری که اغلب استفاده می‌شوند مدیریت کنید.
  • استفاده از هوش مصنوعی آفلاین: کاربران شما حتی درصورت عدم وجود اتصال اینترنت می‌توانند به ویژگی‌های هوش مصنوعی دسترسی داشته باشند. این یعنی سایت‌ها و برنامه‌های وب شما می‌توانند به‌صورت آفلاین یا با اتصال‌پذیری متغیر طبق انتظار کار کنند.

هوش مصنوعی ترکیبی: سمت کارخواه و سمت سرور

اگرچه هوش مصنوعی سمت کارخواه می‌تواند از طیف وسیعی از موارد استفاده پشتیبانی کند، برخی‌از موارد استفاده به پشتیبانی سمت سرور نیاز دارند. هوش مصنوعی سمت سرور گزینه بسیار خوبی برای مدل‌های بزرگ است و می‌تواند از طیف وسیع‌تری از پلاتفرم‌ها و دستگاه‌ها پشتیبانی کند.

اگر برنامه شما به موارد زیر نیاز دارد، می‌توانید از رویکرد ترکیبی استفاده کنید:

  • پیچیدگی: موارد استفاده خاص و قابل‌دسترس با هوش مصنوعی درون‌دستگاهی راحت‌تر پشتیبانی می‌شوند. برای موارد استفاده پیچیده، پیاده‌سازی سمت سرور را درنظر بگیرید.
  • انعطاف‌پذیری: به‌طور پیش‌فرض از سمت سرور استفاده کنید و وقتی دستگاه آفلاین است یا اتصال ضعیف است از درون‌دستگاهی استفاده کنید.
  • بازگشت تدریجی: پذیرش مرورگرهای دارای هوش مصنوعی داخلی زمان‌بر خواهد بود، برخی‌از مدل‌ها ممکن است دردسترس نباشند، و دستگاه‌های قدیمی‌تر یا ضعیف‌تر ممکن است الزامات سخت‌افزاری برای اجرای بهینه همه مدل‌ها را نداشته باشند. هوش مصنوعی سمت سرور را برای این کاربران ارائه دهید.

برای مثال، اگر از API پیام‌واره داخلی استفاده کنید، این API فقط در «افزونه‌های Chrome» در Windows،‏ macOS، و Linux دردسترس است. برای اینکه مطمئن شوید همه کاربران شما می‌توانند از ویژگی هوش مصنوعی شما بهره‌مند شوند، معماری ترکیبی با Firebase AI Logic راه‌اندازی کنید.

دسترسی به هوش مصنوعی تعبیه‌شده

می‌توانید به قابلیت‌های هوش مصنوعی داخلی عمدتاً با میاناهای برنامه‌سازی کاربردی تکلیف، مانند میانای برنامه‌سازی کاربردی «ترجمه‌گر» یا میانای برنامه‌سازی کاربردی «خلاصه‌ساز» دسترسی پیدا کنید. «میاناهای برنامه‌سازی کاربردی تکلیف» برای اجرای استنباط در بهترین مدل برای تکلیف طراحی شده‌اند، چه مدل زبان باشد چه مدل تخصصی.

چه زمانی از هوش مصنوعی داخلی استفاده کنیم

در اینجا چند روشی که هوش مصنوعی داخلی می‌تواند به شما و کاربران شما کمک کند آورده شده است:

  • مصرف محتوای بهبودیافته با هوش مصنوعی: شامل خلاصه‌سازی، ترجمه، دسته‌بندی، شخصیت‌پردازی، و به‌عنوان ارائه‌دهنده دانش.
  • تولید محتوای پشتیبانی‌شده با هوش مصنوعی: مانند دستیار نوشتن، نمونه‌خوانی، تصحیح دستور زبان، و بازنویسی.

چندین میانای برنامه‌سازی کاربردی هوش مصنوعی داخلی در نسخه پایدار Chrome و آزمایش‌های ویژگی‌های جدید دردسترس است. میاناهای برنامه‌سازی کاربردی اکتشافی و میاناهای برنامه‌سازی کاربردی در مراحل اولیه برای شرکت‌کنندگان «برنامه پیش‌نمای اولیه» (EPP) دردسترس است.

پیش‌نمایش ویژگی‌های جدید

برای شکل دادن به میاناهای برنامه‌سازی کاربردی که به برآورده کردن موارد استفاده شما کمک کند و برای اطلاع‌رسانی به بحث‌های ما با دیگر فروشندگان مرورگر برای استانداردسازی، به ورودی‌های شما نیاز داریم.

برای ارائه بازخورد درباره ایده‌های هوش مصنوعی داخلی در مراحل اولیه و کشف فرصت‌هایی برای آزمایش کردن میاناهای برنامه‌سازی کاربردی درحال پیشرفت ازطریق نمونه‌سازی محلی، به EPP بپیوندید.

تلاش برای استانداردسازی

ما در تلاشیم تا همه این APIها را برای سازگاری بین مرورگرها استاندارد کنیم.

«میانای برنامه‌سازی کاربردی تشخیص زبان» و «میانای برنامه‌سازی کاربردی مترجم» توسط گروه کاری W3C WebML پذیرفته شده‌اند. از Mozilla و WebKit خواسته‌ایم موضع خود را درباره استانداردها اعلام کنند.

«میانای برنامه‌سازی کاربردی خلاصه کردن» توسط «گروه کاری W3C WebML» پذیرفته شده است. از Mozilla و WebKit خواسته‌ایم موضع خود را درباره استانداردها اعلام کنند.