প্রকাশিত: ১৪ মে, ২০২৪, সর্বশেষ হালনাগাদ: ২০ মে, ২০২৪
আমরা ব্রাউজারের মধ্যেই এআই মডেল, এক্সপার্ট মডেল এবং লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম)-এর সাথে কাজ করার জন্য ডিজাইন করা ওয়েব প্ল্যাটফর্ম এপিআই এবং ব্রাউজার ফিচার তৈরি করছি। বিল্ট-ইন এআই-এর সাহায্যে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশন কোনো মডেল ডেপ্লয়, ম্যানেজ বা সেলফ-হোস্ট করার প্রয়োজন ছাড়াই এআই-চালিত কাজ সম্পাদন করতে পারবে।
Discover the benefits of built-in AI, our implementation plan, and how you can start implementing these tools.
If you're new to AI on the web, read our web AI glossary and concepts .
ওয়েব ডেভেলপারদের জন্য অন্তর্নির্মিত এআই-এর সুবিধাসমূহ
With built-in AI, your browser provides and manages foundation and expert models.
অন্তর্নির্মিত এআই নিম্নলিখিত সুবিধাগুলো প্রদান করে:
- স্থাপনের সহজতা : ব্রাউজার ডিভাইসের সক্ষমতা বিবেচনা করে মডেলগুলো বিতরণ করে এবং আপডেটগুলো পরিচালনা করে। এর মানে হলো, নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করার দায়িত্ব আপনার নয়। আপনাকে স্টোরেজ ইভিকশন, রানটাইম মেমরি বাজেট, সার্ভিং খরচ এবং অন্যান্য চ্যালেঞ্জগুলো নিয়ে ভাবতে হবে না।
- হার্ডওয়্যার অ্যাক্সিলারেশন ব্যবহারের সুযোগ : ব্রাউজারের এআই রানটাইমটি উপলব্ধ হার্ডওয়্যারের সর্বোত্তম ব্যবহার নিশ্চিত করতে অপ্টিমাইজ করা থাকে, তা জিপিইউ, এনপিইউ বা সিপিইউ ব্যবহারের মাধ্যমেই হোক না কেন। ফলে, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পেতে পারে।
ক্লায়েন্ট-সাইডে চালানোর সুবিধা
With built-in AI, you can perform AI client-side , which means you get these benefits:
- Local processing of sensitive data : Client-side AI can improve your privacy story. For example, if you work with sensitive data, you can offer AI features to users with end-to-end encryption.
- দ্রুত ও সাবলীল ব্যবহারকারীর অভিজ্ঞতা : কিছু ক্ষেত্রে, সার্ভারে বারবার সংযোগ স্থাপন বাদ দিলে প্রায় তাৎক্ষণিক ফলাফল দেওয়া সম্ভব হয়। একটি কার্যকর ফিচার এবং একটি নিম্নমানের ব্যবহারকারীর অভিজ্ঞতার মধ্যে ক্লায়েন্ট-সাইড এআই-ই পার্থক্য গড়ে দিতে পারে।
- এআই-এর বৃহত্তর অ্যাক্সেস : আপনার ব্যবহারকারীদের ডিভাইসগুলো আরও বেশি ফিচার ব্যবহারের সুযোগের বিনিময়ে প্রসেসিংয়ের কিছু ভার বহন করতে পারে। উদাহরণস্বরূপ, আপনি যদি প্রিমিয়াম এআই ফিচার অফার করেন, তবে আপনি ক্লায়েন্ট-সাইড এআই ব্যবহার করে সেই ফিচারগুলোর প্রিভিউ দেখতে পারেন, যাতে সম্ভাব্য গ্রাহকরা আপনার কোনো অতিরিক্ত খরচ ছাড়াই আপনার পণ্যের সুবিধাগুলো দেখতে পারেন। এই হাইব্রিড পদ্ধতিটি আপনাকে ইনফারেন্স খরচ পরিচালনা করতেও সাহায্য করতে পারে, বিশেষ করে ঘন ঘন ব্যবহৃত ইউজার ফ্লো-গুলোর ক্ষেত্রে।
- Offline AI usage : Your users can access AI features even when there is no internet connection. This means your sites and web apps can work as expected offline or with variable connectivity.
হাইব্রিড এআই: ক্লায়েন্ট-সাইড এবং সার্ভার-সাইড
যদিও ক্লায়েন্ট-সাইড এআই বিভিন্ন ধরনের ব্যবহারের ক্ষেত্র সামলাতে পারে, কিছু ক্ষেত্রে সার্ভার-সাইড সহায়তার প্রয়োজন হয়। বড় মডেলের জন্য সার্ভার-সাইড এআই একটি চমৎকার বিকল্প, এবং এটি আরও বিস্তৃত প্ল্যাটফর্ম ও ডিভাইস সমর্থন করতে পারে।
আপনার অ্যাপ্লিকেশনের প্রয়োজন হলে আপনি একটি হাইব্রিড পদ্ধতি বিবেচনা করতে পারেন:
- Complexity: Specific, approachable use cases are easier to support with on-device AI. For complex use cases, consider server-side implementation.
- Resiliency : Use server-side by default, and use on-device when the device is offline or on a spotty connection.
- মার্জিত বিকল্প ব্যবস্থা : অন্তর্নির্মিত এআই সহ ব্রাউজারগুলির প্রচলনে সময় লাগবে, কিছু মডেল অনুপলব্ধ হতে পারে, এবং পুরোনো বা কম শক্তিশালী ডিভাইসগুলি সব মডেল সর্বোত্তমভাবে চালানোর জন্য প্রয়োজনীয় হার্ডওয়্যার চাহিদা পূরণ করতে পারে না। সেইসব ব্যবহারকারীদের জন্য সার্ভার-সাইড এআই-এর ব্যবস্থা করুন।
উদাহরণস্বরূপ, আপনি যদি বিল্ট-ইন প্রম্পট এপিআই (Prompt API) ব্যবহার করেন, তবে এপিআইটি শুধুমাত্র উইন্ডোজ, ম্যাকওএস এবং লিনাক্সে ক্রোম এক্সটেনশনের মধ্যেই উপলব্ধ থাকবে। আপনার সকল ব্যবহারকারী যাতে আপনার এআই ফিচার থেকে উপকৃত হতে পারেন, তা নিশ্চিত করতে ফায়ারবেস এআই লজিক (Firebase AI Logic) ব্যবহার করে একটি হাইব্রিড আর্কিটেকচার সেট আপ করুন।
অন্তর্নির্মিত AI অ্যাক্সেস করুন
আপনি মূলত টাস্ক এপিআই (যেমন ট্রান্সলেটর এপিআই বা সামারাইজার এপিআই) ব্যবহার করে বিল্ট-ইন এআই সক্ষমতাগুলো অ্যাক্সেস করতে পারেন। টাস্ক এপিআইগুলো কোনো অ্যাসাইনমেন্টের জন্য সেরা মডেলের (সেটি ল্যাঙ্গুয়েজ মডেল হোক বা এক্সপার্ট মডেল) বিপরীতে ইনফারেন্স চালানোর জন্য ডিজাইন করা হয়েছে।
কখন বিল্ট-ইন এআই ব্যবহার করবেন
অন্তর্নির্মিত এআই যেভাবে আপনার এবং আপনার ব্যবহারকারীদের উপকারে আসতে পারে, তার কয়েকটি উপায় নিচে দেওয়া হলো:
- AI-enhanced content consumption : Including summarization, translation, categorization, characterization, and as a knowledge provider.
- AI-supported content creation : Such as writing assistance, proofreading, grammar correction, and rephrasing.
Several of the built-in AI APIs are available in Chrome stable and origin trials. Exploratory APIs and early-stage APIs are available to Early Preview Program (EPP) participants .
নতুন বৈশিষ্ট্যগুলির পূর্বরূপ দেখুন
We need your input to shape the APIs to help fulfill your use cases, and inform our discussions with other browser vendors for standardization.
Join the EPP to provide feedback on early-stage built-in AI ideas, and discover opportunities to test in-progress APIs through local prototyping.
মানকীকরণের প্রচেষ্টা
বিভিন্ন ব্রাউজারে সামঞ্জস্যপূর্ণ করার জন্য আমরা এই সমস্ত এপিআই-কে মানসম্মত করতে কাজ করছি।
The Language Detector API and Translator API have been adopted by the W3C WebML Working Group . We've asked Mozilla and WebKit for their standards positions.
The Summarizer API, Writer API, and Rewriter API have also been adopted by the W3C WebML Working Group. We've asked Mozilla and WebKit for their standards positions.