প্রকাশিত: ১৪ মে, ২০২৪, শেষবার আপডেট করা হয়েছে: ২৬ মে, ২০২৬
আমরা ওয়েব প্ল্যাটফর্ম API এবং ব্রাউজার ফিচার ডেভেলপ করছি যা AI মডেল, এক্সপার্ট মডেল এবং লার্জ ল্যাঙ্গুয়েজ মডেল (LLMs)-এর সাথে কাজ করার জন্য ডিজাইন করা হয়েছে। বিল্ট-ইন AI-এর সাহায্যে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশন মডেল ডিপ্লয়, ম্যানেজ বা সেল্ফ-হোস্ট করার প্রয়োজন ছাড়াই AI-চালিত টাস্ক পারফর্ম করতে পারে।
বিল্ট-ইন AI-এর সুবিধা, আমাদের প্রয়োগ করার পরিকল্পনা এবং কীভাবে আপনি এইসব টুল প্রয়োগ করা শুরু করতে পারবেন তা জানুন।
আপনি যদি ওয়েব AI-এর ব্যাপারে নতুন হন, তাহলে আমাদের ওয়েব AI গ্লসারি ও কনসেপ্ট পড়ুন।
ওয়েব ডেভেলপারদের জন্য বিল্ট-ইন AI-এর সুবিধা
বিল্ট-ইন AI-এর সাহায্যে, আপনার ব্রাউজার ফাউন্ডেশন ও বিশেষজ্ঞ মডেল প্রদান ও ম্যানেজ করে।
বিল্ট-ইন AI নিম্নলিখিত সুবিধা প্রদান করে:
- সহজে প্রয়োগ করা যায়: ব্রাউজার মডেল ডিস্ট্রিবিউট করে, এর ফলে ডিভাইসের ক্ষমতা এবং আপডেট ম্যানেজ করা যায়। এর অর্থ হল, নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করার দায়িত্ব আপনার নয়। আপনাকে স্টোরেজ ইভিকশন, রানটাইম মেমরি বাজেট, পরিবেশন খরচ এবং অন্যান্য সমস্যার সমাধান করতে হবে না।
- হার্ডওয়্যার অ্যাক্সিলারেশনে অ্যাক্সেস: ব্রাউজারের AI রানটাইম উপলভ্য হার্ডওয়্যার থেকে সর্বাধিক সুবিধা পাওয়ার জন্য অপ্টিমাইজ করা হয়, তা GPU, NPU বা CPU-তে ফলব্যাক যাই হোক না কেন। এর ফলে, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফর্ম্যান্স পাবে।
ক্লায়েন্ট-সাইড চালানোর সুবিধা
বিল্ট-ইন AI-এর সাহায্যে, আপনি AI ক্লায়েন্ট-সাইড পারফর্ম করতে পারবেন, যার অর্থ হল আপনি এইসব সুবিধা পাবেন:
- সংবেদনশীল ডেটার লোকাল প্রসেসিং: ক্লায়েন্ট-সাইড AI আপনার গোপনীয়তা সংক্রান্ত গল্পকে আরও উন্নত করতে পারে। যেমন, আপনি সংবেদনশীল ডেটা নিয়ে কাজ করলে, এন্ড-টু-এন্ড এনক্রিপশন সহ ব্যবহারকারীদের AI ফিচার অফার করতে পারবেন।
- দ্রুত ব্যবহারকারীর অভিজ্ঞতা: কিছু ক্ষেত্রে, সার্ভারে রাউন্ড ট্রিপ এড়ানোর অর্থ হল আপনি প্রায় সাথে সাথেই ফলাফল দেখাতে পারবেন। ক্লায়েন্ট-সাইড AI, কোনও উপযুক্ত ফিচার ও সাব-অপ্টিমাল ব্যবহারকারীর অভিজ্ঞতার মধ্যে পার্থক্য তৈরি করতে পারে।
- AI-তে আরও বেশি অ্যাক্সেস: আপনার ব্যবহারকারীদের ডিভাইস, ফিচার অ্যাক্সেস করার বিনিময়ে কিছু প্রসেসিং লোড শেয়ার করতে পারে। যেমন, আপনি যদি প্রিমিয়াম AI ফিচার অফার করেন, তাহলে ক্লায়েন্ট-সাইড AI-এর মাধ্যমে এইসব ফিচারের প্রিভিউ দেখাতে পারেন, যাতে সম্ভাব্য গ্রাহকরা আপনার প্রোডাক্টের সুবিধা দেখতে পান এবং এর জন্য আপনাকে অতিরিক্ত খরচ করতে না হয়। এই হাইব্রিড পদ্ধতি আপনাকে ইনফারেন্স খরচ ম্যানেজ করতেও সাহায্য করতে পারে, বিশেষ করে প্রায়শই ব্যবহৃত ইউজার ফ্লোতে।
- অফলাইনে AI ব্যবহার: ইন্টারনেট কানেকশন না থাকলেও আপনার ব্যবহারকারীরা AI ফিচার অ্যাক্সেস করতে পারবেন। এর অর্থ হল, আপনার সাইট ও ওয়েব অ্যাপ অফলাইনে অথবা পরিবর্তনশীল কানেক্টিভিটি সহ প্রত্যাশিতভাবে কাজ করতে পারবে।
হাইব্রিড AI: ক্লায়েন্ট-সাইড ও সার্ভার-সাইড
ক্লায়েন্ট-সাইড AI বিভিন্ন ধরনের ব্যবহারের ক্ষেত্রে কাজ করতে পারলেও, কিছু ব্যবহারের ক্ষেত্রে সার্ভার-সাইড সহায়তা প্রয়োজন হয়। বড় মডেলের জন্য সার্ভার-সাইড AI একটি দারুণ বিকল্প, এবং এটি আরও বেশি প্ল্যাটফর্ম ও ডিভাইসে কাজ করতে পারে।
আপনার অ্যাপ্লিকেশনের যদি এগুলি প্রয়োজন হয়, তাহলে আপনি হাইব্রিড পদ্ধতি বিবেচনা করতে পারেন:
- জটিলতা: নির্দিষ্ট, সহজলভ্য ব্যবহারের ক্ষেত্রে অন-ডিভাইস AI-এর মাধ্যমে সহায়তা প্রদান করা সহজ। জটিল ব্যবহারের ক্ষেত্রে, সার্ভার-সাইড প্রয়োগের কথা বিবেচনা করুন।
- স্থিতিস্থাপকতা: ডিফল্ট হিসেবে সার্ভার-সাইড ব্যবহার করুন এবং ডিভাইস অফলাইন থাকলে বা কানেকশন ভাল না থাকলে অন-ডিভাইস ব্যবহার করুন।
- সাবলীল ফলব্যাক: বিল্ট-ইন AI সহ ব্রাউজার গ্রহণ করতে সময় লাগবে, কিছু মডেল উপলভ্য নাও থাকতে পারে এবং পুরনো বা কম শক্তিশালী ডিভাইস সব মডেল অপ্টিমালি চালানোর জন্য হার্ডওয়্যারের প্রয়োজনীয়তা পূরণ নাও করতে পারে। সেইসব ব্যবহারকারীর জন্য সার্ভার-সাইড AI অফার করুন।
যেমন, আপনি বিল্ট-ইন Prompt API ব্যবহার করলে, API শুধুমাত্র Windows, macOS ও Linux-এ Chrome এক্সটেনশনে উপলভ্য। আপনার AI ফিচার থেকে যাতে সব ব্যবহারকারীই উপকৃত হতে পারেন তা নিশ্চিত করতে, Firebase AI Logic-এর সাথে একটি হাইব্রিড আর্কিটেকচার সেট-আপ করুন।
বিল্ট-ইন AI অ্যাক্সেস করা
আপনি মূলত টাস্ক API-এর মাধ্যমে বিল্ট-ইন AI ক্ষমতা অ্যাক্সেস করতে পারবেন, যেমন Translator API বা Summarizer API। অ্যাসাইনমেন্টের জন্য সবচেয়ে ভালো মডেলের বিরুদ্ধে ইনফারেন্স চালানোর জন্য টাস্ক API ডিজাইন করা হয়েছে, এটি ল্যাঙ্গুয়েজ বা এক্সপার্ট মডেল হতে পারে।
বিল্ট-ইন AI কখন ব্যবহার করতে হয়
বিল্ট-ইন AI কীভাবে আপনাকে ও আপনার ব্যবহারকারীদের সুবিধা দিতে পারে তা এখানে দেওয়া হল:
- AI-এর মাধ্যমে উন্নত কন্টেন্ট গ্রহণ করা: এর মধ্যে রয়েছে সারসংক্ষেপ, অনুবাদ, শ্রেণীবিন্যাস, চরিত্রায়ন এবং জ্ঞান প্রদানকারী হিসেবে।
- AI-এর সাহায্যে কন্টেন্ট তৈরি: যেমন, লেখার ব্যাপারে সহায়তা, প্রুফরিডিং, ব্যাকরণ সংশোধন ও নতুন করে লেখা।
বিল্ট-ইন AI API-এর মধ্যে বেশ কয়েকটি Chrome-এর স্থিতিশীল ভার্সন ও অরিজিন ট্রায়ালে উপলভ্য। এক্সপ্লোরেটরি API এবং প্রাথমিক পর্যায়ের API আর্লি প্রিভিউ প্রোগ্রামের (EPP) অংশগ্রহণকারীদের জন্য উপলভ্য।
নতুন ফিচারের প্রিভিউ দেখা
আপনার ব্যবহারের কেস পূরণ করতে সাহায্য করার জন্য API-কে আরও উন্নত করতে এবং স্ট্যান্ডার্ডাইজেশনের জন্য অন্যান্য ব্রাউজার ভেন্ডরদের সাথে আমাদের আলোচনা সম্পর্কে জানাতে, আপনার ইনপুট আমাদের প্রয়োজন।
প্রাথমিক পর্যায়ে বিল্ট-ইন AI আইডিয়া সম্পর্কে মতামত জানাতে EPP-তে যোগ দিন এবং লোকাল প্রোটোটাইপিংয়ের মাধ্যমে ইন-প্রগ্রেস API পরীক্ষা করার সুযোগ খুঁজে নিন।
স্ট্যান্ডার্ডাইজেশন সংক্রান্ত প্রচেষ্টা
ক্রস-ব্রাউজার কম্প্যাটিবিলিটির জন্য এইসব API-কে স্ট্যান্ডার্ডাইজ করার ব্যাপারে আমরা কাজ করছি।
Language Detector API ও Translator API-কে W3C WebML ওয়ার্কিং গ্রুপ গ্রহণ করেছে। আমরা Mozilla ও WebKit-এর কাছে তাদের স্ট্যান্ডার্ড পজিশন জানতে চেয়েছি।
Summarizer API, W3C WebML ওয়ার্কিং গ্রুপ গ্রহণ করেছে। আমরা Mozilla ও WebKit-এর কাছে তাদের স্ট্যান্ডার্ড পজিশন জানতে চেয়েছি।