যখন আমরা ওয়েবে AI মডেলগুলির সাথে বৈশিষ্ট্যগুলি তৈরি করি, তখন আমরা প্রায়শই বড় মডেলগুলির জন্য সার্ভার-সাইড সমাধানগুলির উপর নির্ভর করি। এটি জেনারেটিভ AI এর জন্য বিশেষভাবে সত্য, যেখানে এমনকি ক্ষুদ্রতম মডেলগুলিও মধ্যম ওয়েব পৃষ্ঠার আকারের থেকে প্রায় হাজার গুণ বড়। এটি অন্যান্য AI ব্যবহারের ক্ষেত্রেও সত্য, যেখানে মডেল 10 থেকে 100 মেগাবাইট পর্যন্ত হতে পারে।
যেহেতু এই মডেলগুলি ওয়েবসাইট জুড়ে শেয়ার করা হয় না , তাই প্রতিটি সাইটকে পৃষ্ঠা লোডে ডাউনলোড করতে হবে৷ এটি বিকাশকারী এবং ব্যবহারকারীদের জন্য একটি অবাস্তব সমাধান
যদিও সার্ভার-সাইড AI বড় মডেলের জন্য একটি দুর্দান্ত বিকল্প, অন-ডিভাইস এবং হাইব্রিড পদ্ধতির নিজস্ব বাধ্যতামূলক উত্থান রয়েছে। এই পদ্ধতিগুলিকে কার্যকর করার জন্য, আমাদের মডেলের আকার এবং মডেল ডেলিভারি সম্বোধন করতে হবে।
এই কারণেই আমরা ওয়েব প্ল্যাটফর্ম API এবং ব্রাউজার বৈশিষ্ট্যগুলি বিকাশ করছি যাতে AI মডেলগুলিকে একীভূত করার জন্য ডিজাইন করা হয়েছে, যার মধ্যে বড় ভাষা মডেলগুলি (LLMs), সরাসরি ব্রাউজারে রয়েছে৷ এর মধ্যে রয়েছে জেমিনি ন্যানো , এলএলএম-এর জেমিনি পরিবারের সবচেয়ে দক্ষ সংস্করণ, যা বেশিরভাগ আধুনিক ডেস্কটপ এবং ল্যাপটপ কম্পিউটারে স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে। অন্তর্নির্মিত AI এর সাথে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশনটি নিজস্ব AI মডেল স্থাপন বা পরিচালনার প্রয়োজন ছাড়াই AI-চালিত কাজগুলি সম্পাদন করতে পারে।
বিল্ট-ইন AI এর সুবিধাগুলি, আমাদের বাস্তবায়ন পরিকল্পনা এবং আপনি কীভাবে এই প্রযুক্তির সুবিধা নিতে পারেন তা আবিষ্কার করুন৷
একটি প্রারম্ভিক পূর্বরূপ পান
এপিআইগুলিকে আকৃতি দেওয়ার জন্য আমাদের আপনার ইনপুট প্রয়োজন, নিশ্চিত করুন যে তারা আপনার ব্যবহারের ক্ষেত্রে পূরণ করে, এবং মানককরণের জন্য অন্যান্য ব্রাউজার বিক্রেতাদের সাথে আমাদের আলোচনাকে অবহিত করুন।
প্রাথমিক পর্যায়ের বিল্ট-ইন AI ধারনাগুলিতে প্রতিক্রিয়া জানাতে এবং স্থানীয় প্রোটোটাইপিংয়ের মাধ্যমে অগ্রগতি API পরীক্ষা করার সুযোগগুলি আবিষ্কার করতে আমাদের প্রাথমিক পূর্বরূপ প্রোগ্রামে যোগ দিন ।
নতুন API উপলব্ধ হলে বিজ্ঞপ্তি পেতে Chrome AI বিকাশকারী পাবলিক ঘোষণা গোষ্ঠীতে যোগ দিন৷
ওয়েব ডেভেলপারদের জন্য বিল্ট-ইন AI এর সুবিধা
অন্তর্নির্মিত AI সহ, আপনার ব্রাউজার ফাউন্ডেশন এবং বিশেষজ্ঞ মডেল সরবরাহ করে এবং পরিচালনা করে।
ডিভাইসে AI নিজে করার তুলনায়, বিল্ট-ইন AI নিম্নলিখিত সুবিধাগুলি অফার করে:
- স্থাপনের সহজলভ্যতা : ব্রাউজারটি যেমন মডেলগুলি বিতরণ করে, এটি ডিভাইসের সক্ষমতা বিবেচনা করে এবং মডেলের আপডেটগুলি পরিচালনা করে। এর মানে আপনি একটি নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করার জন্য দায়ী নন৷ স্টোরেজ উচ্ছেদ, রানটাইম মেমরি বাজেট, পরিবেশন খরচ এবং অন্যান্য চ্যালেঞ্জের জন্য আপনাকে সমাধান করতে হবে না।
- হার্ডওয়্যার ত্বরণে অ্যাক্সেস : ব্রাউজারের এআই রানটাইমটি উপলব্ধ হার্ডওয়্যার থেকে সর্বাধিক ব্যবহার করার জন্য অপ্টিমাইজ করা হয়েছে, এটি একটি জিপিইউ, একটি এনপিইউ, বা সিপিইউতে ফিরে আসা। ফলস্বরূপ, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পেতে পারে।
ডিভাইসে চালানোর সুবিধা
একটি অন্তর্নির্মিত AI পদ্ধতির সাথে, ডিভাইসে AI কাজগুলি সম্পাদন করা তুচ্ছ হয়ে যায়, যা ফলস্বরূপ নিম্নলিখিত উত্থানগুলি অফার করে:
- সংবেদনশীল ডেটার স্থানীয় প্রক্রিয়াকরণ : অন-ডিভাইস এআই আপনার গোপনীয়তার গল্প উন্নত করতে পারে। উদাহরণস্বরূপ, আপনি যদি সংবেদনশীল ডেটা নিয়ে কাজ করেন তবে আপনি এন্ড-টু-এন্ড এনক্রিপশন সহ ব্যবহারকারীদের AI বৈশিষ্ট্যগুলি অফার করতে পারেন।
- চটকদার ব্যবহারকারীর অভিজ্ঞতা : কিছু ক্ষেত্রে, সার্ভারে রাউন্ড ট্রিপ ডিচ করার অর্থ হল আপনি কাছাকাছি-তাত্ক্ষণিক ফলাফল অফার করতে পারেন। অন-ডিভাইস AI একটি কার্যকর বৈশিষ্ট্য এবং একটি উপ-অনুকূল ব্যবহারকারীর অভিজ্ঞতার মধ্যে পার্থক্য হতে পারে।
- AI-তে বৃহত্তর অ্যাক্সেস : আপনার ব্যবহারকারীদের ডিভাইসগুলি বৈশিষ্ট্যগুলিতে আরও অ্যাক্সেসের বিনিময়ে প্রক্রিয়াকরণের কিছু ভার বহন করতে পারে। উদাহরণস্বরূপ, আপনি যদি প্রিমিয়াম AI বৈশিষ্ট্যগুলি অফার করেন, তাহলে আপনি ডিভাইসে AI এর সাথে এই বৈশিষ্ট্যগুলির পূর্বরূপ দেখতে পারেন যাতে সম্ভাব্য গ্রাহকরা আপনার অতিরিক্ত খরচ ছাড়াই আপনার পণ্যের সুবিধাগুলি দেখতে পারেন৷ এই হাইব্রিড পদ্ধতি আপনাকে অনুমান খরচ পরিচালনা করতে সাহায্য করতে পারে বিশেষ করে প্রায়শই ব্যবহৃত ব্যবহারকারী প্রবাহের উপর।
- অফলাইন এআই ব্যবহার : ইন্টারনেট সংযোগ না থাকলেও আপনার ব্যবহারকারীরা এআই বৈশিষ্ট্যগুলি অ্যাক্সেস করতে পারে। এর মানে হল আপনার সাইট এবং ওয়েব অ্যাপগুলি প্রত্যাশিত অফলাইনে বা পরিবর্তনশীল সংযোগের সাথে কাজ করতে পারে।
হাইব্রিড এআই: অন-ডিভাইস এবং সার্ভার-সাইড
যদিও অন-ডিভাইস এআই একটি বৃহৎ অ্যারে ব্যবহারের ক্ষেত্রে পরিচালনা করতে পারে, কিছু নির্দিষ্ট ব্যবহারের ক্ষেত্রে সার্ভার-সাইড সমর্থন প্রয়োজন।
উদাহরণস্বরূপ, আপনাকে বৃহত্তর মডেল ব্যবহার করতে হতে পারে বা প্ল্যাটফর্ম এবং ডিভাইসগুলির একটি বিস্তৃত পরিসর সমর্থন করতে হতে পারে।
আপনি হাইব্রিড পন্থা বিবেচনা করতে পারেন, এর উপর নির্ভর করে:
- জটিলতা: নির্দিষ্ট, অ্যাক্সেসযোগ্য ব্যবহারের ক্ষেত্রে ডিভাইসে AI এর সাথে সমর্থন করা সহজ। জটিল ব্যবহারের ক্ষেত্রে, সার্ভার-সাইড বাস্তবায়ন বিবেচনা করুন।
- স্থিতিস্থাপকতা : ডিফল্টরূপে সার্ভার-সাইড ব্যবহার করুন এবং ডিভাইসটি অফলাইনে বা একটি দাগযুক্ত সংযোগে থাকা অবস্থায় ডিভাইসে ব্যবহার করুন।
- গ্রেসফুল ফলব্যাক : অন্তর্নির্মিত AI সহ ব্রাউজারগুলি গ্রহণ করতে সময় লাগবে, কিছু মডেল অনুপলব্ধ হতে পারে এবং পুরানো বা কম শক্তিশালী ডিভাইসগুলি সর্বোত্তমভাবে সমস্ত মডেল চালানোর জন্য হার্ডওয়্যার প্রয়োজনীয়তা পূরণ করতে পারে না। সেই ব্যবহারকারীদের জন্য সার্ভার-সাইড এআই অফার করুন।
জেমিনি মডেলের জন্য, আপনি ব্যাকএন্ড ইন্টিগ্রেশন ব্যবহার করতে পারেন ( Python , Go , Node.js , বা REST এর সাথে) অথবা ওয়েবের জন্য নতুন Google AI ক্লায়েন্ট SDK এর সাথে আপনার ওয়েব অ্যাপ্লিকেশনে প্রয়োগ করতে পারেন।
ব্রাউজার আর্কিটেকচার এবং API
Chrome-এ বিল্ট-ইন AI সমর্থন করার জন্য, আমরা অন-ডিভাইস এক্সিকিউশনের জন্য ফাউন্ডেশন এবং বিশেষজ্ঞ মডেল অ্যাক্সেস করার জন্য পরিকাঠামো তৈরি করেছি। এই অবকাঠামোটি ইতিমধ্যেই উদ্ভাবনী ব্রাউজার বৈশিষ্ট্যগুলিকে শক্তিশালী করছে, যেমন আমাকে লিখতে সাহায্য করুন এবং শীঘ্রই অন-ডিভাইস AI-এর জন্য APIগুলিকে শক্তি দেবে৷
আপনি প্রাথমিকভাবে টাস্ক API, যেমন একটি অনুবাদ API বা একটি সংক্ষিপ্তকরণ API সহ অন্তর্নির্মিত AI ক্ষমতাগুলি অ্যাক্সেস করবেন৷ টাস্ক APIগুলিকে অ্যাসাইনমেন্টের জন্য সেরা মডেলের বিপরীতে অনুমান চালানোর জন্য ডিজাইন করা হয়েছে।
ক্রোমে, এই APIগুলিকে সূক্ষ্ম-টিউনিং বা একটি বিশেষজ্ঞ মডেল সহ জেমিনি ন্যানো-এর বিরুদ্ধে অনুমান চালানোর জন্য তৈরি করা হয়েছে৷ বেশিরভাগ আধুনিক ডিভাইসে স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে, জেমিনি ন্যানো ভাষা-সম্পর্কিত ব্যবহারের ক্ষেত্রে যেমন সারসংক্ষেপ, রিফ্রেসিং বা শ্রেণীকরণের জন্য সেরা।
এছাড়াও, আমরা অনুসন্ধানমূলক API প্রদান করতে চাই, যাতে আপনি স্থানীয়ভাবে পরীক্ষা করতে পারেন এবং অতিরিক্ত ব্যবহারের ক্ষেত্রে ভাগ করতে পারেন।
উদাহরণস্বরূপ, আমরা প্রদান করতে পারি:
- প্রম্পট এপিআই : বিল্ট-ইন লার্জ ল্যাঙ্গুয়েজ মডেলে (ক্রোমে জেমিনি ন্যানো) একটি স্বেচ্ছাচারী কাজ, প্রাকৃতিক ভাষায় প্রকাশ করুন।
- ফাইন-টিউনিং (LoRA) API : নিম্ন-র্যাঙ্ক অ্যাডাপ্টেশন ফাইন টিউনিংয়ের মাধ্যমে মডেলের ওজন সামঞ্জস্য করে একটি টাস্কে বিল্ট-ইন LLM-এর কর্মক্ষমতা উন্নত করুন।
কখন বিল্ট-ইন AI ব্যবহার করবেন
এখানে কয়েকটি উপায় রয়েছে যা আমরা আশা করি বিল্ট-ইন AI আপনাকে এবং আপনার ব্যবহারকারীদের উপকার করতে পারে:
- AI-বর্ধিত বিষয়বস্তু ব্যবহার : সংক্ষিপ্তকরণ, অনুবাদ , কিছু বিষয়বস্তু সম্পর্কে প্রশ্নের উত্তর, শ্রেণীকরণ, এবং চরিত্রায়ন সহ।
- এআই-সমর্থিত বিষয়বস্তু তৈরি : যেমন লেখার সহায়তা, প্রুফরিডিং, ব্যাকরণ সংশোধন এবং রিফ্রেসিং।
এরপর কি
প্রাথমিক পর্যায়ে বিল্ট-ইন AI API-এর সাথে পরীক্ষা করতে আমাদের প্রাথমিক পূর্বরূপ প্রোগ্রামে যোগ দিন।
ইতিমধ্যে, আপনি Google AI JavaScript SDK-এর জন্য আমাদের কুইকস্টার্টে আপনার ওয়েবসাইট এবং ওয়েব অ্যাপগুলির সাথে Google এর সার্ভারে Gemini Pro কীভাবে ব্যবহার করবেন তা শিখতে পারেন৷