অন্তর্নির্মিত AI

কেনজি বাহেউক্স
Kenji Baheux

প্রকাশিত: 14 মে, 2024, শেষ আপডেট: 20 মে, 2024

আমরা ব্রাউজারে তৈরি AI মডেল, বিশেষজ্ঞ মডেল এবং বড় ভাষা মডেল (LLMs) এর সাথে কাজ করার জন্য ডিজাইন করা ওয়েব প্ল্যাটফর্ম API এবং ব্রাউজার বৈশিষ্ট্যগুলি বিকাশ করছি। এর মধ্যে রয়েছে জেমিনি ন্যানো , এলএলএম-এর জেমিনি পরিবারের সবচেয়ে দক্ষ সংস্করণ, যা বেশিরভাগ আধুনিক ডেস্কটপ এবং ল্যাপটপ কম্পিউটারে স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে। অন্তর্নির্মিত AI এর সাথে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশন AI-চালিত কাজগুলি সম্পাদন করতে পারে, AI মডেলগুলি স্থাপন, পরিচালনা বা স্ব-হোস্ট করার প্রয়োজন ছাড়াই৷

বিল্ট-ইন AI এর সুবিধাগুলি, আমাদের বাস্তবায়ন পরিকল্পনা এবং আপনি কীভাবে এই প্রযুক্তির সুবিধা নিতে পারেন তা আবিষ্কার করুন৷

ওয়েব ডেভেলপারদের জন্য বিল্ট-ইন AI এর সুবিধা

অন্তর্নির্মিত AI সহ, আপনার ব্রাউজার ফাউন্ডেশন এবং বিশেষজ্ঞ মডেল সরবরাহ করে এবং পরিচালনা করে।

অন্তর্নির্মিত AI নিম্নলিখিত সুবিধাগুলি অফার করে:

  • স্থাপনার সহজলভ্যতা : ব্রাউজারটি মডেলগুলি বিতরণ করে, ডিভাইসের ক্ষমতার জন্য অ্যাকাউন্টিং করে এবং আপডেটগুলি পরিচালনা করে। এর মানে আপনি একটি নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করার জন্য দায়ী নন৷ স্টোরেজ উচ্ছেদ, রানটাইম মেমরি বাজেট, পরিবেশন খরচ এবং অন্যান্য চ্যালেঞ্জের জন্য আপনাকে সমাধান করতে হবে না।
  • হার্ডওয়্যার ত্বরণে অ্যাক্সেস : ব্রাউজারের এআই রানটাইমটি উপলব্ধ হার্ডওয়্যার থেকে সর্বাধিক ব্যবহার করার জন্য অপ্টিমাইজ করা হয়েছে, জিপিইউ, এনপিইউ, বা সিপিইউতে ফিরে আসা। ফলস্বরূপ, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পেতে পারে।

ক্লায়েন্ট-সাইড চালানোর সুবিধা

অন্তর্নির্মিত AI এর সাথে, আপনি AI ক্লায়েন্ট-সাইড সম্পাদন করতে পারেন, যার অর্থ আপনি এই সুবিধাগুলি পাবেন:

  • সংবেদনশীল ডেটার স্থানীয় প্রক্রিয়াকরণ : ক্লায়েন্ট-সাইড এআই আপনার গোপনীয়তার গল্প উন্নত করতে পারে। উদাহরণস্বরূপ, আপনি যদি সংবেদনশীল ডেটা নিয়ে কাজ করেন তবে আপনি এন্ড-টু-এন্ড এনক্রিপশন সহ ব্যবহারকারীদের AI বৈশিষ্ট্যগুলি অফার করতে পারেন।
  • চটকদার ব্যবহারকারীর অভিজ্ঞতা : কিছু ক্ষেত্রে, সার্ভারে রাউন্ড ট্রিপ ডিচ করার অর্থ হল আপনি কাছাকাছি-তাত্ক্ষণিক ফলাফল অফার করতে পারেন। ক্লায়েন্ট-সাইড এআই একটি কার্যকর বৈশিষ্ট্য এবং একটি উপ-অনুকূল ব্যবহারকারীর অভিজ্ঞতার মধ্যে পার্থক্য হতে পারে।
  • AI-তে বৃহত্তর অ্যাক্সেস : আপনার ব্যবহারকারীদের ডিভাইসগুলি বৈশিষ্ট্যগুলিতে আরও অ্যাক্সেসের বিনিময়ে প্রক্রিয়াকরণের কিছু ভার বহন করতে পারে। উদাহরণস্বরূপ, আপনি যদি প্রিমিয়াম AI বৈশিষ্ট্যগুলি অফার করেন, আপনি ক্লায়েন্ট-সাইড AI এর সাথে এই বৈশিষ্ট্যগুলির পূর্বরূপ দেখতে পারেন যাতে সম্ভাব্য গ্রাহকরা আপনার অতিরিক্ত খরচ ছাড়াই আপনার পণ্যের সুবিধাগুলি দেখতে পারেন৷ এই হাইব্রিড পদ্ধতি আপনাকে অনুমান খরচ পরিচালনা করতে সাহায্য করতে পারে বিশেষ করে প্রায়শই ব্যবহৃত ব্যবহারকারী প্রবাহের উপর।
  • অফলাইন এআই ব্যবহার : ইন্টারনেট সংযোগ না থাকলেও আপনার ব্যবহারকারীরা এআই বৈশিষ্ট্যগুলি অ্যাক্সেস করতে পারে। এর মানে হল আপনার সাইট এবং ওয়েব অ্যাপগুলি প্রত্যাশিত অফলাইনে বা পরিবর্তনশীল সংযোগের সাথে কাজ করতে পারে।

হাইব্রিড এআই: ক্লায়েন্ট-সাইড এবং সার্ভার-সাইড

ক্লায়েন্ট-সাইড এআই ব্যবহারের ক্ষেত্রে একটি বড় অ্যারে পরিচালনা করতে পারে, কিছু ব্যবহারের ক্ষেত্রে সার্ভার-সাইড সমর্থন প্রয়োজন। সার্ভার-সাইড এআই বড় মডেলের জন্য একটি দুর্দান্ত বিকল্প এবং এটি প্ল্যাটফর্ম এবং ডিভাইসগুলির একটি বিস্তৃত পরিসরকে সমর্থন করতে পারে।

আপনার আবেদনের প্রয়োজন হলে আপনি একটি হাইব্রিড পদ্ধতি বিবেচনা করতে পারেন:

  • জটিলতা: নির্দিষ্ট, অ্যাক্সেসযোগ্য ব্যবহারের ক্ষেত্রে ডিভাইসে AI এর সাথে সমর্থন করা সহজ। জটিল ব্যবহারের ক্ষেত্রে, সার্ভার-সাইড বাস্তবায়ন বিবেচনা করুন।
  • স্থিতিস্থাপকতা : ডিফল্টরূপে সার্ভার-সাইড ব্যবহার করুন এবং ডিভাইসটি অফলাইনে বা একটি দাগযুক্ত সংযোগে থাকা অবস্থায় ডিভাইসে ব্যবহার করুন।
  • গ্রেসফুল ফলব্যাক : অন্তর্নির্মিত AI সহ ব্রাউজারগুলি গ্রহণ করতে সময় লাগবে, কিছু মডেল অনুপলব্ধ হতে পারে এবং পুরানো বা কম শক্তিশালী ডিভাইসগুলি সর্বোত্তমভাবে সমস্ত মডেল চালানোর জন্য হার্ডওয়্যার প্রয়োজনীয়তা পূরণ করতে পারে না। সেই ব্যবহারকারীদের জন্য সার্ভার-সাইড এআই অফার করুন।

উদাহরণস্বরূপ, আপনি যদি বিল্ট-ইন প্রম্পট API ব্যবহার করেন (শীঘ্রই একটি মূল ট্রায়ালে থাকবে), API শুধুমাত্র ডেস্কটপে এবং Chrome এক্সটেনশনে, Windows, macOS এবং Linux-এ Chrome ব্রাউজারগুলির জন্য কাজ করবে৷ আপনার সমস্ত ব্যবহারকারীরা আপনার AI বৈশিষ্ট্য থেকে উপকৃত হতে পারে তা নিশ্চিত করতে, Firebase AI লজিকের সাথে একটি হাইব্রিড আর্কিটেকচার সেট আপ করুন৷

Gemini মডেল ব্যবহার করার সময়, আপনি Node.js এর সাথে ব্যাকএন্ড ইন্টিগ্রেশন তৈরি করতে পারেন।

বিল্ট-ইন AI অ্যাক্সেস করুন

আপনি বিল্ট-ইন AI ক্ষমতাগুলি অ্যাক্সেস করতে পারেন প্রাথমিকভাবে টাস্ক API , যেমন Translator API বা Summarizer API দিয়ে। টাস্ক APIগুলিকে অ্যাসাইনমেন্টের জন্য সেরা মডেলের বিপরীতে অনুমান চালানোর জন্য ডিজাইন করা হয়েছে।

ক্রোমে, এই APIগুলিকে সূক্ষ্ম-টিউনিং বা একটি বিশেষজ্ঞ মডেল সহ জেমিনি ন্যানো-এর বিরুদ্ধে অনুমান চালানোর জন্য তৈরি করা হয়েছে৷ বেশিরভাগ আধুনিক ডিভাইসে স্থানীয়ভাবে চালানোর জন্য ডিজাইন করা হয়েছে, জেমিনি ন্যানো ভাষা-সম্পর্কিত ব্যবহারের ক্ষেত্রে যেমন সারসংক্ষেপ, রিফ্রেসিং বা শ্রেণীকরণের জন্য সেরা।

কখন বিল্ট-ইন AI ব্যবহার করবেন

বিল্ট-ইন এআই আপনাকে এবং আপনার ব্যবহারকারীদের উপকার করতে পারে এমন কয়েকটি উপায় এখানে রয়েছে:

  • AI-বর্ধিত বিষয়বস্তু ব্যবহার : সংক্ষিপ্তকরণ, অনুবাদ, শ্রেণীকরণ, চরিত্রায়ন এবং জ্ঞান প্রদানকারী হিসাবে অন্তর্ভুক্ত।
  • এআই-সমর্থিত বিষয়বস্তু তৈরি : যেমন লেখার সহায়তা, প্রুফরিডিং, ব্যাকরণ সংশোধন এবং রিফ্রেসিং।

বেশ কিছু বিল্ট-ইন এআই এপিআই ক্রোম স্টেবল এবং অরিজিন ট্রায়ালে উপলব্ধ। অনুসন্ধানমূলক API এবং প্রাথমিক-পর্যায়ের APIগুলি প্রাথমিক পূর্বরূপ প্রোগ্রাম (EPP) অংশগ্রহণকারীদের জন্য উপলব্ধ।

নতুন বৈশিষ্ট্য পূর্বরূপ

এপিআইগুলিকে আকৃতি দেওয়ার জন্য আমাদের আপনার ইনপুট প্রয়োজন, নিশ্চিত করুন যে তারা আপনার ব্যবহারের ক্ষেত্রে পূরণ করে, এবং মানককরণের জন্য অন্যান্য ব্রাউজার বিক্রেতাদের সাথে আমাদের আলোচনাকে অবহিত করুন।

প্রাথমিক পর্যায়ের বিল্ট-ইন AI ধারণা সম্পর্কে প্রতিক্রিয়া জানাতে EPP-এ যোগ দিন এবং স্থানীয় প্রোটোটাইপিংয়ের মাধ্যমে অগ্রগতি API পরীক্ষা করার সুযোগগুলি আবিষ্কার করুন।