অন্তর্নির্মিত AI

কেনজি বাহেউক্স
Kenji Baheux
আলেকজান্দ্রা ক্লেপার
Alexandra Klepper

প্রকাশিত: ১৪ মে, ২০২৪, সর্বশেষ হালনাগাদ: ২০ মে, ২০২৪

আমরা ব্রাউজারের মধ্যেই এআই মডেল, এক্সপার্ট মডেল এবং লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম)-এর সাথে কাজ করার জন্য ডিজাইন করা ওয়েব প্ল্যাটফর্ম এপিআই এবং ব্রাউজার ফিচার তৈরি করছি। বিল্ট-ইন এআই-এর সাহায্যে, আপনার ওয়েবসাইট বা ওয়েব অ্যাপ্লিকেশন কোনো মডেল ডেপ্লয়, ম্যানেজ বা সেলফ-হোস্ট করার প্রয়োজন ছাড়াই এআই-চালিত কাজ সম্পাদন করতে পারবে।

অন্তর্নির্মিত এআই-এর সুবিধাগুলো, আমাদের বাস্তবায়ন পরিকল্পনা এবং কীভাবে আপনি এই টুলগুলো প্রয়োগ করা শুরু করতে পারেন, তা জানুন।

আপনি যদি ওয়েবে এআই-এর জগতে নতুন হন, তাহলে আমাদের ওয়েব এআই পরিভাষা ও ধারণাগুলো পড়ুন।

ওয়েব ডেভেলপারদের জন্য অন্তর্নির্মিত এআই-এর সুবিধাসমূহ

অন্তর্নির্মিত এআই-এর সাহায্যে আপনার ব্রাউজার ভিত্তিগত এবং বিশেষজ্ঞ মডেলগুলো সরবরাহ ও পরিচালনা করে।

অন্তর্নির্মিত এআই-এর সাহায্যে, আপনার ওয়েবসাইট ব্রাউজার এপিআই ব্যবহার করে স্থানীয় প্রসেসরের (সিপিইউ, জিপিইউ, বা এনপিইউ) সাথে সংযোগ স্থাপন করে। এরপর এটি একটি স্থানীয় মডেলের সাথে যোগাযোগ করে, যা একটি প্রতিক্রিয়া পাঠায়। এপিআই সেই প্রতিক্রিয়াটি ফেরত পাঠায়।

অন্তর্নির্মিত এআই নিম্নলিখিত সুবিধাগুলো প্রদান করে:

  • স্থাপনের সহজতা : ব্রাউজার ডিভাইসের সক্ষমতা বিবেচনা করে মডেলগুলো বিতরণ করে এবং আপডেটগুলো পরিচালনা করে। এর মানে হলো, নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করার দায়িত্ব আপনার নয়। আপনাকে স্টোরেজ ইভিকশন, রানটাইম মেমরি বাজেট, সার্ভিং খরচ এবং অন্যান্য চ্যালেঞ্জগুলো নিয়ে ভাবতে হবে না।
  • হার্ডওয়্যার অ্যাক্সিলারেশন ব্যবহারের সুযোগ : ব্রাউজারের এআই রানটাইমটি উপলব্ধ হার্ডওয়্যারের সর্বোত্তম ব্যবহার নিশ্চিত করতে অপ্টিমাইজ করা থাকে, তা জিপিইউ, এনপিইউ বা সিপিইউ ব্যবহারের মাধ্যমেই হোক না কেন। ফলে, আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পেতে পারে।

ক্লায়েন্ট-সাইডে চালানোর সুবিধা

অন্তর্নির্মিত এআই-এর সাহায্যে আপনি ক্লায়েন্ট-সাইডে এআই কার্যক্রম পরিচালনা করতে পারেন, যার ফলে আপনি নিম্নলিখিত সুবিধাগুলো পাবেন:

  • সংবেদনশীল ডেটার স্থানীয় প্রক্রিয়াকরণ : ক্লায়েন্ট-সাইড এআই আপনার গোপনীয়তার বিষয়টিকে আরও উন্নত করতে পারে। উদাহরণস্বরূপ, আপনি যদি সংবেদনশীল ডেটা নিয়ে কাজ করেন, তবে ব্যবহারকারীদের এন্ড-টু-এন্ড এনক্রিপশনসহ এআই ফিচার প্রদান করতে পারেন।
  • দ্রুত ও সাবলীল ব্যবহারকারীর অভিজ্ঞতা : কিছু ক্ষেত্রে, সার্ভারে বারবার সংযোগ স্থাপন বাদ দিলে প্রায় তাৎক্ষণিক ফলাফল দেওয়া সম্ভব হয়। একটি কার্যকর ফিচার এবং একটি নিম্নমানের ব্যবহারকারীর অভিজ্ঞতার মধ্যে ক্লায়েন্ট-সাইড এআই-ই পার্থক্য গড়ে দিতে পারে।
  • এআই-এর বৃহত্তর অ্যাক্সেস : আপনার ব্যবহারকারীদের ডিভাইসগুলো আরও বেশি ফিচার ব্যবহারের সুযোগের বিনিময়ে প্রসেসিংয়ের কিছু ভার বহন করতে পারে। উদাহরণস্বরূপ, আপনি যদি প্রিমিয়াম এআই ফিচার অফার করেন, তবে আপনি ক্লায়েন্ট-সাইড এআই ব্যবহার করে সেই ফিচারগুলোর প্রিভিউ দেখতে পারেন, যাতে সম্ভাব্য গ্রাহকরা আপনার কোনো অতিরিক্ত খরচ ছাড়াই আপনার পণ্যের সুবিধাগুলো দেখতে পারেন। এই হাইব্রিড পদ্ধতিটি আপনাকে ইনফারেন্স খরচ পরিচালনা করতেও সাহায্য করতে পারে, বিশেষ করে ঘন ঘন ব্যবহৃত ইউজার ফ্লো-গুলোর ক্ষেত্রে।
  • অফলাইন এআই ব্যবহার : আপনার ব্যবহারকারীরা ইন্টারনেট সংযোগ না থাকলেও এআই ফিচারগুলো ব্যবহার করতে পারবেন। এর মানে হলো, আপনার সাইট এবং ওয়েব অ্যাপগুলো অফলাইনে বা পরিবর্তনশীল সংযোগেও প্রত্যাশিতভাবে কাজ করতে পারবে।

হাইব্রিড এআই: ক্লায়েন্ট-সাইড এবং সার্ভার-সাইড

যদিও ক্লায়েন্ট-সাইড এআই বিভিন্ন ধরনের ব্যবহারের ক্ষেত্র সামলাতে পারে, কিছু ক্ষেত্রে সার্ভার-সাইড সহায়তার প্রয়োজন হয়। বড় মডেলের জন্য সার্ভার-সাইড এআই একটি চমৎকার বিকল্প, এবং এটি আরও বিস্তৃত প্ল্যাটফর্ম ও ডিভাইস সমর্থন করতে পারে।

আপনার অ্যাপ্লিকেশনের প্রয়োজন হলে আপনি একটি হাইব্রিড পদ্ধতি বিবেচনা করতে পারেন:

  • জটিলতা: সুনির্দিষ্ট ও সহজবোধ্য ব্যবহারের ক্ষেত্রগুলো অন-ডিভাইস এআই দিয়ে সমর্থন করা সহজ। জটিল ব্যবহারের ক্ষেত্রগুলোর জন্য সার্ভার-সাইড বাস্তবায়নের কথা বিবেচনা করুন।
  • স্থিতিস্থাপকতা : ডিফল্টরূপে সার্ভার-সাইড ব্যবহার করুন, এবং ডিভাইসটি অফলাইন থাকলে বা সংযোগ দুর্বল হলে অন-ডিভাইস ব্যবহার করুন।
  • মার্জিত বিকল্প ব্যবস্থা : অন্তর্নির্মিত এআই সহ ব্রাউজারগুলির প্রচলনে সময় লাগবে, কিছু মডেল অনুপলব্ধ হতে পারে, এবং পুরোনো বা কম শক্তিশালী ডিভাইসগুলি সব মডেল সর্বোত্তমভাবে চালানোর জন্য প্রয়োজনীয় হার্ডওয়্যার চাহিদা পূরণ করতে পারে না। সেইসব ব্যবহারকারীদের জন্য সার্ভার-সাইড এআই-এর ব্যবস্থা করুন।

উদাহরণস্বরূপ, আপনি যদি বিল্ট-ইন প্রম্পট এপিআই (Prompt API) ব্যবহার করেন, তবে এপিআইটি শুধুমাত্র উইন্ডোজ, ম্যাকওএস এবং লিনাক্সে ক্রোম এক্সটেনশনের মধ্যেই উপলব্ধ থাকবে। আপনার সকল ব্যবহারকারী যাতে আপনার এআই ফিচার থেকে উপকৃত হতে পারেন, তা নিশ্চিত করতে ফায়ারবেস এআই লজিক (Firebase AI Logic) ব্যবহার করে একটি হাইব্রিড আর্কিটেকচার সেট আপ করুন।

অন্তর্নির্মিত AI অ্যাক্সেস করুন

আপনি মূলত টাস্ক এপিআই (যেমন ট্রান্সলেটর এপিআই বা সামারাইজার এপিআই) ব্যবহার করে বিল্ট-ইন এআই সক্ষমতাগুলো অ্যাক্সেস করতে পারেন। টাস্ক এপিআইগুলো কোনো অ্যাসাইনমেন্টের জন্য সেরা মডেলের (সেটি ল্যাঙ্গুয়েজ মডেল হোক বা এক্সপার্ট মডেল) বিপরীতে ইনফারেন্স চালানোর জন্য ডিজাইন করা হয়েছে।

কখন বিল্ট-ইন এআই ব্যবহার করবেন

অন্তর্নির্মিত এআই যেভাবে আপনার এবং আপনার ব্যবহারকারীদের উপকারে আসতে পারে, তার কয়েকটি উপায় নিচে দেওয়া হলো:

  • এআই-সহায়তায় বিষয়বস্তু গ্রহণ : এর মধ্যে রয়েছে সারসংক্ষেপ তৈরি, অনুবাদ, শ্রেণীকরণ, বৈশিষ্ট্য নিরূপণ এবং জ্ঞান প্রদানকারী হিসেবে ভূমিকা।
  • এআই-সমর্থিত কন্টেন্ট তৈরি : যেমন লেখার সহায়তা, প্রুফরিডিং, ব্যাকরণগত সংশোধন এবং পুনর্গঠন।

ক্রোম স্টেবল এবং অরিজিন ট্রায়ালে বেশ কয়েকটি বিল্ট-ইন এআই এপিআই পাওয়া যায়। আর্লি প্রিভিউ প্রোগ্রাম (ইপিপি) অংশগ্রহণকারীদের জন্য এক্সপ্লোরেটরি এপিআই এবং প্রাথমিক পর্যায়ের এপিআইগুলো উপলব্ধ।

নতুন বৈশিষ্ট্যগুলির পূর্বরূপ দেখুন

আপনার ব্যবহারের ক্ষেত্রগুলো পূরণে সহায়ক এপিআই (API)-গুলোকে রূপ দিতে এবং মান নির্ধারণের জন্য অন্যান্য ব্রাউজার বিক্রেতাদের সাথে আমাদের আলোচনাকে সমৃদ্ধ করতে আপনার মতামত প্রয়োজন।

প্রাথমিক পর্যায়ের বিল্ট-ইন এআই ধারণাগুলোর উপর মতামত জানাতে এবং স্থানীয় প্রোটোটাইপিংয়ের মাধ্যমে নির্মাণাধীন এপিআই পরীক্ষা করার সুযোগ খুঁজে পেতে EPP-তে যোগ দিন

মানকীকরণের প্রচেষ্টা

বিভিন্ন ব্রাউজারে সামঞ্জস্যপূর্ণ করার জন্য আমরা এই সমস্ত এপিআই-কে মানসম্মত করতে কাজ করছি।

ল্যাঙ্গুয়েজ ডিটেক্টর এপিআই এবং ট্রান্সলেটর এপিআই W3C WebML ওয়ার্কিং গ্রুপ কর্তৃক গৃহীত হয়েছে। আমরা মোজিলা এবং ওয়েবকিটকে তাদের স্ট্যান্ডার্ড সংক্রান্ত অবস্থান সম্পর্কে জিজ্ঞাসা করেছি।

Summarizer API, Writer API, এবং Rewriter API-কে W3C WebML Working Group-ও গ্রহণ করেছে। আমরা Mozilla এবং WebKit-কে তাদের মান সংক্রান্ত অবস্থান সম্পর্কে জিজ্ঞাসা করেছি।