Chrome-এ বিল্ট-ইন মডেল ম্যানেজমেন্ট বুঝুন

প্রকাশিত: ২১ অক্টোবর, ২০২৫

জেমিনি ন্যানো দ্বারা চালিত বিল্ট-ইন এআই ক্ষমতাগুলি ব্যবহারকারী এবং ডেভেলপার উভয়ের জন্যই নির্বিঘ্নে ডিজাইন করা হয়েছে। যখন আপনি একটি বিল্ট-ইন এআই এপিআই ব্যবহার করেন, তখন মডেল পরিচালনা স্বয়ংক্রিয়ভাবে ব্যাকগ্রাউন্ডে ঘটে। এই নথিতে বর্ণনা করা হয়েছে যে ক্রোম কীভাবে জেমিনি ন্যানো মডেল ডাউনলোড, আপডেট এবং পরিশোধন পরিচালনা করে।

প্রাথমিক মডেল ডাউনলোড

যখন কোনও ব্যবহারকারী Chrome ডাউনলোড বা আপডেট করেন, তখন Gemini Nano চাহিদা অনুযায়ী ডাউনলোড করা হয় যাতে Chrome ব্যবহারকারীর হার্ডওয়্যারের জন্য সঠিক মডেলটি ডাউনলোড করে। Gemini Nano-এর উপর নির্ভরশীল যেকোনো বিল্ট-ইন AI API- এর *.create() ফাংশনে (উদাহরণস্বরূপ, Summarizer.create() ) প্রথম কলের মাধ্যমে প্রাথমিক মডেল ডাউনলোড শুরু হয়। যখন এটি ঘটে, তখন সর্বোত্তম পদক্ষেপ নির্ধারণের জন্য Chrome একাধিক পরীক্ষা চালায়। প্রথমে, Chrome একটি প্রতিনিধিত্বমূলক শেডার চালিয়ে ডিভাইসের GPU কর্মক্ষমতা অনুমান করে। এই ফলাফলের উপর ভিত্তি করে, এটি সিদ্ধান্ত নেয় যে:

  • একটি বৃহত্তর, আরও সক্ষম জেমিনি ন্যানো ভেরিয়েন্ট ডাউনলোড করুন (যেমন 4B প্যারামিটার)।
  • একটি ছোট, আরও দক্ষ জেমিনি ন্যানো ভেরিয়েন্ট ডাউনলোড করুন (যেমন 2B প্যারামিটার)।
  • ডিভাইসটি যদি পৃথক স্ট্যাটিক প্রয়োজনীয়তা পূরণ করে তবে CPU-ভিত্তিক অনুমানে ফিরে যান। যদি ডিভাইসটি হার্ডওয়্যার প্রয়োজনীয়তা পূরণ না করে, তাহলে মডেলটি ডাউনলোড করা হয় না।

ডাউনলোড প্রক্রিয়াটি স্থিতিস্থাপক হওয়ার জন্য তৈরি করা হয়েছে:

  • যদি ইন্টারনেট সংযোগ বিচ্ছিন্ন হয়ে যায়, সংযোগ পুনরুদ্ধারের পরে ডাউনলোডটি যেখানে বন্ধ হয়েছিল সেখান থেকে চলতে থাকে।
  • যে ট্যাবটি ডাউনলোড শুরু করেছিল সেটি যদি বন্ধ থাকে, তাহলে ডাউনলোডটি ব্যাকগ্রাউন্ডে চলতে থাকবে।
  • যদি ব্রাউজারটি বন্ধ থাকে, তাহলে পরবর্তী রিস্টার্টে ডাউনলোড পুনরায় শুরু হবে, যদি ব্রাউজারটি 30 দিনের মধ্যে খোলে।

কখনও কখনও, availability() কল করার ফলে মডেল ডাউনলোড শুরু হতে পারে। এটি ঘটে যদি নতুন ব্যবহারকারীর প্রোফাইল শুরু হওয়ার কিছুক্ষণ পরেই কলটি আসে এবং যদি জেমিনি ন্যানো চালিত স্ক্যাম সনাক্তকরণ বৈশিষ্ট্য সক্রিয় থাকে।

LoRA ওজন ডাউনলোড করুন

কিছু API, যেমন প্রুফরিডার API, লো-র‍্যাঙ্ক অ্যাডাপ্টেশন (LoRA) ওয়েটের উপর নির্ভর করে যা বেস মডেলের কার্যকারিতা বিশেষীকরণের জন্য প্রয়োগ করা হয়। যদি API LoRA-এর উপর নির্ভর করে, তাহলে LoRA ওয়েটগুলি বেস মডেলের পাশাপাশি ডাউনলোড করা হয়। অন্যান্য API-এর জন্য LoRA ওয়েটগুলি সক্রিয়ভাবে ডাউনলোড করা হয় না।

স্বয়ংক্রিয় মডেল আপডেট

জেমিনি ন্যানো মডেলের আপডেট নিয়মিতভাবে প্রকাশিত হয়। ব্রাউজার শুরু হলে Chrome এই আপডেটগুলি পরীক্ষা করে। এছাড়াও, Chrome LoRA ওয়েটের মতো পরিপূরক সংস্থানগুলির আপডেটগুলি প্রতিদিন পরীক্ষা করে। যদিও আপনি জাভাস্ক্রিপ্ট থেকে মডেল সংস্করণটি প্রোগ্রাম্যাটিকভাবে জিজ্ঞাসা করতে পারবেন না, আপনি chrome://on-device-internalsকোন সংস্করণটি ইনস্টল করা আছে তা ম্যানুয়ালি পরীক্ষা করতে পারেন। আপডেট প্রক্রিয়াটি নির্বিঘ্ন এবং অ-ব্যহত করার জন্য ডিজাইন করা হয়েছে:

  • ব্যাকগ্রাউন্ডে নতুন সংস্করণ ডাউনলোড করার সময় ক্রোম বর্তমান মডেলের সাথে কাজ করে।
  • আপডেট করা মডেলটি ডাউনলোড হয়ে গেলে, এটি হট সোয়াপড হয়ে যায় , যার অর্থ মডেলগুলি কোনও ডাউনটাইম ছাড়াই স্যুইচ করা হয়। যেকোনো নতুন AI API কল তাৎক্ষণিকভাবে নতুন মডেলটি ব্যবহার করবে। দ্রষ্টব্য: সোয়াপের ঠিক মুহূর্তে চলমান প্রম্পট ব্যর্থ হওয়ার সম্ভাবনা রয়েছে।
  • প্রতিটি আপডেট সম্পূর্ণ নতুন মডেল ডাউনলোড, আংশিক ডাউনলোড নয়। কারণ বিভিন্ন সংস্করণের মডেলের ওজন উল্লেখযোগ্যভাবে ভিন্ন হতে পারে এবং এত বড় ফাইলের জন্য গণনা এবং ডেল্টা প্রয়োগ ধীর হতে পারে।

প্রাথমিক ডাউনলোডের মতোই আপডেটের প্রয়োজনীয়তাও প্রযোজ্য। তবে, যদি কোনও মডেল ইতিমধ্যেই ইনস্টল করা থাকে তবে প্রাথমিক ডিস্ক স্পেস চেক মওকুফ করা হয়। LoRA ওজনও আপডেট করা যেতে পারে। LoRA ওজনের একটি নতুন সংস্করণ একটি বিদ্যমান বেস মডেলে প্রয়োগ করা যেতে পারে। তবে, একটি নতুন বেস মডেল সংস্করণের জন্য সর্বদা LoRA ওজনের একটি নতুন সেট প্রয়োজন।

মডেল মুছে ফেলা

ব্যবহারকারী যাতে ফুরিয়ে না যায় তা নিশ্চিত করার জন্য Chrome সক্রিয়ভাবে ডিস্ক স্পেস পরিচালনা করে। ডিভাইসের খালি ডিস্ক স্পেস একটি নির্দিষ্ট থ্রেশহোল্ডের নিচে নেমে গেলে জেমিনি ন্যানো মডেলটি স্বয়ংক্রিয়ভাবে মুছে ফেলা হয়। এছাড়াও, যদি কোনও এন্টারপ্রাইজ নীতি বৈশিষ্ট্যটি অক্ষম করে, অথবা যদি কোনও ব্যবহারকারী 30 দিনের জন্য অন্যান্য যোগ্যতার মানদণ্ড পূরণ না করে তবে মডেলটি খালি করা হয়। যোগ্যতার মধ্যে API ব্যবহার এবং ডিভাইসের ক্ষমতা অন্তর্ভুক্ত থাকতে পারে। খালি করার প্রক্রিয়াটিতে নিম্নলিখিত বৈশিষ্ট্যগুলি রয়েছে:

  • মডেলটি যেকোনো সময় মুছে ফেলা যেতে পারে, এমনকি সেশনের মাঝামাঝি সময়েও, চলমান প্রম্পট বিবেচনা না করেই। এর অর্থ হল একটি সেশনের শুরুতে উপলব্ধ API হঠাৎ করে অনুপলব্ধ হয়ে যেতে পারে।
  • মুছে ফেলার পর, মডেলটি স্বয়ংক্রিয়ভাবে পুনরায় ডাউনলোড হয় না । একটি নতুন ডাউনলোড একটি অ্যাপ্লিকেশন দ্বারা ট্রিগার করা আবশ্যক যা *.create() ফাংশন কল করে।
  • যখন বেস মডেলটি পরিষ্কার করা হয়, তখন 30 দিনের গ্রেস পিরিয়ডের পরে যেকোনো সম্পর্কিত LoRA ওজনও পরিষ্কার করা হয়।

মডেল ব্যবস্থাপনায় আপনার ভূমিকা

ব্যবহারকারীর অভিজ্ঞতা সঠিক করার জন্য বিল্ট-ইন এআই মডেলের জীবনচক্র সম্পর্কে ভালো ধারণা থাকা গুরুত্বপূর্ণ। একবার মডেলটি ডাউনলোড করা শেষ হলেই চলবে না, ডিস্ক স্পেসের চাপে মডেলটি হঠাৎ করে আবার অদৃশ্য হয়ে যাওয়ার সম্ভাবনা সম্পর্কেও আপনাকে সচেতন থাকতে হবে, অথবা নতুন সংস্করণ বের হলে মডেলটি আপডেট করার সম্ভাবনা সম্পর্কেও আপনাকে সচেতন থাকতে হবে। এই সবকিছুই ব্রাউজার দ্বারা যত্ন নেওয়া হয়।

মডেলটি ডাউনলোড করার ক্ষেত্রে সর্বোত্তম অনুশীলনগুলি অনুসরণ করে, আপনি প্রাথমিক ডাউনলোড, পুনরায় ডাউনলোড এবং আপডেটগুলিতে একটি ভাল ব্যবহারকারীর অভিজ্ঞতা তৈরি করতে পারবেন।