অন-ডিভাইস ওয়েব AI এর সাথে দরকারী পণ্য পর্যালোচনাগুলিকে উত্সাহিত করুন৷

মড নলপাস
Maud Nalpas
X GitHub
কেনজি বাহেউক্স
Kenji Baheux
আলেকজান্দ্রা ক্লেপার

ইতিবাচক এবং নেতিবাচক পর্যালোচনা একজন ক্রেতার ক্রয়ের সিদ্ধান্ত জানাতে পারে।

বাহ্যিক গবেষণা অনুসারে, 82% অনলাইন ক্রেতা ক্রয় করার আগে সক্রিয়ভাবে নেতিবাচক পর্যালোচনা খোঁজেন। এই নেতিবাচক পর্যালোচনাগুলি গ্রাহকদের জন্য এবং ব্যবসার জন্য দরকারী, কারণ নেতিবাচক পর্যালোচনাগুলির প্রাপ্যতা রিটার্ন রেট কমাতে সাহায্য করতে পারে এবং নির্মাতাদের তাদের পণ্যগুলি উন্নত করতে সহায়তা করতে পারে৷

এখানে কয়েকটি উপায় রয়েছে যা আপনি পর্যালোচনার মান উন্নত করতে পারেন:

  • এটি জমা দেওয়ার আগে বিষাক্ততার জন্য প্রতিটি পর্যালোচনা পরীক্ষা করুন। আমরা ব্যবহারকারীদের আপত্তিকর ভাষা, সেইসাথে অন্যান্য অসহায় মন্তব্য অপসারণ করতে উত্সাহিত করতে পারি, যাতে তাদের পর্যালোচনা অন্য ব্যবহারকারীদের একটি ভাল ক্রয়ের সিদ্ধান্ত নিতে সাহায্য করে৷
    • নেতিবাচক : এই ব্যাগ চুষা, এবং আমি এটা ঘৃণা.
    • দরকারী প্রতিক্রিয়া সহ নেতিবাচক : জিপারগুলি খুব শক্ত এবং উপাদানগুলি সস্তা মনে হয়৷ আমি এই ব্যাগ ফেরত.
  • পর্যালোচনায় ব্যবহৃত ভাষার উপর ভিত্তি করে একটি রেটিং স্বয়ংক্রিয়ভাবে তৈরি করুন।
  • পর্যালোচনাটি নেতিবাচক বা ইতিবাচক কিনা তা নির্ধারণ করুন।
একটি অনুভূতি এবং তারকা রেটিং সহ উদাহরণ পর্যালোচনার স্ক্রিনশট।
এই উদাহরণে, পর্যালোচকের মন্তব্যকে একটি ইতিবাচক অনুভূতি এবং একটি পাঁচ তারকা রেটিং দেওয়া হয়।

শেষ পর্যন্ত, ব্যবহারকারীর পণ্য রেটিং এর চূড়ান্ত শব্দ থাকা উচিত।

নিম্নলিখিত কোডল্যাব ব্রাউজারে, ডিভাইসে সমাধান প্রদান করে। কোন AI উন্নয়ন জ্ঞান, সার্ভার, বা API কী প্রয়োজন নেই।

পূর্বশর্ত

যদিও সার্ভার-সাইড AI সমাধান সহ (যেমন Gemini API বা OpenAI API ) অনেক অ্যাপ্লিকেশনের জন্য শক্তিশালী সমাধান অফার করে, এই নির্দেশিকায় আমরা অন-ডিভাইস ওয়েব AI-তে ফোকাস করি। অন-ডিভাইস ওয়েব AI হল যখন AI মডেলগুলি ব্রাউজারে চালানো হয়, সার্ভার রাউন্ডট্রিপ ছাড়াই ওয়েব ব্যবহারকারীদের অভিজ্ঞতা উন্নত করতে।

এই কোডল্যাবে, আমরা ডিভাইসের ওয়েব এআই-এর জন্য আপনার টুলবক্সে কী আছে তা দেখাতে কৌশলের মিশ্রণ ব্যবহার করি।

আমরা নিম্নলিখিত লাইব্রেরি এবং মডেল ব্যবহার করি:

  • বিষাক্ততা বিশ্লেষণের জন্য TensforFlow.js । TensorFlow.js হল ওয়েবে অনুমান এবং প্রশিক্ষণ উভয়ের জন্য একটি ওপেন সোর্স মেশিন লার্নিং লাইব্রেরি।
  • অনুভূতি বিশ্লেষণের জন্য transformers.js . Transformers.js হল Hugging Face এর একটি ওয়েব AI লাইব্রেরি।
  • তারকা রেটিং এর জন্য Gemma 2B . Gemma হল গবেষণা এবং প্রযুক্তি থেকে তৈরি হালকা ওজনের, খোলা মডেলের একটি পরিবার যা Google জেমিনি মডেল তৈরি করতে ব্যবহার করে। ব্রাউজারে Gemma চালানোর জন্য, আমরা মিডিয়াপিপের পরীক্ষামূলক LLM ইনফারেন্স API এর সাথে এটি ব্যবহার করি।

UX এবং নিরাপত্তা বিবেচনা

সর্বোত্তম ব্যবহারকারীর অভিজ্ঞতা এবং নিরাপত্তা নিশ্চিত করার জন্য কয়েকটি বিবেচনা রয়েছে:

  • ব্যবহারকারীকে রেটিং সম্পাদনা করার অনুমতি দিন। শেষ পর্যন্ত, ব্যবহারকারীর পণ্য রেটিং এর চূড়ান্ত শব্দ থাকা উচিত।
  • রেটিং এবং রিভিউ স্বয়ংক্রিয় হয় তা ব্যবহারকারীর কাছে স্পষ্ট করুন।
  • ব্যবহারকারীদের বিষাক্ত হিসাবে শ্রেণীবদ্ধ একটি পর্যালোচনা পোস্ট করার অনুমতি দিন, কিন্তু সার্ভারে একটি দ্বিতীয় চেক চালান। এটি একটি হতাশাজনক অভিজ্ঞতা প্রতিরোধ করে যেখানে একটি অ-বিষাক্ত পর্যালোচনা ভুলভাবে বিষাক্ত (একটি মিথ্যা ইতিবাচক) হিসাবে শ্রেণীবদ্ধ করা হয়। এটি এমন ক্ষেত্রেও কভার করে যেখানে একজন দূষিত ব্যবহারকারী ক্লায়েন্ট-সাইড চেক বাইপাস করতে পরিচালনা করে।
  • একটি ক্লায়েন্ট-সাইড বিষাক্ততা পরীক্ষা সহায়ক, কিন্তু এটি বাইপাস করা যেতে পারে। নিশ্চিত করুন যে আপনি একটি চেক সার্ভার-সাইডও চালান।

TensorFlow.js দিয়ে বিষাক্ততা বিশ্লেষণ করুন

TensorFlow.js এর সাথে ব্যবহারকারীর পর্যালোচনার বিষাক্ততা বিশ্লেষণ করা দ্রুত।

  1. TensorFlow.js লাইব্রেরি এবং টক্সিসিটি মডেল ইনস্টল এবং আমদানি করুন ।
  2. একটি ন্যূনতম ভবিষ্যদ্বাণী আত্মবিশ্বাস সেট করুন. ডিফল্ট 0.85, এবং আমাদের উদাহরণে, আমরা এটি 0.9 এ সেট করেছি।
  3. মডেলটি অ্যাসিঙ্ক্রোনাসভাবে লোড করুন।
  4. পর্যালোচনাটি অ্যাসিঙ্ক্রোনাসভাবে শ্রেণীবদ্ধ করুন। আমাদের কোড যে কোনো বিভাগের জন্য 0.9 এর থ্রেশহোল্ড অতিক্রম করার পূর্বাভাস সনাক্ত করে।

এই মডেলটি পরিচয় আক্রমণ, অপমান, অশ্লীলতা এবং আরও অনেক কিছু জুড়ে বিষাক্ততাকে শ্রেণীবদ্ধ করতে পারে।

উদাহরণ স্বরূপ:

import * as toxicity from '@tensorflow-models/toxicity';

// Minimum prediction confidence allowed
const TOXICITY_COMMENT_THRESHOLD = 0.9;

const toxicityModel = await toxicity.load(TOXICITY_COMMENT_THRESHOLD);
const toxicityPredictions = await toxicityModel.classify([review]);
// `predictions` is an array with the raw toxicity probabilities
const isToxic = toxicityPredictions.some(
    (prediction) => prediction.results[0].match
);

Transformers.js এর সাথে অনুভূতি নির্ধারণ করুন

  1. Transformers.js লাইব্রেরি ইনস্টল এবং আমদানি করুন।

  2. একটি উত্সর্গীকৃত পাইপলাইনের সাথে অনুভূতি বিশ্লেষণের কাজটি সেট আপ করুন৷ যখন একটি পাইপলাইন প্রথমবার ব্যবহার করা হয়, তখন মডেলটি ডাউনলোড এবং ক্যাশে করা হয়। তারপর থেকে, অনুভূতি বিশ্লেষণ আরও দ্রুত হওয়া উচিত।

  3. পর্যালোচনাটি অ্যাসিঙ্ক্রোনাসভাবে শ্রেণীবদ্ধ করুন। আত্মবিশ্বাসের স্তর সেট করতে একটি কাস্টম থ্রেশহোল্ড ব্যবহার করুন যা আপনি আপনার আবেদনের জন্য ব্যবহারযোগ্য বলে মনে করেন।

উদাহরণ স্বরূপ:

import { pipeline } from '@xenova/transformers';

const SENTIMENT_THRESHOLD = 0.9;
// Create a pipeline (don't block rendering on this function)
const transformersjsClassifierSentiment = await pipeline(
  'sentiment-analysis'
);

// When the user finishes typing
const sentimentResult = await transformersjsClassifierSentiment(review);
const { label, score } = sentimentResult[0];
if (score > SENTIMENT_THRESHOLD) {
  // The sentiment is `label`
} else {
  // Classification is not conclusive
}

জেমা এবং মিডিয়াপাইপের সাথে একটি তারকা রেটিং প্রস্তাব করুন৷

LLM ইনফারেন্স API এর সাহায্যে, আপনি ব্রাউজারে সম্পূর্ণরূপে বড় ভাষা মডেল (LLMs) চালাতে পারেন।

এলএলএম-এর মেমরি এবং গণনার চাহিদা বিবেচনা করে এই নতুন ক্ষমতা বিশেষভাবে রূপান্তরকারী, যা প্রথাগত অন-ডিভাইস মডেলের চেয়ে একশ গুণ বেশি। অন-ডিভাইস স্ট্যাক জুড়ে অপ্টিমাইজেশানগুলি নতুন অপ্স, কোয়ান্টাইজেশন, ক্যাশিং এবং ওজন ভাগ করে নেওয়া সহ এটিকে সম্ভব করে তোলে। উত্স: "মিডিয়াপাইপ এবং টেনসরফ্লো লাইট সহ ডিভাইসে বড় ভাষার মডেলগুলি"।

  1. MediaPipe LLM ইনফারেন্স API ইনস্টল এবং আমদানি করুন ।
  2. একটি মডেল ডাউনলোড করুন । এখানে, আমরা Kaggle থেকে ডাউনলোড করা Gemma 2B ব্যবহার করি। Gemma 2B হল Google-এর ওপেন-ওয়েট মডেলগুলির মধ্যে সবচেয়ে ছোট।
  3. FilesetResolver এর সাথে কোডটিকে সঠিক মডেল ফাইলগুলিতে নির্দেশ করুন। এটি গুরুত্বপূর্ণ কারণ জেনারেটিভ এআই মডেলগুলির তাদের সম্পদের জন্য একটি নির্দিষ্ট ডিরেক্টরি কাঠামো থাকতে পারে।
  4. MediaPipe এর LLM ইন্টারফেস দিয়ে মডেলটি লোড এবং কনফিগার করুন। ব্যবহারের জন্য মডেলটি প্রস্তুত করুন: এর মডেলের অবস্থান, প্রতিক্রিয়ার পছন্দের দৈর্ঘ্য এবং তাপমাত্রার সাথে সৃজনশীলতার পছন্দের স্তর উল্লেখ করুন।
  5. মডেলটিকে একটি প্রম্পট দিন ( একটি উদাহরণ দেখুন )।
  6. মডেলের প্রতিক্রিয়ার জন্য অপেক্ষা করুন।
  7. রেটিং এর জন্য পার্স করুন: মডেলের প্রতিক্রিয়া থেকে তারকা রেটিং বের করুন।
import { FilesetResolver, LlmInference } from '@mediapipe/tasks-genai';

const mediaPipeGenAi = await FilesetResolver.forGenAiTasks();
const llmInference = await LlmInference.createFromOptions(mediaPipeGenAi, {
    baseOptions: {
        modelAssetPath: '/gemma-2b-it-gpu-int4.bin',
    },
    maxTokens: 1000,
    topK: 40,
    temperature: 0.5,
    randomSeed: 101,
});

const prompt = …
const output = await llmInference.generateResponse(prompt);

const int = /\d/;
const ratingAsString = output.match(int)[0];
rating = parseInt(ratingAsString);

উদাহরণ প্রম্পট

const prompt = `Analyze a product review, and then based on your analysis give me the
corresponding rating (integer). The rating should be an integer between 1 and 5.
1 is the worst rating, and 5 is the best rating. A strongly dissatisfied review
that only mentions issues should have a rating of 1 (worst). A strongly
satisfied review that only mentions positives and upsides should have a rating
of 5 (best). Be opinionated. Use the full range of possible ratings (1 to 5). \n\n
  \n\n
  Here are some examples of reviews and their corresponding analyses and ratings:
  \n\n
  Review: 'Stylish and functional. Not sure how it'll handle rugged outdoor use, but it's perfect for urban exploring.'
  Analysis: The reviewer appreciates the product's style and basic functionality. They express some uncertainty about its ruggedness but overall find it suitable for their intended use, resulting in a positive, but not top-tier rating.
  Rating (integer): 4
  \n\n
  Review: 'It's a solid backpack at a decent price. Does the job, but nothing particularly amazing about it.'
  Analysis: This reflects an average opinion. The backpack is functional and fulfills its essential purpose. However, the reviewer finds it unremarkable and lacking any standout features deserving of higher praise.
  Rating (integer): 3
  \n\n
  Review: 'The waist belt broke on my first trip! Customer service was unresponsive too. Would not recommend.'
  Analysis: A serious product defect and poor customer service experience naturally warrants the lowest possible rating. The reviewer is extremely unsatisfied with both the product and the company.
  Rating (integer): 1
  \n\n
  Review: 'Love how many pockets and compartments it has. Keeps everything organized on long trips. Durable too!'
  Analysis: The enthusiastic review highlights specific features the user loves (organization and durability), indicating great satisfaction with the product. This justifies the highest rating.
  Rating (integer): 5
  \n\n
  Review: 'The straps are a bit flimsy, and they started digging into my shoulders under heavy loads.'
  Analysis: While not a totally negative review, a significant comfort issue leads the reviewer to rate the product poorly. The straps are a key component of a backpack, and their failure to perform well under load is a major flaw.
  Rating (integer): 1
  \n\n
  Now, here is the review you need to assess:
  \n
  Review: "${review}" \n`;

Takeaways

কোনো AI/ML দক্ষতার প্রয়োজন নেই । একটি প্রম্পট ডিজাইন করার জন্য পুনরাবৃত্তির প্রয়োজন, কিন্তু বাকি কোডটি স্ট্যান্ডার্ড ওয়েব ডেভেলপমেন্ট।

অন-ডিভাইস মডেলগুলি মোটামুটি নির্ভুল । আপনি যদি এই নথি থেকে স্নিপেটগুলি চালান, আপনি লক্ষ্য করবেন যে বিষাক্ততা এবং অনুভূতি বিশ্লেষণ উভয়ই সঠিক ফলাফল দেয়। জেমা রেটিংগুলি, বেশিরভাগ অংশে, কয়েকটি পরীক্ষিত রেফারেন্স পর্যালোচনার জন্য জেমিনি মডেল রেটিংগুলির সাথে মিলেছে৷ এই নির্ভুলতা যাচাই করার জন্য, আরও পরীক্ষার প্রয়োজন।

এটি বলেছে, জেমা 2B এর জন্য প্রম্পট ডিজাইন করা কাজ নেয়। যেহেতু Gemma 2B একটি ছোট LLM, তাই সন্তোষজনক ফলাফলের জন্য এটির একটি বিশদ প্রম্পট প্রয়োজন - বিশেষত Gemini API-এর সাথে যা প্রয়োজন তার চেয়ে আরও বিশদ।

অনুমান বাজ দ্রুত হতে পারে . আপনি যদি এই নথি থেকে স্নিপেটগুলি চালান, তাহলে আপনার লক্ষ্য করা উচিত যে অনুমান দ্রুত, সম্ভাব্যভাবে অনেকগুলি ডিভাইসে সার্ভার রাউন্ড ট্রিপের চেয়ে দ্রুততর হতে পারে। যে বলে, অনুমানের গতি ব্যাপকভাবে পরিবর্তিত হতে পারে। লক্ষ্য ডিভাইসে পুঙ্খানুপুঙ্খ বেঞ্চমার্কিং প্রয়োজন. আমরা আশা করি ওয়েব GPU, WebAssembly, এবং লাইব্রেরি আপডেটের সাথে অন-ডিভাইস ইনফারেন্স দ্রুততর হতে থাকবে। উদাহরণস্বরূপ, Transformers.js v3-এ ওয়েব GPU সমর্থন যোগ করে, যা অন-ডিভাইস অনুমানকে বহুগুণ গতি বাড়িয়ে দিতে পারে।

ডাউনলোডের আকার খুব বড় হতে পারে। ব্রাউজারে অনুমান দ্রুত, কিন্তু AI মডেল লোড করা একটি চ্যালেঞ্জ হতে পারে। ইন-ব্রাউজার এআই সম্পাদন করতে, আপনার সাধারণত একটি লাইব্রেরি এবং একটি মডেল উভয়েরই প্রয়োজন, যা আপনার ওয়েব অ্যাপের ডাউনলোড আকারে যোগ করে।

যদিও টেনসরফ্লো টক্সিসিটি মডেল (একটি ক্লাসিক ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং মডেল) মাত্র কয়েক কিলোবাইট, Transformers.js-এর ডিফল্ট সেন্টিমেন্ট অ্যানালাইসিস মডেলের মতো জেনারেটিভ AI মডেল 60MB পর্যন্ত পৌঁছে। জেমার মতো বড় ভাষার মডেল 1.3GB এর মতো বড় হতে পারে। এটি মাঝারি 2.2 mb ওয়েব পৃষ্ঠার আকারকে ছাড়িয়ে গেছে, যা ইতিমধ্যেই সেরা পারফরম্যান্সের জন্য প্রস্তাবিত থেকে অনেক বড়। অন-ডিভাইস জেনারেটিভ এআই নির্দিষ্ট পরিস্থিতিতে কার্যকর।

ওয়েবে জেনারেটিভ এআই এর ক্ষেত্র দ্রুত বিকশিত হচ্ছে! ছোট, ওয়েব-অপ্টিমাইজ করা মডেল ভবিষ্যতে আবির্ভূত হবে বলে আশা করা হচ্ছে ।

পরবর্তী পদক্ষেপ

ক্রোম ব্রাউজারে জেনারেটিভ এআই চালানোর আরেকটি উপায় নিয়ে পরীক্ষা করছে। আপনি এটি পরীক্ষা করার জন্য প্রাথমিক পূর্বরূপ প্রোগ্রামের জন্য সাইন আপ করতে পারেন।