WebGPU-তে নতুন কী কী রয়েছে (Chrome 120)

François Beaufort
François Beaufort
GitHub

WGSL-এ ১৬-বিট ফ্লোটিং-পয়েন্ট ভ্যালুর জন্য সহায়তা

WGSL-এ, f16 টাইপ হল IEEE-754 binary16 (হাফ প্রিসিশন) ফর্ম্যাটের ১৬-বিট ফ্লোটিং-পয়েন্ট ভ্যালুর সেট। এর অর্থ হল, এটি ফ্লোটিং-পয়েন্ট সংখ্যাকে উপস্থাপন করার জন্য ১৬ বিট ব্যবহার করে, যেখানে কনভেনশনাল সিঙ্গেল-প্রিসিশন ফ্লোটিং-পয়েন্টের (f32) জন্য ৩২ বিট ব্যবহার করা হয়। এই ছোট সাইজের ফলে পারফর্ম্যান্সের উন্নতি হতে পারে, বিশেষ করে প্রচুর পরিমাণে ডেটা প্রসেস করার সময়।

তুলনা করে দেখলে, Apple M1 Pro ডিভাইসে, WebLLM চ্যাট ডেমোতে ব্যবহৃত Llama2 7B মডেলের f16 প্রয়োগ, f32 প্রয়োগের থেকে অনেক বেশি দ্রুত। প্রিফিল স্পিডে ২৮% এবং ডিকোডিং স্পিডে ৪১% উন্নতি হয়েছে, যা নিম্নলিখিত স্ক্রিনশটে দেখানো হয়েছে।

f32 ও f16 Llama2 7B মডেল সহ WebLLM চ্যাট ডেমোর স্ক্রিনশট।
f32 (বাঁদিকে) এবং f16 (ডানদিকে) Llama2 7B মডেলের সাথে WebLLM চ্যাট ডেমো।

সব GPU-তে ১৬-বিট ফ্লোটিং-পয়েন্ট ভ্যালু কাজ করে না। GPUAdapter-এ "shader-f16" ফিচার উপলভ্য হলে, আপনি এখন এই ফিচার সহ GPUDevice-এর অনুরোধ করতে পারবেন এবং এমন একটি WGSL শেডার মডিউল তৈরি করতে পারবেন যা হাফ-প্রিসিশন ফ্লোটিং-পয়েন্ট টাইপের f16 সুবিধা নেয়। enable f16;-এর সাথে f16 WGSL এক্সটেনশন চালু করলে তবেই এই ধরনের ডেটা WGSL শেডার মডিউলে ব্যবহার করা যায়। অন্যথায়, createShaderModule() একটি যাচাইকরণ সংক্রান্ত সমস্যা তৈরি করবে। নিম্নলিখিত ন্যূনতম উদাহরণ এবং issue dawn:1510 দেখুন।

const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
  throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
  requiredFeatures: ["shader-f16"],
});

const code = `
  enable f16;

  @compute @workgroup_size(1)
  fn main() {
    const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
  }
`;

const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...

নিচের স্নিপেটে দেখানো "shader-f16" ফিচার সাপোর্ট অনুযায়ী alias সহ WGSL শেডার মডিউল কোডে f16 ও f32, এই দুটি ধরনই সাপোর্ট করা সম্ভব।

const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");

const device = await adapter.requestDevice({
  requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});

const header = hasShaderF16
  ? `enable f16;
     alias min16float = f16;`
  : `alias min16float = f32;`;

const code = `
  ${header}

  @compute @workgroup_size(1)
  fn main() {
    const c = vec3<min16float>(1.0, 2.0, 3.0);
  }
`;

সীমা অতিক্রম করা

সমস্ত কালার অ্যাটাচমেন্ট জুড়ে রেন্ডার পাইপলাইন আউটপুট ডেটার একটি স্যাম্পেল (পিক্সেল বা সাবপিক্সেল) হোল্ড করার জন্য প্রয়োজনীয় বাইটের সর্বাধিক সংখ্যা হল ডিফল্ট হিসেবে ৩২ বাইট। maxColorAttachmentBytesPerSample লিমিট ব্যবহার করে এখন সর্বাধিক ৬৪টি অনুরোধ করা যায়। নিম্নলিখিত উদাহরণ ও issue dawn:2036 দেখুন।

const adapter = await navigator.gpu.requestAdapter();

if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
  // When the desired limit isn't supported, take action to either fall back to
  // a code path that does not require the higher limit or notify the user that
  // their device does not meet minimum requirements.
}

// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
  requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});

সব প্ল্যাটফর্মে ইন্টার-স্টেজ কমিউনিকেশনের জন্য ব্যবহৃত maxInterStageShaderVariables ও maxInterStageShaderComponents সীমা বাড়ানো হয়েছে। বিবরণের জন্য issue dawn:1448 দেখুন।

প্রতিটি শেডার স্টেজের জন্য, পাইপলাইন লেআউট জুড়ে বাইন্ড গ্রুপ লেআউট এন্ট্রির সর্বাধিক সংখ্যা যা স্টোরেজ বাফার, ডিফল্ট হিসেবে ৮। maxStorageBuffersPerShaderStage সীমা ব্যবহার করে এখন সর্বাধিক ১০টি অনুরোধ করা যাবে। issue dawn:2159 দেখুন।

নতুন maxBindGroupsPlusVertexBuffers সীমা যোগ করা হয়েছে। এতে একই সাথে ব্যবহৃত বাইন্ড গ্রুপ ও ভার্টেক্স বাফার স্লটের সর্বাধিক সংখ্যা থাকে এবং সর্বোচ্চ ইন্ডেক্সের নিচে থাকা যেকোনও খালি স্লট গণনা করা হয়। এর ডিফল্ট ভ্যালু হল ২৪। issue dawn:1849 দেখুন।

ডেপথ-স্টেনসিল স্টেটে পরিবর্তন

ডেভেলপার অভিজ্ঞতা উন্নত করতে, ডেপথ-স্টেনসিল স্টেট depthWriteEnabled এবং depthCompare অ্যাট্রিবিউট আর সবসময় প্রয়োজন হয় না: depthWriteEnabled শুধুমাত্র ডেপথ সহ ফর্ম্যাটের জন্য প্রয়োজন এবং depthCompare একেবারেই ব্যবহার না করা হলে ডেপথ সহ ফর্ম্যাটের জন্য প্রয়োজন হয় না। issue dawn:2132 দেখুন।

অ্যাডাপ্টর সংক্রান্ত তথ্যের আপডেট

ব্যবহারকারী chrome://flags/#enable-webgpu-developer-features-এ "WebGPU ডেভেলপার ফিচার" ফ্ল্যাগ চালু করলে, requestAdapterInfo() কল করার পরে নন-স্ট্যান্ডার্ড type এবং backend অ্যাডাপ্টার সংক্রান্ত তথ্য অ্যাট্রিবিউট এখন উপলভ্য। type "ডিসক্রিট GPU", "ইন্টিগ্রেটেড GPU", "CPU" বা "অজানা" হতে পারে। backend হল "WebGPU", "D3D11", "D3D12", "metal", "vulkan", "openGL", "openGLES" অথবা "null"। issue dawn:2112 ও issue dawn:2107 দেখুন।

https://webgpureport.org-এর স্ক্রিনশট যাতে ব্যাকএন্ড ও অ্যাডাপ্টারের তথ্য টাইপ করা আছে।
https://webgpureport.org-এ অ্যাডাপ্টার সম্পর্কিত ব্যাকএন্ড তথ্য ও ধরন দেখানো হয়।

requestAdapterInfo()-তে ঐচ্ছিক unmaskHints list প্যারামিটার সরিয়ে দেওয়া হয়েছে। issue dawn:1427 দেখুন।

টাইমস্ট্যাম্প কোয়েরি কোয়ান্টাইজেশন

টাইমস্ট্যাম্প কোয়েরি, অ্যাপ্লিকেশনকে ন্যানোসেকেন্ড প্রিসিশনের মাধ্যমে GPU কমান্ডের এক্সিকিউশন টাইম পরিমাপ করতে দেয়। তবে, টাইমিং অ্যাটাক সংক্রান্ত উদ্বেগের কারণে WebGPU স্পেসিফিকেশন টাইমস্ট্যাম্প কোয়েরিকে ঐচ্ছিক করে তোলে। Chrome টিম মনে করে যে কোয়ান্টাইজ করা টাইমস্ট্যাম্প কোয়েরি, ১০০ মাইক্রোসেকেন্ডে রেজোলিউশন কমিয়ে, নির্ভুলতা ও নিরাপত্তার মধ্যে একটি ভাল সমঝোতা প্রদান করে। issue dawn:1800 দেখুন।

Chrome-এ, ব্যবহারকারীরা chrome://flags/#enable-webgpu-developer-features-এ "WebGPU ডেভেলপার ফিচার" ফ্ল্যাগ চালু করে টাইমস্ট্যাম্প কোয়ান্টাইজেশন বন্ধ করতে পারবেন। মনে রাখবেন, এই ফ্ল্যাগটি একা "timestamp-query" ফিচার চালু করে না। এর প্রয়োগ এখনও পরীক্ষামূলক পর্যায়ে রয়েছে এবং সেই কারণে chrome://flags/#enable-unsafe-webgpu-এ "আনসেফ WebGPU সাপোর্ট" ফ্ল্যাগ প্রয়োজন।

Dawn-এ, "timestamp_quantization" নামের একটি নতুন ডিভাইস টগল যোগ করা হয়েছে এবং এটি ডিফল্ট হিসেবে চালু করা আছে। ডিভাইসের জন্য অনুরোধ করার সময়, নিম্নলিখিত স্নিপেট থেকে আপনি জানতে পারবেন যে কীভাবে কোনও টাইমস্ট্যাম্প কোয়ান্টাইজেশন ছাড়াই পরীক্ষামূলক "টাইমস্ট্যাম্প-কোয়েরি" ফিচার ব্যবহার করার অনুমতি দিতে হয়।

wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};

const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;

const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = &timestampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;

wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};

// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);

স্প্রিং-ক্লিনিং ফিচার

পরীক্ষামূলক "timestamp-query-inside-passes" ফিচারটির নাম পরিবর্তন করে "chromium-experimental-timestamp-query-inside-passes" করা হয়েছে, যাতে ডেভেলপাররা বুঝতে পারেন যে এই ফিচারটি পরীক্ষামূলক এবং বর্তমানে শুধুমাত্র Chromium-ভিত্তিক ব্রাউজারে উপলভ্য। issue dawn:1193 দেখুন।

পরীক্ষামূলক "পাইপলাইন-স্ট্যাটিসটিক্স-কোয়েরি" ফিচারটি সরিয়ে দেওয়া হয়েছে, এটি শুধুমাত্র আংশিকভাবে প্রয়োগ করা হয়েছিল এবং এখন আর ডেভেলপ করা হচ্ছে না। issue chromium:1177506 দেখুন।

এতে শুধু কিছু গুরুত্বপূর্ণ হাইলাইট কভার করা হয়েছে। কমিটের বিস্তারিত তালিকা দেখুন।

WebGPU-তে নতুন কী কী আছে

WebGPU-তে নতুন কী কী আছে সিরিজে যা যা কভার করা হয়েছে তার একটি তালিকা।

Chrome 155-156

Chrome 153-154

Chrome 151-152

Chrome 149-150

Chrome 147-148

Chrome 146

Chrome 145

Chrome 144

Chrome 143

Chrome 142

Chrome 141

Chrome 140

Chrome 139

Chrome 138

Chrome 137

Chrome 136

Chrome 135

Chrome 134

Chrome 133

Chrome 132

Chrome 131

Chrome 130

Chrome 129

Chrome 128

Chrome 127

Chrome 126

Chrome 125

Chrome 124

Chrome 123

Chrome 122

Chrome 121

Chrome 120

Chrome 119

Chrome 118

Chrome 117

Chrome 116

Chrome 115

Chrome 114

Chrome 113