Yang Baru di WebGPU (Chrome\r120)

François Beaufort
François Beaufort
GitHub

Dukungan untuk nilai floating point 16-bit dalam WGSL

Dalam WGSL, jenis f16 adalah kumpulan nilai floating point 16-bit dari format IEEE-754 binary16 (setengah presisi). Artinya, 16 bit untuk merepresentasikan bilangan floating point, berbeda dengan 32 bit untuk floating point presisi tunggal konvensional (f32). Ukuran yang lebih kecil ini dapat menghasilkan peningkatan performa yang signifikan, terutama saat memproses data dalam jumlah besar.

Sebagai perbandingan, pada perangkat Apple M1 Pro, implementasi f16 dari model Llama2 7B yang digunakan dalam demo chat WebLLM jauh lebih cepat daripada implementasi f32, dengan peningkatan 28% dalam kecepatan isi otomatis dan peningkatan 41% dalam kecepatan decoding seperti yang ditunjukkan pada screenshot berikut.

Screenshot demo obrolan WebLLM dengan model f32 dan f16 Llama2 7B.
Demo chat WebLLM dengan model Llama2 7B f32 (kiri) dan f16 (kanan).

Tidak semua GPU mendukung nilai floating point 16 bit. Jika fitur "shader-f16" tersedia di GPUAdapter, sekarang Anda dapat meminta GPUDevice dengan fitur ini dan membuat modul shader WGSL yang memanfaatkan f16 jenis floating point presisi setengah. Jenis ini valid untuk digunakan dalam modul shader WGSL hanya jika Anda mengaktifkan ekstensi WGSL f16 dengan enable f16;. Jika tidak, createShaderModule() akan menghasilkan error validasi. Lihat contoh minimal dan issue dawn:1510 berikut.

const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
  throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
  requiredFeatures: ["shader-f16"],
});

const code = `
  enable f16;

  @compute @workgroup_size(1)
  fn main() {
    const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
  }
`;

const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...

Anda dapat mendukung jenis f16 dan f32 dalam kode modul shader WGSL dengan alias, bergantung pada dukungan fitur "shader-f16" seperti yang ditunjukkan dalam cuplikan berikut.

const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");

const device = await adapter.requestDevice({
  requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});

const header = hasShaderF16
  ? `enable f16;
     alias min16float = f16;`
  : `alias min16float = f32;`;

const code = `
  ${header}

  @compute @workgroup_size(1)
  fn main() {
    const c = vec3<min16float>(1.0, 2.0, 3.0);
  }
`;

Dorong batas

Jumlah maksimum byte yang diperlukan untuk menyimpan satu sampel (piksel atau subpiksel) dari data output pipeline render, di semua lampiran warna, adalah 32 byte secara default. Kini Anda dapat meminta hingga 64 file menggunakan batas maxColorAttachmentBytesPerSample. Lihat contoh berikut dan issue dawn:2036.

const adapter = await navigator.gpu.requestAdapter();

if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
  // When the desired limit isn't supported, take action to either fall back to
  // a code path that does not require the higher limit or notify the user that
  // their device does not meet minimum requirements.
}

// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
  requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});

Batas maxInterStageShaderVariables dan maxInterStageShaderComponents yang digunakan untuk komunikasi antar-tahap telah ditingkatkan di semua platform. Lihat issue dawn:1448 untuk mengetahui detailnya.

Untuk setiap stage shader, jumlah maksimum entri tata letak bind group di seluruh tata letak pipeline yang merupakan buffer penyimpanan adalah 8 secara default. Kini Anda dapat meminta hingga 10 permintaan menggunakan batas maxStorageBuffersPerShaderStage. Lihat issue dawn:2159.

Batas maxBindGroupsPlusVertexBuffers baru telah ditambahkan. Ini terdiri dari jumlah maksimum bind group dan slot buffer verteks yang digunakan secara bersamaan, menghitung setiap slot kosong di bawah indeks tertinggi. Nilai defaultnya adalah 24. Lihat issue dawn:1849.

Perubahan pada status depth-stensil

Untuk meningkatkan pengalaman developer, atribut status depth-stensil depthWriteEnabled dan depthCompare tidak selalu diperlukan lagi: depthWriteEnabled hanya diperlukan untuk format dengan kedalaman, dan depthCompare tidak diperlukan untuk format dengan kedalaman jika tidak digunakan sama sekali. Lihat issue dawn:2132.

Pembaruan informasi adaptor

Atribut info adaptor type dan backend non-standar kini tersedia setelah memanggil requestAdapterInfo() ketika pengguna mengaktifkan "WebGPU Developer Features" flag pada chrome://flags/#enable-webgpu-developer-features. type dapat berupa "GPU diskret", "GPU terintegrasi", "CPU", atau "tidak diketahui". backend-nya dapat berupa "WebGPU", "D3D11", "D3D12", "metal", "vulkan", "openGL", "openGLES", atau "null". Lihat issue dawn:2112 dan issue dawn:2107.

Screenshot https://webgpureport.org yang menampilkan backend dan mengetikkan info adaptor.
Jenis dan backend info adaptor ditampilkan di https://webgpureport.org.

Parameter daftar unmaskHints opsional di requestAdapterInfo() telah dihapus. Lihat issue dawn:1427.

Kuantisasi kueri stempel waktu

Kueri stempel waktu memungkinkan aplikasi mengukur waktu eksekusi perintah GPU dengan presisi nanodetik. Namun, spesifikasi WebGPU membuat kueri stempel waktu menjadi opsional karena adanya masalah serangan waktu. Tim Chrome percaya bahwa menguantifikasi kueri stempel waktu memberikan kompromi yang baik antara presisi dan keamanan, dengan mengurangi resolusi menjadi 100 mikrodetik. Lihat issue dawn:1800.

Di Chrome, pengguna dapat menonaktifkan kuantisasi stempel waktu dengan mengaktifkan "WebGPU Developer Features" flag pada chrome://flags/#enable-webgpu-developer-features. Perhatikan bahwa flag ini saja tidak mengaktifkan fitur "timestamp-query". Implementasinya masih bersifat eksperimental sehingga memerlukan "Dukungan WebGPU yang Tidak Aman" flag pada chrome://flags/#enable-unsafe-webgpu.

Di Fajar, tombol alih perangkat baru yang disebut "timestamp_quantization" telah ditambahkan dan diaktifkan secara default. Cuplikan berikut menunjukkan cara mengizinkan "timestamp-query" eksperimental tanpa kuantisasi stempel waktu saat meminta perangkat.

wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};

const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;

const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = &timestampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;

wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};

// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);

Fitur pembersih musim semi

"timestamp-query-inside-passes" eksperimental fitur telah diganti namanya menjadi "chromium-Experimental-timestamp-query-inside-passes" untuk menjelaskan kepada developer bahwa untuk saat ini fitur ini bersifat eksperimental dan hanya tersedia di browser berbasis Chromium. Lihat masalah dawn:1193.

"pipeline-statistics-query" eksperimental fitur ini, yang hanya diterapkan sebagian, telah dihapus karena tidak lagi dikembangkan. Lihat masalah chromium:1177506.

Artikel ini hanya mencakup beberapa sorotan utama. Lihat daftar commit selengkapnya.

Yang Baru di WebGPU

Daftar semua hal yang telah dibahas dalam seri What's New in WebGPU.

Chrome 127

Chrome 126

Chrome 125

Chrome 124

Chrome 123

Chrome 122

Chrome 121

Chrome 120

Chrome 119

Chrome 118

Chrome 117

Chrome 116

Chrome 115

Chrome 114

Chrome 113