Dukungan untuk nilai floating point 16-bit dalam WGSL
Dalam WGSL, jenis f16
adalah kumpulan nilai floating point 16-bit dari format IEEE-754 binary16 (setengah presisi). Artinya, 16 bit untuk merepresentasikan bilangan floating point, berbeda dengan 32 bit untuk floating point presisi tunggal konvensional (f32
). Ukuran yang lebih kecil ini dapat menghasilkan peningkatan performa yang signifikan, terutama saat memproses data dalam jumlah besar.
Sebagai perbandingan, pada perangkat Apple M1 Pro, implementasi f16
dari model Llama2 7B yang digunakan dalam demo chat WebLLM jauh lebih cepat daripada implementasi f32
, dengan peningkatan 28% dalam kecepatan isi otomatis dan peningkatan 41% dalam kecepatan decoding seperti yang ditunjukkan pada screenshot berikut.
![Screenshot demo obrolan WebLLM dengan model f32 dan f16 Llama2 7B.](https://developer.chrome.com/static/blog/new-in-webgpu-120/image/webllm-chat-demos.png?authuser=6&hl=id)
f32
(kiri) dan f16
(kanan).Tidak semua GPU mendukung nilai floating point 16 bit. Jika fitur "shader-f16"
tersedia di GPUAdapter
, sekarang Anda dapat meminta GPUDevice
dengan fitur ini dan membuat modul shader WGSL yang memanfaatkan f16
jenis floating point presisi setengah. Jenis ini valid untuk digunakan dalam modul shader WGSL hanya jika Anda mengaktifkan ekstensi WGSL f16
dengan enable f16;
. Jika tidak, createShaderModule() akan menghasilkan error validasi. Lihat contoh minimal dan issue dawn:1510 berikut.
const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
requiredFeatures: ["shader-f16"],
});
const code = `
enable f16;
@compute @workgroup_size(1)
fn main() {
const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
}
`;
const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...
Anda dapat mendukung jenis f16
dan f32
dalam kode modul shader WGSL dengan alias
, bergantung pada dukungan fitur "shader-f16"
seperti yang ditunjukkan dalam cuplikan berikut.
const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");
const device = await adapter.requestDevice({
requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});
const header = hasShaderF16
? `enable f16;
alias min16float = f16;`
: `alias min16float = f32;`;
const code = `
${header}
@compute @workgroup_size(1)
fn main() {
const c = vec3<min16float>(1.0, 2.0, 3.0);
}
`;
Dorong batas
Jumlah maksimum byte yang diperlukan untuk menyimpan satu sampel (piksel atau subpiksel) dari data output pipeline render, di semua lampiran warna, adalah 32 byte secara default. Kini Anda dapat meminta hingga 64 file menggunakan batas maxColorAttachmentBytesPerSample
. Lihat contoh berikut dan issue dawn:2036.
const adapter = await navigator.gpu.requestAdapter();
if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
// When the desired limit isn't supported, take action to either fall back to
// a code path that does not require the higher limit or notify the user that
// their device does not meet minimum requirements.
}
// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});
Batas maxInterStageShaderVariables
dan maxInterStageShaderComponents
yang digunakan untuk komunikasi antar-tahap telah ditingkatkan di semua platform. Lihat issue dawn:1448 untuk mengetahui detailnya.
Untuk setiap stage shader, jumlah maksimum entri tata letak bind group di seluruh tata letak pipeline yang merupakan buffer penyimpanan adalah 8 secara default. Kini Anda dapat meminta hingga 10 permintaan menggunakan batas maxStorageBuffersPerShaderStage
. Lihat issue dawn:2159.
Batas maxBindGroupsPlusVertexBuffers
baru telah ditambahkan. Ini terdiri dari jumlah maksimum bind group dan slot buffer verteks yang digunakan secara bersamaan, menghitung setiap slot kosong di bawah indeks tertinggi. Nilai defaultnya adalah 24. Lihat issue dawn:1849.
Perubahan pada status depth-stensil
Untuk meningkatkan pengalaman developer, atribut status depth-stensil depthWriteEnabled
dan depthCompare
tidak selalu diperlukan lagi: depthWriteEnabled
hanya diperlukan untuk format dengan kedalaman, dan depthCompare
tidak diperlukan untuk format dengan kedalaman jika tidak digunakan sama sekali. Lihat issue dawn:2132.
Pembaruan informasi adaptor
Atribut info adaptor type
dan backend
non-standar kini tersedia setelah memanggil requestAdapterInfo() ketika pengguna mengaktifkan "WebGPU Developer Features" flag pada chrome://flags/#enable-webgpu-developer-features
. type
dapat berupa "GPU diskret", "GPU terintegrasi", "CPU", atau "tidak diketahui". backend
-nya dapat berupa "WebGPU", "D3D11", "D3D12", "metal", "vulkan", "openGL", "openGLES", atau "null". Lihat issue dawn:2112 dan issue dawn:2107.
![Screenshot https://webgpureport.org yang menampilkan backend dan mengetikkan info adaptor.](https://developer.chrome.com/static/blog/new-in-webgpu-120/image/webgpureport.png?authuser=6&hl=id)
Parameter daftar unmaskHints
opsional di requestAdapterInfo() telah dihapus. Lihat issue dawn:1427.
Kuantisasi kueri stempel waktu
Kueri stempel waktu memungkinkan aplikasi mengukur waktu eksekusi perintah GPU dengan presisi nanodetik. Namun, spesifikasi WebGPU membuat kueri stempel waktu menjadi opsional karena adanya masalah serangan waktu. Tim Chrome percaya bahwa menguantifikasi kueri stempel waktu memberikan kompromi yang baik antara presisi dan keamanan, dengan mengurangi resolusi menjadi 100 mikrodetik. Lihat issue dawn:1800.
Di Chrome, pengguna dapat menonaktifkan kuantisasi stempel waktu dengan mengaktifkan "WebGPU Developer Features" flag pada chrome://flags/#enable-webgpu-developer-features
. Perhatikan bahwa flag ini saja tidak mengaktifkan fitur "timestamp-query"
. Implementasinya masih bersifat eksperimental sehingga memerlukan "Dukungan WebGPU yang Tidak Aman" flag pada chrome://flags/#enable-unsafe-webgpu
.
Di Fajar, tombol alih perangkat baru yang disebut "timestamp_quantization" telah ditambahkan dan diaktifkan secara default. Cuplikan berikut menunjukkan cara mengizinkan "timestamp-query" eksperimental tanpa kuantisasi stempel waktu saat meminta perangkat.
wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};
const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;
const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = ×tampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;
wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};
// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);
Fitur pembersih musim semi
"timestamp-query-inside-passes" eksperimental fitur telah diganti namanya menjadi "chromium-Experimental-timestamp-query-inside-passes" untuk menjelaskan kepada developer bahwa untuk saat ini fitur ini bersifat eksperimental dan hanya tersedia di browser berbasis Chromium. Lihat masalah dawn:1193.
"pipeline-statistics-query" eksperimental fitur ini, yang hanya diterapkan sebagian, telah dihapus karena tidak lagi dikembangkan. Lihat masalah chromium:1177506.
Artikel ini hanya mencakup beberapa sorotan utama. Lihat daftar commit selengkapnya.
Yang Baru di WebGPU
Daftar semua hal yang telah dibahas dalam seri What's New in WebGPU.
Chrome 127
- Dukungan eksperimental untuk OpenGL ES di Android
- Atribut info GPUAdapter
- Peningkatan interop WebAssembly
- Memperbaiki error encoder perintah
- Info terbaru fajar
Chrome 126
- Meningkatkan batas maxTextureArrayLayers
- Pengoptimalan upload buffer untuk backend Vulkan
- Peningkatan waktu kompilasi shader
- Buffer perintah yang dikirimkan harus unik
- Info terbaru fajar
Chrome 125
Chrome 124
- Tekstur penyimpanan hanya baca dan baca-tulis
- Dukungan pekerja layanan dan pekerja bersama
- Atribut informasi adaptor baru
- Perbaikan bug
- Info terbaru fajar
Chrome 123
- Dukungan fungsi bawaan DP4a dalam WGSL
- Parameter pointer yang tidak dibatasi dalam WGSL
- sugar sintaksis untuk dereferensi komposit dalam WGSL
- Memisahkan status hanya baca untuk aspek stensil dan kedalaman
- Info terbaru fajar
Chrome 122
- Memperluas jangkauan dengan mode kompatibilitas (fitur dalam pengembangan)
- Meningkatkan batas maxVertexAttributes
- Info terbaru fajar
Chrome 121
- Mendukung WebGPU di Android
- Menggunakan DXC, bukan FXC, untuk kompilasi shader di Windows
- Kueri stempel waktu dalam penerusan komputasi dan render
- Titik entri default ke modul shader
- Mendukung display-p3 sebagai ruang warna GPUExternalTexture
- Info heap memori
- Info terbaru fajar
Chrome 120
- Dukungan untuk nilai floating point 16-bit dalam WGSL
- Mencapai batas
- Perubahan pada status depth-stensil
- Pembaruan informasi adaptor
- Kuantisasi kueri stempel waktu
- Fitur pembersihan musim semi
Chrome 119
- Tekstur float 32-bit yang dapat difilter
- format verteks unorm10-10-10-2
- format tekstur rgb10a2uint
- Info terbaru fajar
Chrome 118
- Dukungan HTMLImageElement dan ImageData di
copyExternalImageToTexture()
- Dukungan eksperimental untuk tekstur penyimpanan baca-tulis dan hanya baca
- Info terbaru fajar
Chrome 117
- Membatalkan penetapan buffer verteks
- Membatalkan penetapan bind group
- Menonaktifkan error dari pembuatan pipeline asinkron saat perangkat hilang
- Pembaruan pembuatan modul shader SPIR-V
- Meningkatkan pengalaman developer
- Menyimpan pipeline dengan tata letak yang dibuat secara otomatis
- Info terbaru fajar
Chrome 116
- Integrasi WebCodecs
- Perangkat hilang yang ditampilkan oleh GPUAdapter
requestDevice()
- Menjaga pemutaran video tetap lancar jika
importExternalTexture()
dipanggil - Kesesuaian spesifikasi
- Meningkatkan pengalaman developer
- Info terbaru fajar
Chrome 115
- Ekstensi bahasa WGSL yang didukung
- Dukungan eksperimental untuk Direct3D 11
- Mendapatkan GPU diskret secara default menggunakan daya AC
- Meningkatkan pengalaman developer
- Info terbaru fajar
Chrome 114
- Optimalkan JavaScript
- getCurrentTexture() pada kanvas yang tidak dikonfigurasi menampilkan InvalidStateError
- Info terbaru WGSL
- Info terbaru fajar