Nieuw in WebGPU (Chrome 120)

François Beaufort
François Beaufort
GitHub

Ondersteuning voor 16-bits zwevendekommawaarden in WGSL

In WGSL is het f16-type de set van 16-bits drijvende-kommawaarden van de IEEE-754 binary16-indeling (halve precisie). Dit betekent dat het 16 bits gebruikt om een drijvendekommagetal weer te geven, in tegenstelling tot 32 bits voor conventionele drijvendekommagetallen met enkele precisie (f32). Deze kleinere grootte kan leiden tot aanzienlijke prestatieverbeteringen, vooral bij de verwerking van grote hoeveelheden gegevens.

Ter vergelijking: op een Apple M1 Pro-apparaat is de f16-implementatie van Llama2 7B-modellen die wordt gebruikt in de WebLLM-chatdemo aanzienlijk sneller dan de f32-implementatie. De prefill-snelheid is 28% hoger en de decodesnelheid is 41% hoger, zoals te zien is in de volgende screenshots.

Screenshot van WebLLM-chatdemo's met f32- en f16-modellen van Llama2 7B.
WebLLM-chatdemo's met f32 (links) en f16 (rechts) Llama2 7B-modellen.

Niet alle GPU's ondersteunen 16-bits zwevende kommawaarden. Als de functie "shader-f16" beschikbaar is in een GPUAdapter, kun je nu een GPUDevice met deze functie aanvragen en een WGSL-shadermodule maken die gebruikmaakt van het half-precision zwevende-komma-type f16. Dit type is alleen geldig voor gebruik in de WGSL-shader-module als je de f16 WGSL-extensie aanzet met enable f16;. Anders genereert createShaderModule() een validatiefout. Bekijk het volgende minimale voorbeeld en probleem dawn:1510.

const adapter = await navigator.gpu.requestAdapter();
if (!adapter.features.has("shader-f16")) {
  throw new Error("16-bit floating-point value support is not available");
}
// Explicitly request 16-bit floating-point value support.
const device = await adapter.requestDevice({
  requiredFeatures: ["shader-f16"],
});

const code = `
  enable f16;

  @compute @workgroup_size(1)
  fn main() {
    const c : vec3h = vec3<f16>(1.0h, 2.0h, 3.0h);
  }
`;

const shaderModule = device.createShaderModule({ code });
// Create a compute pipeline with this shader module
// and run the shader on the GPU...

Het is mogelijk om zowel het type f16 als het type f32 te ondersteunen in de WGSL-shader-modulecode met een alias, afhankelijk van de ondersteuning voor de functie "shader-f16", zoals getoond in het volgende fragment.

const adapter = await navigator.gpu.requestAdapter();
const hasShaderF16 = adapter.features.has("shader-f16");

const device = await adapter.requestDevice({
  requiredFeatures: hasShaderF16 ? ["shader-f16"] : [],
});

const header = hasShaderF16
  ? `enable f16;
     alias min16float = f16;`
  : `alias min16float = f32;`;

const code = `
  ${header}

  @compute @workgroup_size(1)
  fn main() {
    const c = vec3<min16float>(1.0, 2.0, 3.0);
  }
`;

De grenzen verleggen

Het maximale aantal bytes dat nodig is om één voorbeeld (pixel of subpixel) van de uitvoergegevens van de weergavepijplijn op te slaan, voor alle kleurbijlagen, is standaard 32 bytes. Je kunt nu maximaal 64 verzoeken indienen met de limiet van maxColorAttachmentBytesPerSample. Bekijk het volgende voorbeeld en probleem dawn:2036.

const adapter = await navigator.gpu.requestAdapter();

if (adapter.limits.maxColorAttachmentBytesPerSample < 64) {
  // When the desired limit isn't supported, take action to either fall back to
  // a code path that does not require the higher limit or notify the user that
  // their device does not meet minimum requirements.
}

// Request highest limit of max color attachments bytes per sample.
const device = await adapter.requestDevice({
  requiredLimits: { maxColorAttachmentBytesPerSample: 64 },
});

De limieten voor maxInterStageShaderVariables en maxInterStageShaderComponents die worden gebruikt voor communicatie tussen fasen, zijn op alle platforms verhoogd. Ga naar issue dawn:1448 voor meer informatie.

Voor elke shaderfase is het maximumaantal bind group layout-items in een pijplijnlayout dat opslagbuffers is, standaard 8. Je kunt er nu maximaal 10 aanvragen met de limiet maxStorageBuffersPerShaderStage. Ga naar probleem dawn:2159.

Er is een nieuwe limiet voor maxBindGroupsPlusVertexBuffers toegevoegd. Het bestaat uit het maximale aantal bindgroep- en hoekpuntbufferslots dat tegelijkertijd wordt gebruikt, waarbij lege slots onder de hoogste index worden meegeteld. De standaardwaarde is 24. Ga naar issue dawn:1849.

Wijzigingen in de diepte-stencilstatus

We willen de ontwikkelaarservaring verbeteren. Daarom zijn de kenmerken depthWriteEnabled en depthCompare niet altijd meer vereist: depthWriteEnabled is alleen vereist voor indelingen met diepte en depthCompare is niet vereist voor indelingen met diepte als het helemaal niet wordt gebruikt. Ga naar probleem dawn:2132.

Updates van adaptergegevens

Niet-standaard kenmerken voor type- en backend-adapterinformatie zijn nu beschikbaar als requestAdapterInfo() wordt aangeroepen en de gebruiker de flag WebGPU Developer Features (WebGPU-ontwikkelaarsfuncties) heeft aangezet op chrome://flags/#enable-webgpu-developer-features. De type kan Discrete GPU, Geïntegreerde GPU, CPU of Onbekend zijn. De backend is WebGPU, D3D11, D3D12, metal, vulkan, openGL, openGLES of null. Ga naar issue dawn:2112 en issue dawn:2107.

Screenshot van https://webgpureport.org met backend en type in adapterinformatie.
Backend- en type adapterinfo getoond op https://webgpureport.org.

De optionele lijstparameter unmaskHints in requestAdapterInfo() is verwijderd. Ga naar issue dawn:1427.

Kwantisatie van tijdstempelquery's

Met tijdstempelquery's kunnen apps de uitvoeringstijd van GPU-opdrachten meten met een nauwkeurigheid van nanoseconden. De WebGPU-specificatie maakt tijdstempelquery's optioneel vanwege zorgen over timingaanvallen. Het Chrome-team is van mening dat het kwantificeren van tijdstempelquery's een goed compromis is tussen nauwkeurigheid en beveiliging, omdat de resolutie wordt verlaagd naar 100 microseconden. Ga naar issue dawn:1800.

In Chrome kunnen gebruikers kwantisering van tijdstempels uitzetten door de flag WebGPU-ontwikkelaarsfuncties aan te zetten op chrome://flags/#enable-webgpu-developer-features. Deze vlag alleen zet de functie "timestamp-query" niet aan. De implementatie is nog experimenteel en vereist daarom de vlag 'Unsafe WebGPU Support' op chrome://flags/#enable-unsafe-webgpu.

In Dawn is een nieuwe apparaatwissel toegevoegd met de naam timestamp_quantization. Deze staat standaard aan. Het volgende fragment toont hoe je de experimentele functie timestamp-query toestaat zonder timestampkwantisering als je een apparaat aanvraagt.

wgpu::DawnTogglesDescriptor deviceTogglesDesc = {};

const char* allowUnsafeApisToggle = "allow_unsafe_apis";
deviceTogglesDesc.enabledToggles = &allowUnsafeApisToggle;
deviceTogglesDesc.enabledToggleCount = 1;

const char* timestampQuantizationToggle = "timestamp_quantization";
deviceTogglesDesc.disabledToggles = &timestampQuantizationToggle;
deviceTogglesDesc.disabledToggleCount = 1;

wgpu::DeviceDescriptor desc = {.nextInChain = &deviceTogglesDesc};

// Request a device with no timestamp quantization.
myAdapter.RequestDevice(&desc, myCallback, myUserData);

Functies voor de voorjaarsschoonmaak

De experimentele functie timestamp-query-inside-passes is hernoemd naar chromium-experimental-timestamp-query-inside-passes om ontwikkelaars duidelijk te maken dat deze functie experimenteel is en op dit moment alleen beschikbaar is in Chromium-browsers. Ga naar probleem dawn:1193.

De experimentele functie pipeline-statistics-query, die maar gedeeltelijk was geïmplementeerd, is verwijderd omdat deze niet meer wordt ontwikkeld. Ga naar issue chromium:1177506.

Dit zijn maar enkele van de belangrijkste punten. Neem de uitgebreide lijst met doorvoeringen door.

Wat is er nieuw in WebGPU?

Een lijst met alles wat is behandeld in de serie Nieuw in WebGPU.

Chrome 155-156

Chrome 153-154

Chrome 151-152

Chrome 149-150

Chrome 147-148

Chrome 146

Chrome 145

Chrome 144

Chrome 143

Chrome 142

Chrome 141

Chrome 140

Chrome 139

Chrome 138

Chrome 137

Chrome 136

Chrome 135

Chrome 134

Chrome 133

Chrome 132

Chrome 131

Chrome 130

Chrome 129

Chrome 128

Chrome 127

Chrome 126

Chrome 125

Chrome 124

Chrome 123

Chrome 122

Chrome 121

Chrome 120

Chrome 119

Chrome 118

Chrome 117

Chrome 116

Chrome 115

Chrome 114

Chrome 113