Поддержка встроенных функций DP4a в WGSL
DP4a (Dot Product of 4 Elements and Accumulate) – это набор инструкций для графического процессора, которые обычно используются при выводе глубокого обучения для квантования. Он эффективно выполняет 8-битные целочисленные скалярные произведения, чтобы ускорить вычисления в таких моделях с квантованием int8. Она позволяет сэкономить до 75 % памяти и пропускной способности сети, а также повысить производительность любых моделей машинного обучения при выводе по сравнению с их версиями f32. В результате он широко используется во многих популярных фреймворках ИИ.
Если в navigator.gpu.wgslLanguageFeatures есть расширение языка "packed_4x8_integer_dot_product" WGSL, вы можете использовать 32-битные целочисленные скаляры, содержащие четырехкомпонентные векторы 8-битных целых чисел, в качестве входных данных для инструкций скалярного произведения в коде шейдера WGSL с помощью встроенных функций dot4U8Packed и dot4I8Packed. Инструкции по упаковке и распаковке также можно использовать с упакованными четырехкомпонентными векторами 8-битных целых чисел с помощью встроенных функций WGSL pack4xI8, pack4xU8, pack4xI8Clamp, pack4xU8Clamp, unpack4xI8 и unpack4xU8.
Рекомендуется использовать директиву requires, чтобы указать на потенциальную непортируемость с помощью requires packed_4x8_integer_dot_product; в верхней части кода шейдера WGSL. Ознакомьтесь с примером ниже и проблемой tint:1497.
if (!navigator.gpu.wgslLanguageFeatures.has("packed_4x8_integer_dot_product")) {
throw new Error(`DP4a built-in functions are not available`);
}
const adapter = await navigator.gpu.requestAdapter();
const device = await adapter.requestDevice();
const shaderModule = device.createShaderModule({ code: `
requires packed_4x8_integer_dot_product;
fn main() {
const result: u32 = dot4U8Packed(0x01020304u, 0x02040405u); // 42
}`,
});
Мы благодарим команду Intel Web Graphics в Шанхае за разработку этой спецификации и ее реализацию.
Параметры указателей без ограничений в WGSL
"unrestricted_pointer_parameters" Расширение языка WGSL ослабляет ограничения на то, какие указатели можно передавать функциям WGSL:
Указатели параметров из адресных пространств
storage,uniformиworkgroupна функции, объявленные пользователем.Передача указателей на элементы структуры и массива в функции, объявленные пользователем.
Подробнее о передаче указателей в качестве параметров функций…
Эту функцию можно обнаружить с помощью navigator.gpu.wgslLanguageFeatures. Рекомендуется всегда использовать директиву requires, чтобы указать на потенциальную непортируемость с помощью requires unrestricted_pointer_parameters; в начале кода шейдера WGSL. Ознакомьтесь с изменениями в спецификации WGSL и ошибкой tint:2053.
if (!navigator.gpu.wgslLanguageFeatures.has("unrestricted_pointer_parameters")) {
throw new Error(`Unrestricted pointer parameters are not available`);
}
const adapter = await navigator.gpu.requestAdapter();
const device = await adapter.requestDevice();
const shaderModule = device.createShaderModule({ code: `
requires unrestricted_pointer_parameters;
@group(0) @binding(0) var<storage, read_write> S : i32;
fn func(pointer : ptr<storage, i32, read_write>) {
*pointer = 42;
}
@compute @workgroup_size(1)
fn main() {
func(&S);
}`
});
Синтаксический сахар для разыменования составных типов в WGSL
Если в navigator.gpu.wgslLanguageFeatures есть "pointer_composite_access" расширение языка WGSL, код шейдера WGSL теперь поддерживает доступ к компонентам сложных типов данных с помощью того же синтаксиса с точкой (.), независимо от того, работаете ли вы непосредственно с данными или с указателем на них. Вот как это работает:
Если
foo– указатель, тоfoo.bar– более удобный способ записи(*foo).bar. Звездочка (*) обычно нужна, чтобы превратить указатель в ссылку, которую можно разыменовать, но теперь указатели и ссылки стали гораздо более похожими и почти взаимозаменяемыми.Если
fooне является указателем, оператор точки (.) работает так же, как и при прямом доступе к членам.
Аналогично, если pa – это указатель, в котором хранится начальный адрес массива, то при использовании pa[i] вы получаете прямой доступ к ячейке памяти, в которой хранится 'i-й элемент этого массива.
Рекомендуется использовать директиву requires, чтобы указать на потенциальную непортируемость с помощью requires pointer_composite_access; в верхней части кода шейдера WGSL. Ознакомьтесь с примером ниже и проблемой "Оттенок" [tint:2113].
if (!navigator.gpu.wgslLanguageFeatures.has("pointer_composite_access")) {
throw new Error(`Pointer composite access is not available`);
}
const adapter = await navigator.gpu.requestAdapter();
const device = await adapter.requestDevice();
const shaderModule = device.createShaderModule({ code: `
requires pointer_composite_access;
fn main() {
var a = vec3f();
let p : ptr<function, vec3f> = &a;
let r1 = (*p).x; // always valid.
let r2 = p.x; // requires pointer composite access.
}`
});
Отдельный режим доступа только для чтения для трафарета и глубины
Ранее прикрепления буфера глубины и трафарета, доступные только для чтения, требовали, чтобы оба аспекта (глубина и трафарет) были доступны только для чтения. Это ограничение снято. Теперь аспект глубины можно использовать в режиме "Только чтение", например для трассировки контактных теней, а буфер трафарета записывается для определения пикселей для дальнейшей обработки. См. проблему dawn:2146.
Обновления на рассвете
Обратный вызов необработанной ошибки, заданный с помощью wgpuDeviceSetUncapturedErrorCallback(), теперь вызывается сразу после возникновения ошибки. Именно этого ожидают разработчики при отладке. См. change dawn:173620.
Реализован метод wgpuSurfaceGetPreferredFormat() из webgpu.h API. Подробнее об ошибке dawn:1362…
Это лишь некоторые из основных изменений. Ознакомьтесь с полным списком коммитов.
Что нового в WebGPU
Список всех тем, которые были рассмотрены в серии статей Что нового в WebGPU.
Chrome 155–156
- Расширение WGSL fragment_depth
- Несоответствие сжатия текстур
- Цветовые пространства srgb-linear и display-p3-linear
- Дополнительный формат вершин snorm10-10-10-2
- Поддержка f16 в Linux для NVIDIA
- Обновления Dawn
Chrome 153–154
- Расширение buffer_view для WGSL
- Расширение WGSL swizzle_assignment
- Обновления расширений WGSL
- Обновления Dawn
Chrome 151–152
Chrome 149–150
Chrome 147–148
Chrome 146
- Поддержка режима совместимости WebGPU на OpenGL ES 3.1
- Временные прикрепленные файлы
- Расширение WGSL texture_and_sampler_let
- Обновления Dawn
Chrome 145
- Расширение WGSL subgroup_uniformity
- Экспериментальное синхронное сопоставление буферов в рабочих процессах
- Обновления Dawn
Chrome 144
- Расширение WGSL subgroup_id
- Расширение WGSL uniform_buffer_standard_layout
- WebGPU в Linux
- Более быстрые функции writeBuffer и writeTexture
- Обновления Dawn
Chrome 143
- Перестановка компонентов текстуры
- Удаление использования текстуры хранилища bgra8unorm, доступной только для чтения
- Обновления Dawn
Chrome 142
Chrome 141
- Завершение проверки инсулинорезистентности
- Анализ диапазона целых чисел в компиляторе WGSL
- Обновление SPIR-V 1.4 для серверной части Vulkan
- Обновления Dawn
Chrome 140
- Запросы устройств используют адаптер
- Сокращенная запись для использования текстуры вместо представления текстуры
- Функция textureSampleLevel в WGSL поддерживает 1D-текстуры
- Прекращение поддержки текстур bgra8unorm для хранения данных только для чтения
- Удаление атрибута isFallbackAdapter для GPUAdapter
- Обновления Dawn
Chrome 139
- Поддержка 3D-текстур для сжатых форматов BC и ASTC
- Новая функция "Основные функции и ограничения"
- Пробная версия WebGPU в режиме совместимости
- Обновления Dawn
Chrome 138
- Сокращенная запись для использования буфера в качестве связывающего ресурса
- Изменения требований к размеру буферов, сопоставленных при создании
- Отчет об архитектуре для новых графических процессоров
- Поддержка атрибута isFallbackAdapter для GPUAdapter прекращена
- Обновления Dawn
Chrome 137
- Как использовать представление текстуры для привязки externalTexture
- Копирование буферов без указания смещений и размера
- WGSL workgroupUniformLoad с использованием указателя на атомарную переменную
- Атрибут powerPreference для GPUAdapterInfo
- Удаление атрибута compatibilityMode из GPURequestAdapterOptions
- Обновления Dawn
Chrome 136
- Атрибут GPUAdapterInfo isFallbackAdapter
- Улучшение времени компиляции шейдеров в D3D12
- Как сохранить или скопировать изображение с холста
- Снять ограничения режима совместимости
- Обновления Dawn
Chrome 135
- Разрешить создание макета конвейера с макетом группы привязки null
- Разрешить областям просмотра выходить за границы целевых объектов отрисовки
- Упрощенный доступ к экспериментальному режиму совместимости на устройствах Android
- Удаление ограничения maxInterStageShaderComponents
- Обновления Dawn
Chrome 134
- Как улучшить рабочие нагрузки машинного обучения с помощью подгрупп
- Удаление поддержки фильтруемых типов текстур с плавающей точкой как смешиваемых
- Обновления Dawn
Chrome 133
- Дополнительные форматы вершин unorm8x4-bgra и с одним компонентом
- Разрешить запрашивать неизвестные лимиты с неопределенным значением
- Изменения в правилах выравнивания WGSL
- Повышение производительности WGSL при использовании функции discard
- Как использовать displaySize из VideoFrame для внешних текстур
- Как обрабатывать изображения с нестандартной ориентацией с помощью copyExternalImageToTexture
- Улучшение работы разработчиков
- Как включить режим совместимости с помощью featureLevel
- Удаление экспериментальных функций подгрупп
- Прекращение поддержки ограничения maxInterStageShaderComponents
- Обновления Dawn
Chrome 132
- Использование текстур
- Смешивание текстур с 32-битной плавающей точкой
- Атрибут adapterInfo для GPUDevice
- При настройке контекста элемента canvas с недопустимым форматом возникает ошибка JavaScript
- Ограничения фильтрации текстур
- Эксперименты с расширенными подгруппами
- Улучшение работы разработчиков
- Экспериментальная поддержка 16-битных нормализованных форматов текстур
- Обновления Dawn
Chrome 131
- Как обрезать расстояния в WGSL
- GPUCanvasContext getConfiguration()
- Примитивы точек и линий не должны иметь смещения глубины
- Встроенные функции инклюзивного сканирования для подгрупп
- Экспериментальная поддержка многократного непрямого рисования
- Параметр компиляции модуля шейдера strict math
- Удаление GPUAdapter requestAdapterInfo()
- Обновления Dawn
Chrome 130
- Смешивание двух источников
- Улучшение времени компиляции шейдеров в Metal
- Устаревание метода GPUAdapter requestAdapterInfo()
- Обновления Dawn
Chrome 129
- Поддержка HDR с режимом сопоставления тонов на холсте
- Расширенная поддержка подгрупп
- Обновления Dawn
Chrome 128
- Эксперименты с подгруппами
- Удаление возможности задавать смещение глубины для линий и точек
- Скрытие предупреждения инструментов разработчика о необработанной ошибке, если используется preventDefault
- WGSL interpolate sampling first and either
- Обновления Dawn
Chrome 127
- Экспериментальная поддержка OpenGL ES на устройствах Android
- Атрибут info для GPUAdapter
- Улучшения взаимодействия WebAssembly
- Улучшенные сообщения об ошибках кодировщика команд
- Обновления Dawn
Chrome 126
- Увеличение лимита maxTextureArrayLayers
- Оптимизация загрузки буфера для серверной части Vulkan
- Улучшения времени компиляции шейдеров
- Отправленные буферы команд должны быть уникальными
- Обновления Dawn
Chrome 125
Chrome 124
- Текстуры хранилища с доступом только на чтение и на чтение и запись
- Поддержка сервис-воркеров и объектов SharedWorker
- Новые атрибуты информации об адаптере
- Исправленные ошибки
- Обновления Dawn
Chrome 123
- Поддержка встроенных функций DP4a в WGSL
- Параметры указателей без ограничений в WGSL
- Синтаксический сахар для разыменования составных типов в WGSL
- Отдельное состояние "Только чтение" для трафарета и глубины
- Обновления Dawn
Chrome 122
- Расширение охвата с помощью режима совместимости (функция в разработке)
- Как увеличить лимит maxVertexAttributes
- Обновления Dawn
Chrome 121
- Поддержка WebGPU на устройствах Android
- Использование DXC вместо FXC для компиляции шейдеров в Windows
- Запросы временных меток в проходах вычислений и отрисовки
- Точки входа по умолчанию для модулей шейдеров
- Поддержка display-p3 в качестве цветового пространства GPUExternalTexture
- Информация о кучах памяти
- Обновления Dawn
Chrome 120
- Поддержка 16-битных значений с плавающей запятой в WGSL
- Преодолейте все препятствия
- Изменения состояния буфера глубины и трафарета
- Обновления информации об адаптере
- Квантование запросов с временными метками
- Функции для весенней уборки
Chrome 119
- Фильтруемые 32-битные текстуры с плавающей запятой
- Формат вершин unorm10-10-10-2
- Формат текстуры rgb10a2uint
- Обновления Dawn
Chrome 118
- Поддержка HTMLImageElement и ImageData в
copyExternalImageToTexture() - Экспериментальная поддержка текстур хранилища с доступом для чтения и записи и только для чтения
- Обновления Dawn
Chrome 117
- Unset vertex buffer (Отменить буфер вершин)
- Отменить привязку группы
- Отключение сообщений об ошибках при создании асинхронного конвейера, когда устройство потеряно
- Изменения в создании модулей шейдеров SPIR-V
- Улучшение работы разработчиков
- Кэширование конвейеров с автоматически сгенерированной разметкой
- Обновления Dawn
Chrome 116
- Интеграция WebCodecs
- Устаревшее устройство, возвращенное GPUAdapter
requestDevice() - Обеспечить плавное воспроизведение видео при вызове функции
importExternalTexture() - Соответствие спецификациям
- Улучшение работы разработчиков
- Обновления Dawn
Chrome 115
- Поддерживаемые расширения языка WGSL
- Экспериментальная поддержка Direct3D 11
- Как по умолчанию использовать дискретный графический процессор при питании от сети переменного тока
- Улучшение работы разработчиков
- Обновления Dawn
Chrome 114
- Оптимизация JavaScript
- Метод getCurrentTexture() для ненастроенного элемента canvas вызывает ошибку InvalidStateError
- Изменения в WGSL
- Обновления Dawn