Дата публикации: 26 февраля 2025 г.
Как улучшить рабочие нагрузки машинного обучения с помощью подгрупп
После года разработки и тестирования стала доступна функция подгрупп WebGPU, которая позволяет использовать параллелизм на уровне SIMD. Он позволяет потокам в рабочей группе обмениваться данными и выполнять коллективные математические операции, например вычислять сумму чисел, а также предлагает эффективный метод обмена данными между потоками. Подробнее об исходном предложении и записи в chromestatus…
Во время экспериментальной версии на некоторых устройствах скорость работы Google Meet увеличилась в 2,3–2,9 раза при сравнении подгрупп с скалярным произведением упакованных целых чисел для шейдеров умножения матрицы на вектор.
Если функция "subgroups" доступна в GPUAdapter, запросите GPUDevice с этой функцией, чтобы получить поддержку подгрупп в WGSL. Полезно проверять значения адаптеров subgroupMinSize и subgroupMaxSize, например если у вас есть жестко заданный алгоритм, требующий подгруппу определенного размера.
Чтобы получить доступ к перечисленным ниже встроенным значениям на этапах вычислений и фрагментных шейдеров, вам также нужно явно включить это расширение в коде WGSL с помощью enable subgroups;:
subgroup_invocation_id– встроенное значение индекса потока в подгруппе.subgroup_size– встроенное значение для доступа к размеру подгруппы.
Множество встроенных функций подгрупп (например, subgroupAdd(), subgroupBallot(), subgroupBroadcast(), subgroupShuffle()) обеспечивают эффективную связь и вычисления между вызовами в подгруппе. Эти операции подгрупп классифицируются как операции с одной инструкцией и несколькими потоками (SIMT). Кроме того, встроенные функции quad, которые работают с квадратом вызовов, облегчают обмен данными внутри квадрата.
Значения f16 можно использовать с подгруппами при запросе GPUDevice с функциями "shader-f16" и "subgroups".
Приведенный ниже пример – хорошая отправная точка для изучения подгрупп. В нем показан шейдер, который использует встроенную функцию subgroupExclusiveMul() для вычисления факториалов без чтения или записи в память для передачи промежуточных результатов.
Удаление поддержки фильтруемых типов текстур с плавающей запятой в качестве смешиваемых
Теперь, когда функция смешивания 32-битных текстур с плавающей запятой доступна в рамках функции "float32-blendable", некорректная поддержка типов текстур с плавающей запятой в качестве смешиваемых удалена. Подробнее о проблеме 364987733…
Обновления на рассвете
Теперь для Dawn требуется macOS 11 и iOS 14 и поддерживается только Metal 2.3+. Подробнее об этой проблеме…
Новый метод GetWGSLLanguageFeatures() объекта wgpu::Instance теперь заменяет EnumerateWGSLLanguageFeatures(). Подробнее о проблеме 368672124…
У следующих типов привязки есть значение Undefined, и их значения по умолчанию в макете привязки были изменены. Подробнее о проблеме 377820810…
wgpu::BufferBindingType::Undefinedтеперь называетсяUniform.wgpu::SamplerBindingType::Undefinedтеперь называетсяFiltering.wgpu::TextureSampleType::Undefinedтеперь называетсяFloat.wgpu::StorageTextureAccess::Undefinedтеперь называетсяWriteOnly
Это лишь некоторые из основных изменений. Ознакомьтесь с полным списком коммитов.
Что нового в WebGPU
Список всех тем, которые были рассмотрены в серии статей Что нового в WebGPU.
Chrome 155–156
- Расширение WGSL fragment_depth
- Несоответствие сжатия текстур
- Цветовые пространства srgb-linear и display-p3-linear
- Дополнительный формат вершин snorm10-10-10-2
- Поддержка f16 в Linux для NVIDIA
- Обновления Dawn
Chrome 153–154
- Расширение buffer_view для WGSL
- Расширение WGSL swizzle_assignment
- Обновления расширений WGSL
- Обновления Dawn
Chrome 151–152
Chrome 149–150
Chrome 147–148
Chrome 146
- Поддержка режима совместимости WebGPU на OpenGL ES 3.1
- Временные прикрепленные файлы
- Расширение WGSL texture_and_sampler_let
- Обновления Dawn
Chrome 145
- Расширение WGSL subgroup_uniformity
- Экспериментальное синхронное сопоставление буферов в рабочих процессах
- Обновления Dawn
Chrome 144
- Расширение WGSL subgroup_id
- Расширение WGSL uniform_buffer_standard_layout
- WebGPU в Linux
- Более быстрые функции writeBuffer и writeTexture
- Обновления Dawn
Chrome 143
- Перестановка компонентов текстуры
- Удаление использования текстуры хранилища bgra8unorm, доступной только для чтения
- Обновления Dawn
Chrome 142
Chrome 141
- Завершение проверки инсулинорезистентности
- Анализ диапазона целых чисел в компиляторе WGSL
- Обновление SPIR-V 1.4 для серверной части Vulkan
- Обновления Dawn
Chrome 140
- Запросы устройств используют адаптер
- Сокращенная запись для использования текстуры вместо представления текстуры
- Функция textureSampleLevel в WGSL поддерживает 1D-текстуры
- Прекращение поддержки текстур bgra8unorm для хранения данных только для чтения
- Удаление атрибута isFallbackAdapter для GPUAdapter
- Обновления Dawn
Chrome 139
- Поддержка 3D-текстур для сжатых форматов BC и ASTC
- Новая функция "Основные функции и ограничения"
- Пробная версия WebGPU в режиме совместимости
- Обновления Dawn
Chrome 138
- Сокращенная запись для использования буфера в качестве связывающего ресурса
- Изменения требований к размеру буферов, сопоставленных при создании
- Отчет об архитектуре для новых графических процессоров
- Поддержка атрибута isFallbackAdapter для GPUAdapter прекращена
- Обновления Dawn
Chrome 137
- Как использовать представление текстуры для привязки externalTexture
- Копирование буферов без указания смещений и размера
- WGSL workgroupUniformLoad с использованием указателя на атомарную переменную
- Атрибут powerPreference для GPUAdapterInfo
- Удаление атрибута compatibilityMode из GPURequestAdapterOptions
- Обновления Dawn
Chrome 136
- Атрибут GPUAdapterInfo isFallbackAdapter
- Улучшение времени компиляции шейдеров в D3D12
- Как сохранить или скопировать изображение с холста
- Снять ограничения режима совместимости
- Обновления Dawn
Chrome 135
- Разрешить создание макета конвейера с макетом группы привязки null
- Разрешить областям просмотра выходить за границы целевых объектов отрисовки
- Упрощенный доступ к экспериментальному режиму совместимости на устройствах Android
- Удаление ограничения maxInterStageShaderComponents
- Обновления Dawn
Chrome 134
- Как улучшить рабочие нагрузки машинного обучения с помощью подгрупп
- Удаление поддержки фильтруемых типов текстур с плавающей точкой как смешиваемых
- Обновления Dawn
Chrome 133
- Дополнительные форматы вершин unorm8x4-bgra и с одним компонентом
- Разрешить запрашивать неизвестные лимиты с неопределенным значением
- Изменения в правилах выравнивания WGSL
- Повышение производительности WGSL при использовании функции discard
- Как использовать displaySize из VideoFrame для внешних текстур
- Как обрабатывать изображения с нестандартной ориентацией с помощью copyExternalImageToTexture
- Улучшение работы разработчиков
- Как включить режим совместимости с помощью featureLevel
- Удаление экспериментальных функций подгрупп
- Прекращение поддержки ограничения maxInterStageShaderComponents
- Обновления Dawn
Chrome 132
- Использование текстур
- Смешивание текстур с 32-битной плавающей точкой
- Атрибут adapterInfo для GPUDevice
- При настройке контекста элемента canvas с недопустимым форматом возникает ошибка JavaScript
- Ограничения фильтрации текстур
- Эксперименты с расширенными подгруппами
- Улучшение работы разработчиков
- Экспериментальная поддержка 16-битных нормализованных форматов текстур
- Обновления Dawn
Chrome 131
- Как обрезать расстояния в WGSL
- GPUCanvasContext getConfiguration()
- Примитивы точек и линий не должны иметь смещения глубины
- Встроенные функции инклюзивного сканирования для подгрупп
- Экспериментальная поддержка многократного непрямого рисования
- Параметр компиляции модуля шейдера strict math
- Удаление GPUAdapter requestAdapterInfo()
- Обновления Dawn
Chrome 130
- Смешивание двух источников
- Улучшение времени компиляции шейдеров в Metal
- Устаревание метода GPUAdapter requestAdapterInfo()
- Обновления Dawn
Chrome 129
- Поддержка HDR с режимом сопоставления тонов на холсте
- Расширенная поддержка подгрупп
- Обновления Dawn
Chrome 128
- Эксперименты с подгруппами
- Удаление возможности задавать смещение глубины для линий и точек
- Скрытие предупреждения инструментов разработчика о необработанной ошибке, если используется preventDefault
- WGSL interpolate sampling first and either
- Обновления Dawn
Chrome 127
- Экспериментальная поддержка OpenGL ES на устройствах Android
- Атрибут info для GPUAdapter
- Улучшения взаимодействия WebAssembly
- Улучшенные сообщения об ошибках кодировщика команд
- Обновления Dawn
Chrome 126
- Увеличение лимита maxTextureArrayLayers
- Оптимизация загрузки буфера для серверной части Vulkan
- Улучшения времени компиляции шейдеров
- Отправленные буферы команд должны быть уникальными
- Обновления Dawn
Chrome 125
Chrome 124
- Текстуры хранилища с доступом только на чтение и на чтение и запись
- Поддержка сервис-воркеров и объектов SharedWorker
- Новые атрибуты информации об адаптере
- Исправленные ошибки
- Обновления Dawn
Chrome 123
- Поддержка встроенных функций DP4a в WGSL
- Параметры указателей без ограничений в WGSL
- Синтаксический сахар для разыменования составных типов в WGSL
- Отдельное состояние "Только чтение" для трафарета и глубины
- Обновления Dawn
Chrome 122
- Расширение охвата с помощью режима совместимости (функция в разработке)
- Как увеличить лимит maxVertexAttributes
- Обновления Dawn
Chrome 121
- Поддержка WebGPU на устройствах Android
- Использование DXC вместо FXC для компиляции шейдеров в Windows
- Запросы временных меток в проходах вычислений и отрисовки
- Точки входа по умолчанию для модулей шейдеров
- Поддержка display-p3 в качестве цветового пространства GPUExternalTexture
- Информация о кучах памяти
- Обновления Dawn
Chrome 120
- Поддержка 16-битных значений с плавающей запятой в WGSL
- Преодолейте все препятствия
- Изменения состояния буфера глубины и трафарета
- Обновления информации об адаптере
- Квантование запросов с временными метками
- Функции для весенней уборки
Chrome 119
- Фильтруемые 32-битные текстуры с плавающей запятой
- Формат вершин unorm10-10-10-2
- Формат текстуры rgb10a2uint
- Обновления Dawn
Chrome 118
- Поддержка HTMLImageElement и ImageData в
copyExternalImageToTexture() - Экспериментальная поддержка текстур хранилища с доступом для чтения и записи и только для чтения
- Обновления Dawn
Chrome 117
- Unset vertex buffer (Отменить буфер вершин)
- Отменить привязку группы
- Отключение сообщений об ошибках при создании асинхронного конвейера, когда устройство потеряно
- Изменения в создании модулей шейдеров SPIR-V
- Улучшение работы разработчиков
- Кэширование конвейеров с автоматически сгенерированной разметкой
- Обновления Dawn
Chrome 116
- Интеграция WebCodecs
- Устаревшее устройство, возвращенное GPUAdapter
requestDevice() - Обеспечить плавное воспроизведение видео при вызове функции
importExternalTexture() - Соответствие спецификациям
- Улучшение работы разработчиков
- Обновления Dawn
Chrome 115
- Поддерживаемые расширения языка WGSL
- Экспериментальная поддержка Direct3D 11
- Как по умолчанию использовать дискретный графический процессор при питании от сети переменного тока
- Улучшение работы разработчиков
- Обновления Dawn
Chrome 114
- Оптимизация JavaScript
- Метод getCurrentTexture() для ненастроенного элемента canvas вызывает ошибку InvalidStateError
- Изменения в WGSL
- Обновления Dawn