如何使用 CrUX BigQuery 数据集

Chrome 用户体验报告 (CrUX) 的原始数据可在 BigQuery(Google Cloud 上的数据库)中找到。使用 BigQuery 需要有 GCP 项目并具备 SQL 基础知识。

在本指南中,了解如何使用 BigQuery 针对 CrUX 数据集编写查询,以提取有关 Web 用户体验状态的富有洞察力的结果:

  • 了解数据的组织方式
  • 编写基本查询以评估来源的性能
  • 编写高级查询以跟踪性能随时间变化的情况

数据组织

首先查看下面的基本查询:

SELECT COUNT(DISTINCT origin) FROM `chrome-ux-report.all.202206`

如需运行查询,请在查询编辑器中输入,然后按“运行查询”按钮:

在编辑器中输入简单的查询,然后按“运行”。

此查询包含两部分:

  • SELECT COUNT(DISTINCT origin) 表示查询表中源站的数量。一般来说,如果两个网址的架构、主机和端口相同,它们就属于同一源。

  • FROM chrome-ux-report.all.202206 用于指定源表的地址,该表包含三个部分:

    • Cloud 项目名称 chrome-ux-report,其中整理了所有 CrUX 数据
    • 数据集 all,表示所有国家/地区的数据
    • 202206 表,即数据的年份和月份,采用 YYYYMM 格式

此外还有每个国家/地区的数据集。例如,chrome-ux-report.country_ca.202206 仅表示来自加拿大的用户体验数据。

每个数据集中自 2017 年起每月都有表。系统会定期发布上个日历月的新表。

数据表的结构(也称为架构)包含:

  • 来源,例如 origin = 'https://www.example.com',它表示相应网站上所有网页的总体用户体验分布情况
  • 网页加载时的连接速度,例如 effective_connection_type.name = '4G'
  • 设备类型,例如 form_factor.name = 'desktop'
  • 用户体验指标本身
    • first_paint (FP)
    • first_contentful_paint (FCP)
    • Large_contentful_paint (LCP)
    • dom_content_loaded (DCL)
    • 负载 (OL)
    • layout_instability.cumulative_layout_shift (CLS)
    • interaction_to_next_paint (INP)

每个指标的数据均以对象数组的形式进行组织。采用 JSON 表示法时,first_contentful_paint.histogram.bin 如下所示:

[
    {"start": 0, "end": 100, "density": 0.1234},
    {"start": 100, "end": 200, "density": 0.0123},
    ...
]

每个分箱都包含开始时间和结束时间(以毫秒为单位),以及表示该时间范围内用户体验百分比的密度。换句话说,对于此假设的来源、连接速度和设备类型,12.34% 的 FCP 体验时间少于 100 毫秒。所有分箱密度的总和为 100%。

浏览 BigQuery 中表的结构。

评估效果

我们可以利用对表架构的了解来编写用于提取这些性能数据的查询。

SELECT
  fcp
FROM
  `chrome-ux-report.all.202206`,
  UNNEST(first_contentful_paint.histogram.bin) AS fcp
WHERE
  origin = 'https://web.dev' AND
  effective_connection_type.name = '4G' AND
  form_factor.name = 'phone' AND
  fcp.start = 0

在 BigQuery 上查询 CrUX FCP

结果为 0.01115,这意味着此源上有 1.115% 的用户体验在 4G 和手机上 0 到 100 毫秒之间。如果要将查询泛化到任何连接和任何设备类型,我们可以从 WHERE 子句中省略这些查询,并使用 SUM Aggregator 函数将其各自的所有分箱密度相加:

SELECT
  SUM(fcp.density)
FROM
  `chrome-ux-report.all.202206`,
  UNNEST(first_contentful_paint.histogram.bin) AS fcp
WHERE
  origin = 'https://web.dev' AND
  fcp.start = 0

在 BigQuery 中对 CrUX FCP 进行求和

其测试结果为 0.05355,在所有设备和连接类型中的占比为 5.355%。我们可以稍微修改查询,然后将 0-1000 毫秒的“快速”FCP 范围内的所有分桶的密度相加:

SELECT
  SUM(fcp.density) AS fast_fcp
FROM
  `chrome-ux-report.all.202206`,
  UNNEST(first_contentful_paint.histogram.bin) AS fcp
WHERE
  origin = 'https://web.dev' AND
  fcp.start < 1000

在 BigQuery 上查询快速 FCP

这会生成 0.6977。换句话说,web.dev 上 69.77% 的 FCP 用户体验被视为“快速”根据 FCP 范围定义

跟踪表现

现在,我们已提取了某个来源的效果数据,接下来可以将其与旧表格中的历史数据进行比较。为此,我们可以将表地址重写为较早的月份,或者使用通配符语法查询所有月份:

SELECT
  _TABLE_SUFFIX AS yyyymm,
  SUM(fcp.density) AS fast_fcp
FROM
  `chrome-ux-report.all.*`,
  UNNEST(first_contentful_paint.histogram.bin) AS fcp
WHERE
  origin = 'https://web.dev' AND
  fcp.start < 1000
GROUP BY
  yyyymm
ORDER BY
  yyyymm DESC

在 BigQuery 上查询 CrUX FCP 的时间序列

在这里,我们可以看到,快速 FCP 体验的百分比每月变化几个百分点。

yyyymm fast_fcp
202206 69.77%
202205 70.71%
202204 69.04%
202203 69.82%
202202 67.75%
202201 58.96%
202112 41.69%

借助这些方法,您可以了解源站的性能,计算快速体验的百分比,并跟踪源站的运行情况。下一步,请尝试查询两个或更多来源,并比较其效果。

常见问题解答

以下是有关 CrUX BigQuery 数据集的一些常见问题解答:

何时使用 BigQuery 而不是其他工具?

只有在您无法通过 CrUX 信息中心和 PageSpeed Insights 等其他工具获取相同信息时,才需要使用 BigQuery。例如,BigQuery 可让您以有意义的方式将数据切片,甚至可以将数据与 HTTP Archive 等其他公共数据集联接以进行高级数据挖掘。

使用 BigQuery 是否有任何限制?

是的,最重要的限制是默认情况下用户每月只能查询 1TB 的数据。超出此范围的部分,将按 5 美元/TB 的标准费率收费。

在哪里可以详细了解 BigQuery?

如需了解详情,请参阅 BigQuery 文档