在过去四年中,Squarespace 的产品范围显
Posted: Wed Dec 11, 2024 7:19 am
最初目的
著扩大。为了跟上 Squarespace 不断发展的平台,我们需要扩大功能测试覆盖范围。
我们创建了 Firepit,这是一个用于配置和触发测试的用户界面 (UI)。Firepit 使工程师能够在 Squarespace 的部署环境中轻松运行自定义测试套件。
查看完整尺寸测试细节视图.png
查看完整尺寸firepit-session-index.png
查看完整尺寸测试索引页面.png
我们的测试理念的基础很简单:编写简单、可读且 埃及 whatsapp 电话号码列表 稳定的测试。
众所周知,自动截图测试非常不稳定。为了缓解这种不稳定性,我们的测试会使用精心放置的截图来尽量减少 DOM 断言的使用。
使用精简的 DOM 断言对于保持测试简单且可扩展至关重要,从而减少故障点。例如,我们的一项测试涵盖了注册流程。它从试用注册开始,到订阅购买结束。测试仅包含用户在注册流程中会触摸的输入字段和按钮的基于 DOM 的断言。此外,每个 DOM 断言都依赖于它前面的断言。如果测试期望看到的元素未出现,则每个后续查询都会失败。
最少的 DOM 断言可能会遗漏对用户交互至关重要的项目。例如,如果 CSS 更改意外地将“订阅”按钮缩小到 2x2 像素,我们的 DOM 断言就不会注意到。这就是我们在整个测试流程中使用策略性位置的屏幕截图的原因。屏幕截图为产品的视觉状态提供了有价值的健康检查。一个屏幕截图可以消除对数十个甚至数百个 DOM 断言的需求。用于比较的预期“稳定”屏幕截图集可在我们的 UI 中轻松配置,无需更改测试代码即可进行视觉产品更新。

个测试旨在针对我们平台的特定功能进行直接的烟雾测试。Firepit 测试不涵盖以下内容:
竞争条件
性能退化
安全漏洞
数据验证
产品小幅回退
边缘情况
特定浏览器的错误
我们的测试理念还侧重于通过使用强大的重试逻辑来减少误报。这可以建立对故障警报有效性的信任。
2017 年 7 月,我们烟雾套件中的一项测试的平均通过率为 99.49%(不包括真正的失败)。在 50 次测试会话中,这意味着会话报告错误失败的复合概率为 23.4%。为了降低这种虚假失败率,我们将对失败的测试再运行三次。只有当测试在所有四次运行中都失败时,测试结果才会被认定为真正的失败。这种配置反映了我们对检测严重重大变化的关注,并有助于增强对故障警报有效性的信任。
著扩大。为了跟上 Squarespace 不断发展的平台,我们需要扩大功能测试覆盖范围。
我们创建了 Firepit,这是一个用于配置和触发测试的用户界面 (UI)。Firepit 使工程师能够在 Squarespace 的部署环境中轻松运行自定义测试套件。
查看完整尺寸测试细节视图.png
查看完整尺寸firepit-session-index.png
查看完整尺寸测试索引页面.png
我们的测试理念的基础很简单:编写简单、可读且 埃及 whatsapp 电话号码列表 稳定的测试。
众所周知,自动截图测试非常不稳定。为了缓解这种不稳定性,我们的测试会使用精心放置的截图来尽量减少 DOM 断言的使用。
使用精简的 DOM 断言对于保持测试简单且可扩展至关重要,从而减少故障点。例如,我们的一项测试涵盖了注册流程。它从试用注册开始,到订阅购买结束。测试仅包含用户在注册流程中会触摸的输入字段和按钮的基于 DOM 的断言。此外,每个 DOM 断言都依赖于它前面的断言。如果测试期望看到的元素未出现,则每个后续查询都会失败。
最少的 DOM 断言可能会遗漏对用户交互至关重要的项目。例如,如果 CSS 更改意外地将“订阅”按钮缩小到 2x2 像素,我们的 DOM 断言就不会注意到。这就是我们在整个测试流程中使用策略性位置的屏幕截图的原因。屏幕截图为产品的视觉状态提供了有价值的健康检查。一个屏幕截图可以消除对数十个甚至数百个 DOM 断言的需求。用于比较的预期“稳定”屏幕截图集可在我们的 UI 中轻松配置,无需更改测试代码即可进行视觉产品更新。

个测试旨在针对我们平台的特定功能进行直接的烟雾测试。Firepit 测试不涵盖以下内容:
竞争条件
性能退化
安全漏洞
数据验证
产品小幅回退
边缘情况
特定浏览器的错误
我们的测试理念还侧重于通过使用强大的重试逻辑来减少误报。这可以建立对故障警报有效性的信任。
2017 年 7 月,我们烟雾套件中的一项测试的平均通过率为 99.49%(不包括真正的失败)。在 50 次测试会话中,这意味着会话报告错误失败的复合概率为 23.4%。为了降低这种虚假失败率,我们将对失败的测试再运行三次。只有当测试在所有四次运行中都失败时,测试结果才会被认定为真正的失败。这种配置反映了我们对检测严重重大变化的关注,并有助于增强对故障警报有效性的信任。