通常而言,在图形学中,我们所说的“渲染”(Rendering),指在给定虚拟相机、三维物体、光源等条件下,在屏幕等终端生成或绘制一幅二维图像的过程。
如下图所示,渲染管线一般包含了三大阶段。其中应用程序阶段(Application)可以理解为数据准备阶段,Galacean 引擎在这里准备了着色器编译、视锥体裁剪、渲染队列排序、着色器数据等初始化工作;几何体阶段(Geometry Processing)将上述数据经过顶点着色器、投影变换、裁剪、屏幕映射一系列处理后输出到屏幕坐标系上;光栅化阶段(Rasterizer)将上一个阶段的顶点栅格化成一个个片元,然后经过片元着色器、颜色融合等操作,给每一个像素点描绘出相应的颜色。
在动态场景中,相机、三维物体、光源等对象都是在不断变化的,也就是我们每一帧都需要执行一遍渲染管线。而一般画面度流畅的最低要求为 FPS > 30,即走一遍渲染管线的时间需要少于 33(1000 / 30)毫秒。Galacean 引擎在 0.3 里程碑中,借助材质系统对渲染管线进行了全面重构,** 通过骨骼动画 demo (如下图所示,面数 728300,drawcall 50 次,不采用 Instance 合批等技术)的测试,在近 100 万面的浏览器 6 倍降频渲染中,跟渲染相关的 render 方法只占用了 900 微秒( 0.2 版本渲染相同的场景 render 方法需要耗时 10 ms)!
MacBook Pro,2.7GHz 四核 Intel Core i7,Intel Iris Plus Graphics 655 1536 MB,Google Chrome 90.0
本文将重点针对**应用程序阶段,**从数据结构、语法、架构设计等角度分析 Galacean 引擎的渲染管线是如何设计和优化的。
第一个阶段是视锥体剔除。
假如场景中所有激活的物体都会进入接下去的渲染管线,但是有些物体其实是在相机的视锥体范围之外的,那么这些视锥体之外物体的渲染其实是多余的,尤其是面数比较多的模型,会大大浪费性能。我们把在渲染管线开始之前,将相机视锥体范围之外的物体进行排除的这种操作,称为视锥体剔除。
Galacean 引擎底层首先会利用脏标记检测视锥体是否发生变化,从而更新视锥体;
然后将视锥体与物体的AABB 包围盒进行碰撞检测;同理,物体的包围盒是否发生变化也采用了脏标记检测:
顺便一提,包围盒的更新使用了 component-wise 算法,只需要对两个矢量运算即可得到包围盒的世界坐标系:
最后,只有视锥体包含或者交叉物体包围盒的物体才会进入渲染管线,减少了后续管线压力,提升了性能。
第二个阶段是渲染队列排序。
在渲染管线中,物体的默认渲染队列是无序的,即物体与相机的距离远近,透明度等不同渲染状态因素都不受控制,渲染效果的正确性、管线性能都会受到影响,因此引擎将渲染队列分成了不透明(Opaque)、透明度测试(AlphaTest)、透明(Transparent) 三种队列。
不透明队列从近到远排序。我们一般会对非透明物体进行从近到远排序,这是因为当我们开启深度测试后,深度测试失败的片元将不进行颜色融合,支持** early-Z** 的 GPU 还会直接跳过片元着色器;又因为深度测试失败的默认配置为 z1 > z2 ,即距离较远的片元会深度测试失败,所以我们对非透明物体进行从近到远排序,可以最大程度地剔除后续深度测试失败的片元,达到性能优化;值得一提的是,有些 GPU 架构比如 PowerVR 支持 HSR(Hidden Surface Removal)技术,引擎利用此技术能够不排序也能实现 early-Z 剔除效果,因此从近到远排序并不是必然的选择。
透明队列从远到近排序。此排序是为了保障渲染效果的正确性,因为通过色彩叠加原理可知,两种颜色混合的最终结果是受先后顺序影响的。
排序算法优化。Galacean 引擎使用了更加高效的排序算法。JS 的内置方法 Array.sort 也能实现排序,但是源码里面有太多通用逻辑,会影响性能,感兴趣的可以在这个 issue 里面进行讨论。顺便一提,除了 Array.sort,JS 的很多内置方法都是为了通用性考虑,如果追求极致性能,需要针对引擎做特殊优化,如 **Array.forEach **这个数组内置方法是用来实现遍历的,但是源码里面有太多判断数组相关的逻辑,还有传回调堆栈等非引擎需要的功能,因此引擎内部尽量使用 for 循环来实现遍历会更加的高效,特别是帧级别的调用。
第三个阶段是编译着色器。
着色器(Shader)包括顶点着色器和片元着色器,是硬件渲染管线中的可编程模块,我们可以通过编写着色器代码,连接 CPU 和 GPU,控制最后的顶点位置,像素颜色等。
编译着色器里的一个核心概念是宏。我们在写着色器时,#ifdef
等宏命令可以选择是否编译这部分 Shader 代码,除了是否定义了这个宏之外,剩余的 Shader 的代码是完全一样的。我们把某个是否需要定义的宏称为宏开关;不同的宏开关组合在引擎中称为宏集合;而根据宏集合生成的不同 Shader,称为着色器变种。
自动编译着色器变种。通常情况下,开发者只需要操作宏开关即可,引擎在运行时会自动根据宏集合是否发生变化来决定是否进行重新编译着色器。
预编译着色器变种。如果对于运行时的流畅度要求较高,我们也可以手动调用引擎的 Shader.compileVariant
方法来进行预编译,那么渲染运行时就无需再编译,不会造成卡顿。
位运算:因为宏集合中的每一个宏开关其实是一个字符串,而各种宏开关又存在着增删改查等需求,那么如何高效地对字符串组合进行运算,就可以用到位运算这个小技巧:我们把每一个宏开关,比如 #ifdef test
,当作字节里面的一个“位”(bit),0 表示关闭该宏,1 表示开启该宏,那么一个 32 位的 Int 类型数字就可以表示 32 个宏开关;使用 |=
就可以实现开启宏,使用 & ~
就可以实现关闭宏;受益于位操作,判断两个宏集合是否变化,只需要判断两个数字是否相等即可。
第四个阶段是更新着色器数据。
与 JS、C++ 等编程语言一样,着色器使用 GLSL 语言,也有变量、函数等概念,不同的是着色器存在于 GPU,我们可以通过 Uniform 方式上传着色器数据。
基于着色器中的数据缓存机制,当数据没有发生变化时,可以不用每一帧都上传数据,由此,可以联想到一个优化手段,那就是分块更新/上传。
如上图所示,Galacean 引擎设计将着色器数据 ShaderData
分别保存在 Scene、Camera、Renderer、Material 四大块中。进行分块后,引擎可以在 CPU 分块更新着色器数据,最后分块上传到 GPU,期间还存在一些细小的优化点,接下来分别展开讨论。
在很多设计中,着色器相关的数据都存放在了材质(Material)中,也就是说所有的着色器数据都在渲染器更新的时候进行了更新,即使是那些不需要更新的数据,复杂度为 O(SceneCameraRenderer),
而进行了分块之后,更新着色器数据的逻辑就分别放在了场景更新、相机更新、渲染器更新、材质更新里面,复杂度变为 O(Scene+Camera+Renderer),即相应的数据只在相应的钩子里面进行运算;比如着色器中有一个变量,只跟场景相关,那么分块后,只有场景切换的时候,才会更新此数据。
值得一提的是,虽然分块机制肯定能降低 CPU 运算次数,但是数据的存放位置还是很有讲究的,比如开发者将一个可以属于 Scene 级别的着色器变量放在了 Renderer 里面,本来渲染场景的时候运算一次即可,但是现在每个 Renderer 都将重复计算,那么将会浪费 scene * camera * renderer 次运算。
同理的,如果不进行分块,在最后上传 GPU 的时候,一般默认上传所有着色器数据。
受益于分块机制,我们可以根据这四大块内容有没有发生变化,然后再选择是否上传这一块的数据,从而减少 GPU 通信,如:
如上图所示,如果当前渲染管线所属相机没有发生变化,那么属于相机这一整块的着色器数据是不会上传的。当然即使上传了这一块数据,我们也在最底层上传着色器数据的时候进行了判重处理,如果与着色器的缓存值重复,则不上传这一个着色器数据到 GPU:
上面说到,我们可以通过 Uniform 方式上传着色器数据,但是不同的着色器数据类型,需要调用不同的 API:
如果我们在上传着色器数据的时候,再根据着色器数据类型调用相应 API,那么就免不了调用 switch、for 等循环查找的语法,而在频繁调用的接口中,使用这些方法将是非常耗时的。 因此,引擎不仅提供了自动创建 ShaderProgram 上下文的功能,而且在创建的时候记录了一些着色器在运行时必要的条件,后续引擎在更新着色器数据的时候,只需要调用保存的钩子即可,省去了运行时查找的耗时。
着色器数据上传方式有多种,比如着色器中有一个浮点数组变量 uniform float test[4]
, 那用户既可以分 4 次分别上传数组相应元素,即 uniform1f(test[0],v0)
、uniform1f(test[1],v1)
、uniform1f(test[2],v2)
、uniform1f(test[3],v3)
,也可以 1 次就上传完整数组,即 uniform4f(test[0],v0,v1,v2,v3)
或者uniform4fv(test[0],[v0,v1,v2,v3])
。
在上述例子中,虽然有多种上传着色器方式,但是明显 1 次上传性能会更高,因此引擎取消了数组元素独立上传和结构体数组的上传。这意味着,如果着色器中有数组变量,用户只能批量上传整个着色器数组,而不能一个一个地上传;同理,如果使用结构体数组,因为着色器无法批量上传结构体,引擎又不支持独立上传,所以需要用户将结构体数组拆分成多个数组。
对于纹理单元的处理,引擎在预分析着色器数据的时候就已经对着色器里面的所有采样器变量预绑定了纹理单元, 在后续更新着色器纹理时,只需要调用激活纹理单元的接口即可,减少了绑定纹理单元的操作。
在更新着色器数据的时候,引擎肯定需要频繁查询大量着色器相关的数据,比如为了上传着色器的某一个 uniform 变量 ,那我们需要根据这个 uniform 变量的名字在 CPU 中找到这个数据,而这个查询过程中如果用字符串会很慢,我们用了数字索引来提升性能。
如上图所示,如果涉及到数据的频繁查询,建议尽量使用数字索引;经过实践验证,在 JS 对象中查找元素,数字索引会比字符串索引快很多,而且样本量越大,字符串越复杂,速度相差就越明显。如下案例,对比了从 1000 个样本中分别使用数字索引和字符串索引,速度相差 10 倍以上:
第五个阶段是更新渲染状态。
在图形渲染管线中,存在着众多平级的渲染状态,比如深度测试、颜色混合模式、模版测试、 背面剔除。因此引擎设计将众多的渲染状态分为了渲染状态(BlendState)、深度状态(DepthState)、模版状态(StencilState)、光栅化状态(RasterState)。
针对渲染管线的优化手段还有很多,一般情况下,Galacean 引擎的通用渲染管线已经能够满足大部分开发者的需求,如果存在特殊的渲染需求。希望这篇文章能够通过引擎的部分设计思路和优化手段,带给大家一点帮助。