法线变换需要右乘矩阵，顶点变换需要左乘矩阵

Posted 2022-03-22 勥小透明

最近写shader，需要用到tbn矩阵变换法线，突然注意到一个问题，那就是为啥法线都要左乘矩阵，但是顶点变换都是右乘呢？之前也用，但是没有深入思考一下这个问题，结果就是一通猛查。

这里也不秀自己一瓶子不满，半瓶子晃荡的数学功底了，放上一些大佬们的说明讲解。

模型视图变换时，法线向量要乘模型视图矩阵的逆转置矩阵【转】 - 3D入魔 - 博客园

法线变换矩阵_lawest的博客-CSDN博客_法线矩阵

4.7 法线变换的疑惑 · Issue #17 · candycat1992/Unity_Shaders_Book · GitHub

所以结论就是法线变换是“矩阵在右边，向量在左边”，其他的是“矩阵在左边，向量在右边”，这里反过来乘的原因是要乘以逆矩阵的转置矩阵，_ObjectToWorld 的逆矩阵就是 _WorldToObject，转置矩阵则是用mul反过来乘。

当然，根据上面的结论，如果你说，我非要把法线放在右边乘，倒也不是不行，因为我们可以手动转置嘛，正所谓你开心就好~

这里以用 tbn 矩阵把 法线 从 切向空间 转换为 模型空间 举例：

// 副切线，副法线 - unity的内置写法
float3 binormal = cross( normalize(normal), normalize(tangent.xyz) ) * tangent.w;

// tbn的转置矩阵
float3x3 tbn_matrix_transposed = float3x3(
    tangent.x, binormal.x, normal.x,
    tangent.y, binormal.y, normal.y,
    tangent.z, binormal.z, normal.z);
Out = mul(tbn_matrix_transposed, In);

// tbn矩阵
float3x3 tbn_matrix = float3x3(tangent.xyz, binormal, normal);
Out = mul(In, tbn_matrix);

以上2种变换，是等效的。

顺便一提，mul(tbn_matrix, 向量) 这样反过来乘，就变成把 向量 从 模型空间 变换到 切线空间 了。

再补充一点东西，就是有的时候，副法线可能会写成下面这种形式

fixed3 worldNormal = UnityObjectToWorldNormal(v.normal);
fixed3 worldTangent = UnityObjectToWorldDir(v.tangent.xyz);
fixed3 worldBinormal = cross(worldNormal, worldTangent) * v.tangent.w * unity_WorldTransformParams.w;

可以很容易的发现，多了个 unity_WorldTransformParams.w ，它和模型的 scale 值有关，尤其是当你的 scale 为负时，需要模型发生镜像的时候。

不过它的使用场景一般在我们需要往 世界空间 变换的时候。