AVX2 浮点比较并得到 0.0 或 1.0 而不是全 0 或全 1 位

Posted 2023-02-16

【中文标题】AVX2 浮点比较并得到 0.0 或 1.0 而不是全 0 或全 1 位

【英文标题】：AVX2 float compare and get 0.0 or 1.0 instead of all-0 or all-one bits

【发布时间】：2017-04-29 19:05:36

【问题描述】：

基本上，在结果向量中，我想为所有输入浮点值 > 1 保存 1.0，而为所有输入浮点值

float f[8] = 1.2, 0.5, 1.7, 1.9, 0.34, 22.9, 18.6, 0.7;
float r[8]; // Must be 1, 0, 1, 1, 0, 1, 1, 0

__m256i tmp1 = _mm256_cvttps_epi32(_mm256_loadu_ps(f));
__m256i tmp2 = _mm256_cmpgt_epi32(tmp1, _mm256_set1_epi32(1));
_mm256_store_ps(r, _mm256_cvtepi32_ps(tmp2));

for(int i = 0; i < 8; i++)
    std::cout << f[i] << " : " << r[i] << std::endl;

但我没有得到正确的结果。这就是我得到的。为什么我的 AVX2 关系操作不能正常工作？

1.2 : 0
0.5 : 0
1.7 : 0
1.9 : 0
0.34 : 0
22.9 : -1
18.6 : -1
0.7 : 0

【问题讨论】：

从评论看来，您似乎只想比较浮点数并获得 1.0（如果为真），这只是 _mm256_cmp_ps 和 _mm256_and_ps，转换为整数会更改值，因此您会得到完全不同的结果。例如(int)1.2 = 1，因此不大于 1

我确定我上周才看到这个问题，但我找不到。

【参考方案1】：

我认为您的问题最好使用_mm256_cmp_ps。为此，我实施了以下程序。这比你想要的要多。如果你想保存那些你应该将所有mask元素设置为1，但是如果你想保存另一个数字，你可以将掩码值更改为你想要的任何值。

//gcc 6.2, Linux-mint, Skylake 
#include <stdio.h>
#include <x86intrin.h>

float __attribute__(( aligned(32))) f[8] = 1.2, 0.5, 1.7, 1.9, 0.34, 22.9, 18.6, 1.0;
// float __attribute__(( aligned(32))) r[8]; // Must be 1, 0, 1, 1, 0, 1, 1, 0
// in C++11, use alignas(32).  Or C11 _Alignas(32), instead of GNU C __attribute__.

void printVecps(__m256 vec)

    float tempps[8];
    _mm256_store_ps(&tempps[0], vec);
    printf(" [0]=%3.2f, [1]=%3.2f, [2]=%3.2f, [3]=%3.2f, [4]=%3.2f, [5]=%3.2f, [6]=%3.2f, [7]=%3.2f \n",
    tempps[0],tempps[1],tempps[2],tempps[3],tempps[4],tempps[5],tempps[6],tempps[7]) ;



int main()


    __m256 mask = _mm256_set1_ps(1.0), vec1, vec2, vec3;

    vec1 = _mm256_load_ps(&f[0]);                   printf("vec1 : ");printVecps(vec1); // load vector values from f[0]-f[7]
    vec2 = _mm256_cmp_ps ( mask, vec1, _CMP_LT_OS /*0x1*/);
                                                    printf("vec2 : ");printVecps(vec2); // compare them to mask (less)
    vec3 = _mm256_min_ps (vec2 , mask);             printf("vec3 : ");printVecps(vec3); // select minimum from mask and compared results

    return 0;

mask = 1,1,1,1,1,1,1,1 的输出是：

vec1 :  [0]=1.20, [1]=0.50, [2]=1.70, [3]=1.90, [4]=0.34, [5]=22.90, [6]=18.60, [7]=1.00 
vec2 :  [0]=-nan, [1]=0.00, [2]=-nan, [3]=-nan, [4]=0.00, [5]=-nan, [6]=-nan, [7]=0.00 
vec3 :  [0]=1.00, [1]=0.00, [2]=1.00, [3]=1.00, [4]=0.00, [5]=1.00, [6]=1.00, [7]=0.00 

对于mask = 2,2,2,2,2,2,2,2 是：

vec1 :  [0]=1.20, [1]=0.50, [2]=1.70, [3]=1.90, [4]=0.34, [5]=22.90, [6]=18.60, [7]=1.00 
vec2 :  [0]=0.00, [1]=0.00, [2]=0.00, [3]=0.00, [4]=0.00, [5]=-nan, [6]=-nan, [7]=0.00 
vec3 :  [0]=0.00, [1]=0.00, [2]=0.00, [3]=0.00, [4]=0.00, [5]=2.00, [6]=2.00, [7]=0.00 

这取决于 _mm256_min_ps 与 NaN 的非交换行为，以将 NaN 元素替换为 1.0。 NaN > 1.0 : NaN : 1.0 = 1.0，因为NaN > anything 总是假的。

注意gcc before 7.0 treats the 128b _mm_min_ps intrinsic as commutative even without -ffast-math（即使它知道minps 指令不是）。使用最新的 gcc，或确保 gcc 选择按照该算法所需的顺序使用操作数编译您的代码。 （或使用铿锵声）。 gcc 可能永远不会与 AVX 交换操作数，仅与 SSE 交换操作数（以避免额外的movapd 指令），但最安全的是使用 gcc7 或更高版本。

【讨论】：

AVX cmp_ps predicates有符号名：1 is_CMP_LT_OS

__attribute__(( aligned(32))) 可以用alignas(32) 在可移植的 C++11 中完成。或者在便携式 C11 中使用_Alignas(32)。另外，我建议使用 __m256 mask = _mm256_set1_ps(1.0f) 而不是大括号初始化器。

【参考方案2】：

当使用浮点数转换为整数时 _mm256_cvttps_epi32 然后返回的整数是截断的（向零舍入）值。即 1.2、1.7 和 1.9 的值被转换为 1，因此它们不大于 1。

_mm256_cmpgt_epi32 的输出不是 1 而是“全1”，来自docs：

...如果 s1 数据元素大于 s2 中的对应元素，则将目标向量中的对应元素设置为全 1。

“全1”是使用二进制补码整数时，如您的结果所示，减一。

题外话：

为什么要使用未对齐的加载和对齐的存储？ 你应该看看_mm256_cmp_ps