float vector 精度问题

[Ice-YcY]

2.3.x版本只支持floatvector
java sdk校验必须是float类型
但是存进vdb后发现是小数点后有19位

实际计算的逻辑是什么？

[xiaofan-luan]

float小数点后不会有19位，一半只有6-7位数字

[Ice-YcY]

我刚贴了图，实际在attu看是19位

[xiaofan-luan]

19 位，是实际的现实，float超过6-7位就丢失精度了。您可以研究一下float的格式就明白了

[Ice-YcY]

[Ice-YcY]

[Ice-YcY]

SDK校验：

[yhmo]

这是因为Attu使用的是node sdk。 javascript里，浮点型的数值是用64位表示的，虽然milvus返回的数据是float32，但attu显示出来就成了64位的显示。实际上小数点6，7位之后的数字你都可以忽略掉。

[Ice-YcY]

你说的32位精度是最新的2.4.0支持的Float16吗？

[Ice-YcY]

还有你说的向量检索不需要这么高的位数，这个不是很理解，
这个不像是头发的比较吧。
更高位的向量不是代表更准确的维度吗？
向量检索的近似性不是两个向量间的比较吗？ 如果可以使用高位向量的话，不是更可以知道是否近似吗？例如高清和马赛克的比较。
还是说向量检索7，8位的位数就是最优的了？ 多了也没有提升？

[xiaofan-luan]

milvus一直支持32 bit精度的float，但是32位精度对应在数据层面，只有6-7位数字。

[xiaofan-luan]

相似度的层面，一般模型层面上，有2-3位小数就比较精确了

[yhmo]

32位指的是float32，精确到小数点后6，7位。简而言之，这个精度对于“相似搜索”已经足够，没必要上float64。上float64意味着双倍的空间成本以及时间成本，没人愿意为了那所谓的一点点精度提高而花这种冤枉钱。