New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
nn.functional.group_norm 在float16格式下,数据排布为NHWC且输入矩阵rank=3时报错FatalError: Erroneous arithmetic operation
#63560
Comments
问题已经收到,感谢使用Paddle。 |
谢谢回复!非常希望问题得到解决,再次向paddle员工表示感谢! |
还有一个问题,我测试后发现这个api是支持fp32精度下的NHWC格式输入的,只有半精度不支持,可以参考一下这个测试结果 |
你试一下rank为4呢?目前只支持了rank==4的情况。 |
跑的是gpu,确实是有强需求的,模型推理时会用到rank==3的情况 |
@Eddie-Wang1120 请问目前是缺rank=3还是NHWC/NCHW还是float16 |
缺少nn.functional.group_norm 在float16格式下,数据排布为NHWC且输入矩阵rank=3时的支持,当前情况下会报错。 |
需求收到,我们会进行开发。 |
请问目前开发的进度如何? @yuanlehome @zhwesky2010 |
bug描述 Describe the Bug
nn.functional.group_norm 在float16格式下,数据排布为NHWC且输入矩阵rank=3时报错。
在相同的数据格式和矩阵rank场景下,nn.functional.group_norm支持NCHW数据排布。
复现步骤(最小代码集)
报错信息
复现环境
paddlepaddle-gpu develop
最新commit
NVIDIA GeForce RTX 3050 16G
其他补充信息 Additional Supplementary Information
group_norm函数在非常多的模型中都需要用到,出现报错的场景也是模型推理中使用频率非常高的,非常希望该问题能得到重视以及解决!非常感谢!
The text was updated successfully, but these errors were encountered: