This discussion has been locked.
You can no longer post new replies to this discussion. If you have a question you can start a new discussion

浮点运算错误

 最近在ARM板子上移植 QtWebEngine-5.9.1 的一个浏览器时遇到了浮点运算的错误的问题。主要就是指数运算和对数运算的结果出错,有时候直接赋值也会出错 assert(0.0625 > 0.f)会得到false。有没有哪位遇到过类似的问题?板子是 ARMv7 Contex-A9 ,配有   NEON和 VFP(with 32 or 64 double-word registers)。编译时配置为  Contex-A9  VFPv3-D16.

Parents
  • 因为浏览器本身比较大,不太好确定是哪儿的问题。如果你怀疑是浮点相关的问题,可以先写一些相关的测试用例去测试浮点相关的计算是否有问题。再进一步分析。

Reply
  • 因为浏览器本身比较大,不太好确定是哪儿的问题。如果你怀疑是浮点相关的问题,可以先写一些相关的测试用例去测试浮点相关的计算是否有问题。再进一步分析。

Children