关于数据精度的问题



  • 0_1560088921336_difference.png

    上面的图片是一段数据对比,我在程序中需要将一段数据拷贝到另一个数组中。上面是利用从核来拷贝,
    就是将数据进行分段从核读然后再拷进去,下面的是在主核中使用for循环来直接给新的数组赋值。将新
    的数组值输出到文件中就出现了上面的差异,可以看到有些值在最后1位出现了差异。
    使用这两种数据的拷贝方法最终计算出的结果也出现了差异,就是说将程序从核化了之后无法保证计算结果的精度,我想问一下各位老师,这可能是什么原因,有没有办法能解决这种问题,谢谢



  • 主存核在数据拷贝上不存在精度问题,建议你自己多检查程序


Log in to reply