比较两组计算结果大小时有Bug

查看数: 2169 | 评论数: 2 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2021-6-23 13:53

正文摘要:

获取两组曲线长度后比较大小,结果出现红框所示的Bug,一组结果是12.0 而另一组是12 所以结果为False了,求教大神应该怎么解决?

回复

johndok 发表于 2021-6-29 07:31:27
modern 发表于 2021-6-23 18:34
小数只显示6位数,但小数7位数不显示但存在
12.0可能还有小数例如12.0000001建议你先四舍五入,小数2位数 ...

好的,谢谢M大,已经解决了
modern 发表于 2021-6-23 18:34:34
小数只显示6位数,但小数7位数不显示但存在
12.0可能还有小数例如12.0000001建议你先四舍五入,小数2位数再比较

15927211580

周一至周五 9:30-18:00

武汉市武昌区中山路380号201

  • 关注微信公众号

  • 微信咨询客服号

QQ- Archiver- 鄂ICP备12016959号   充值M币 |勋章中心 | ( 鄂ICP备12016959号 )

Powered by Discuz!X3.2© 2001-2013 Comsenz Inc.

金融信息行业协会理事单位 | 信息服务业行业协会会员单位 | 网络信贷服务业企业联盟单位