首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >小数时的BigDecimal比较值

小数时的BigDecimal比较值
EN

Stack Overflow用户
提问于 2022-07-22 10:52:14
回答 1查看 84关注 0票数 1

我在postgresql数据库中使用数字类型存储数据

代码语言:javascript
复制
CREATE TABLE public.subscriptions (
    amount numeric(15,2)
)

但是,当我在BigDecimal格式中使用这个值来比较它自己的值时,在浮点格式中,它在某些情况下会失败。除非我乘它来避免小数:

代码语言:javascript
复制
subscription.amount == 521.18 #=> false
subscription.amount * 100 == 52118 #=> true

这里的问题似乎是BigDecimal格式(但我不确定它是否完全相同)

代码语言:javascript
复制
BigDecimal(52118)/100 == 521.18 #=> false
BigDecimal(52117)/100 == 521.17 #=> true

BigDecimal(52118) == 52118 #=> true
BigDecimal(52117) == 52117 #=> true

你知道这是怎么解释的吗?那么,我应该避免将BigDecimal数字与包含小数的浮点数进行比较吗?

非常感谢你的帮助:)

EN

回答 1

Stack Overflow用户

发布于 2022-07-22 15:51:00

正如注释中提到的,这是浮点数的一个问题,而不是十进制:

代码语言:javascript
复制
irb(main):009:0> 100 * 521.18 == 52118
=> false
irb(main):010:0> 100 * 521.18
=> 52117.99999999999

浮子不精确是BigDecimals存在的全部原因。在比较之前转换浮点数也是有效的:

代码语言:javascript
复制
irb(main):014:0> "521.18".to_d == 521.18.to_d
=> true
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/73079159

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档