- 综合排序
- 最热优先
- 最新优先
- 来自专栏大前端
Kotlin BigDecimal 精确计算
完整工具类 /** * 加、减、乘、除 高精度计算工具类 * @author lyl 20190191 * */ object UtilsBigDecimal { // 需要精确至小数点后几位 如果 BigDecimal 为正，则舍入行为与 ROUND_UP 相同; 如果为负，则舍入行为与 ROUND_DOWN 相同。 注意，此舍入模式始终不会减少计算值。 如果 BigDecimal 为正，则舍入行为与 ROUND_DOWN 相同; 如果为负，则舍入行为与 ROUND_UP 相同。 注意，此舍入模式始终不会增加计算值。 1.15>1.2 1.25>1.2 ROUND_UNNECESSARY 断言请求的操作具有精确的结果，因此不需要舍入。 如果对获得精确结果的操作指定此舍入模式，则抛出ArithmeticException。 完毕。
5.1K20发布于 2019-04-11 - 来自专栏Spring相关
使用BigDecimal 进行浮点值的精确计算
import java.math.BigDecimal; public class DecimalTest { public static void main(String[] args) subtractTest(7.2882,7.10)); } private static double subtractTest(double v, double v1) { BigDecimal b1 = new BigDecimal(Double.toString(v)); BigDecimal b2 = new BigDecimal(Double.toString(v1))
2.2K30发布于 2019-01-28 - 来自专栏程序员小跃
你以为用了BigDecimal后，计算结果就一定精确了？
首先问大家一个问题，平时加减乘除用的大部分是不是int类型，如果遇到金额计算，你们用什么呢？想必做过电商的小伙伴们能马上回答，说用BigDecimal，那么，你用了这个就一定精确了吗？ double为什么不精确 首先，计算机是只认识二进制的，即0和1，这个大家一定都知道。 那么，所有数字，包括整数和小数，想要在计算机中存储和展示，都需要转成二进制。 所以，计算机是没办法用二进制精确的表示0.1的。也就是说，在计算机中，很多小数没办法精确的使用二进制表示出来。 那么，这个问题总要解决吧。 总结 因为计算机采用二进制处理数据，但是很多小数，如0.1的二进制是一个无线循环小数，而这种数字在计算机中是无法精确表示的。 所以，当使用BigDecimal(Double)创建一个的时候，得到的BigDecimal是损失了精度的。 而使用一个损失了精度的数字进行计算，得到的结果也是不精确的。
1.1K20发布于 2021-02-25 - 来自专栏小明说Java
Java中使用BigDecimal处理金额计算：精确性、安全性与最佳实践
前言在电商系统中，金额计算的精确性和安全性具有举足轻重的地位。 为什么选择BigDecimal？BigDecimal类提供了任意精度的带符号十进制数，非常适合需要精确小数点运算的场景。 因此，推荐使用String类型的参数来创建BigDecimal实例，以确保数值的精确表示。 BigDecimal提供了8种RoundingMode（舍入模式），其中两种为常见模式：ROUND_HALF_UP：向“最接近”的数字舍入，如果与两个相邻数字的距离相等，则为向上舍入的舍入模式。 结论在处理金额计算时，BigDecimal类提供了必要的精确性和安全性。通过合理使用BigDecimal，可以避免由于浮点数精度问题导致的计算错误，确保金融系统的可靠性和稳定性。
1.7K10编辑于 2024-12-23 - 来自专栏杨龙飞前端
js精确计算
官方文档：http://mikemcl.github.io/big.js/ 使用方法： x = new Big(0.1); y = x.plus(0.2); // '0.3' var a=Big(0.7).plus(x).plus(y); console.log(a.toString()); //a 是一个big对象，通过toString()方法转化成字符串 结果是1.1 博客地址：http://www.cnblogs.com/windseek/
4.4K60发布于 2018-05-15 - 来自专栏程序小小事
Java BigDecimal详解：小数精确计算、使用方法与常见问题解决方案
通过实际代码示例演示如何避免浮点数精度问题，并提供完整的工具类实现，帮助开发者掌握高精度数值计算的正确方式。 与double和float类型不同，BigDecimal能够提供完全精确的计算结果，特别适用于金融、财务等对精度要求严格的领域。 四种常用构造函数对比构造函数参数类型精度表现推荐指数BigDecimal(int)int精确★★★★☆BigDecimal(double)double可能不精确★★☆☆☆BigDecimal(long) 性能优化建议仅在需要精确计算的场景使用BigDecimal避免在循环中频繁创建BigDecimal对象对于固定值，考虑使用静态常量（如BigDecimal.ZERO）六、完整工具类实现public class }}七、最佳实践总结构造函数选择：优先使用String参数的构造函数不可变性：BigDecimal是不可变对象，每次运算都会生成新对象除法运算：必须指定精度和舍入模式性能考虑：在不需要精确计算的场景使用基本类型比较操作
1.1K00编辑于 2025-07-28 - 来自专栏全栈程序员必看
BigDecimal加减乘除计算
前阵子做题遇到了大数的精确计算，再次认识了bigdecimal 关于Bigdecimal意外的有许多小知识点和坑，这里特此整理一下为方便以后学习，希望能帮助到其他的萌新 ---- BigDecimal 2）使用BigDecimal类构造方法传入double类型时，计算的结果也是不精确的！ 因为不是所有的浮点数都能够被精确的表示成一个double 类型值，有些浮点数值不能够被精确的表示成 double 类型值，因此它会被表示成与它最接近的 double 类型的值。 如果 BigDecimal 为正，则舍入行为与 ROUND_UP 相同; 如果为负，则舍入行为与 ROUND_DOWN 相同。 注意，此舍入模式始终不会减少计算值。 1.15>1.2 1.25>1.2 8、ROUND_UNNECESSARY 断言请求的操作具有精确的结果，因此不需要舍入。
4.4K20编辑于 2022-07-23 - 来自专栏苏三说技术
金额计算字段类型用Long，还是BigDecimal ？
这就好比用1/3 ≈ 0.333333来表示三分之一，永远无法精确。 计算机的二进制系统也无法精确表示某些十进制小数。 MoneyWithLong discounted = total.multiply(0.8); // 8折 System.out.println("8折后: " + discounted.display()); // 39.98元 } } 3.2 方案二：BigDecimal精确计算 BigDecimal是Java提供的专门用于精确计算的类。 (20, 2) NOTNULL, -- 总共20位，2位小数 INDEX idx_amount (amount) -- 索引相对较大 ); 数据库层面的差异： 存储空间：BIGINT固定8字节 、价格引擎、促销活动 理由：灵活性、计算精度、业务变化快 混合型系统：采用分层架构 核心层用Long保证性能 计算层用BigDecimal保证精度 表现层做好格式化显示 7.3 最后的建议 记住这三条铁律
18110编辑于 2026-01-12 - 来自专栏站长的编程笔记
PHP 精度计算问题（精确算法）
PHP 中的精度计算问题 ---- 当使用 php 中的 +-*/ 计算浮点数时, 可能会遇到一些计算结果错误的问题 这个其实是计算机底层二进制无法精确表示浮点数的一个 bug, 是跨域语言的, 比如 js 中的 舍入误差 所以大部分语言都提供了用于精准计算的类库或函数库, 比如 php 中的 bc 高精确度函数库, js 中的 toFixed() 如下所示: 将计算结果浮点数 58 转为整数后结果是 57, 而不是 58 $result = 0.58 * 100; var_dump(intval($result)); // 57 js 中的舍入误差: 0.1 + 0.2 的计算结果为 0.30000000000000004 PHP 中的 bc 高精确度函数库 ---- 常用的高精度函数 // 高精度加法 bcadd(string $num1, string $num2, int $scale = 0); // 高精度减法 推荐文章 ---- PHP 精度计算问题: https://www.cnblogs.com/xiezhi/p/5688029.html
2.9K20编辑于 2022-12-28 - 来自专栏闻道于事
Java工具类之浮点精确计算
private static final int DEF_DIV_SCALE = 10; // 构造器私有，让这个类不能实例化 private Arith() {} // 提供精确的加法运算 public static double add(double v1,double v2) { BigDecimal b1 = BigDecimal.valueOf(v1); BigDecimal b2 = BigDecimal.valueOf(v2); return b1.add(b2).doubleValue(); } // 提供精确的减法运算 BigDecimal b2 = BigDecimal.valueOf(v2); return b1.subtract(b2).doubleValue(); } // 提供精确的乘法运算 （相对）精确的除法运算，当发生除不尽的情况时. // 精确到小数点以后10位的数字四舍五入。
1.1K20发布于 2018-07-03 - 来自专栏python3
python计算时间间隔（精确到微妙）
使用python中的datetime import datetime oldtime=datetime.datetime.now() print oldtime; x=1 while x<10000000: x=x+1 newtime=datetime.datetime.now() print newtime; print u'相差：%s'%(newtime-oldtime) print u'相差：%s微秒'%(newtime-oldtime).microseconds print u'相差：%s秒
3.6K10发布于 2020-01-07 - 来自专栏码农小胖哥的码农生涯
Java开发中商业计算请务必使用BigDecimal来进行计算！
前言 今天群里一个初级开发者问为什么测试人员测出来他写的价格计算模块有计算偏差的问题，他检查了半天也没找出问题。 这里小胖哥要提醒你，商业计算请务必使用`BigDecimal`,浮点做商业运算是不精确的。因为计算机无法使用二进制小数来精确描述我们程序中的十进制小数。 《Effective Java》在第48条也推荐“使用BigDecimal来做精确运算”。今天我们就来总结归纳其相关的知识点。 2. 我们使用BigDecimal进行高精度算术运算。我们还将它用于需要控制比例和舍入行为的计算。如果你的计算是商业计算请务必使用计算精确的`BigDecimal` 。 3. 这是因为：这个转换结果是`double`的二进制浮点值的精确十进制表示，其值得结果不是我们可以预测的.我们应该使用`String`构造函数而不是`double`构造函数。
2K20发布于 2019-12-10 - 来自专栏全栈程序员必看
使用BigDecimal进行科学计算表示方式的转换
1.实战： import java.math.BigDecimal; /** * Created by zhangzh on 2017/6/9. */ public class BigDecimalTest public static void main(String[] args) { String number = "1.49688845586E+12"; BigDecimal bigDecimal = new BigDecimal(number); // 转String System.out.println("string number:" + bigDecimal.toPlainString()); // 转long System.out.println("long number:" + bigDecimal.longValue
1K10编辑于 2022-07-05 - 来自专栏编程我也会
计算机居然不能精确计算0.1+0.2？
小云不服道：这不能怪我，谁知道计算机那么傻，居然不能精确计算0.1+0.2，不信你看，结果居然是0.30000000000000004，0.3后面还有一长串00000。 0.01 0.25太小了 那我们多加一位二进制数试试， 0.375太大了 这次缩小点试试 image.png 0.3125还是太大 我去，我继续试试试 image.png 事实证明，二进制数无法精确表示 0.3，就像十进制无法精确表示1/3一样： 所以二进制表示0.3只能用近似值，再转换成十进制就表示成 0.30000000000000004 了 小云豁然开朗：那计算机里小数点的浮点计算怎么处理呢？ 小帅在电脑前面啪啪啪的敲了一会代码，显示出了程序员应有的成熟与稳重，指着屏幕说： java可以用 BigDecimal 类来进行浮点数计算 （BigDecimal没有减法运算方法，减法就是加上一个负数 ，然后在计算，最后转换回小数 最后，涉及到浮点数计算，要特别小心，如果是不需要很精确的计算直接运算就行，如果系统涉及到金额计算，一定要用Decimal类或者放大成整数后计算，还有比较常见的一种做法是，
72810编辑于 2022-05-16 如何精确计算CDN的并发流量?
精确计算CDN的并发流量需要考虑多个因素，包括用户的访问模式、内容类型、网络带宽和CDN配置等。以下是一些关键步骤和方法：1. 理解并发流量并发流量是指在同一时刻通过CDN传输的请求数或数据量。 计算公式可以使用以下公式进行基本的并发流量计算：1. 带宽计算假设你知道每个请求的平均内容大小，可以计算出所需带宽：4. 实时监控为了获得更精确的并发流量数据，可以使用CDN提供的监控工具，实时跟踪以下指标：实时流量监控：监控每个节点的流量情况，识别高峰时段。请求数：跟踪每秒的请求数变化，帮助识别流量模式。 计算实例假设你有以下数据：活跃用户数：1000每个用户平均请求数：5平均内容大小：2 MB测试时间：60秒7. 结论精确计算CDN的并发流量需要结合用户行为分析、内容特性和实时监控工具。
75110编辑于 2024-10-20- 来自专栏Java极客技术
手把手教你进行 Java 的精确计算
作为 Java 程序员在日常的工作中，很多时候我们都会遇到一些需要进行数据计算的场景，通常对于不需要计算精度的场景我们都可以使用 Integer，Float 或者 Double 来进行计算，虽然会丢失精度但是偶尔也可以用 ，如果我们需要精确计算结果的时候，就会用到 java.math 包中提供的 BigDecimal 类来实现对应的功能了。 BigDecimal 作为精确数据计算的工具，既然是数据计算，那肯定会提供相应的加减乘除的方法来让我们使用，如下： add(BigDecimal)：BigDecimal 对象中的值相加，返回 BigDecimal 不过在进行除法运算的时候我们可以看到，divide 方法还提供了设置精确位数的参数，并且还可以设置具体的取整方式。 ); double v1 = num1.doubleValue(); short i2 = num1.shortValue(); byte b = num1.byteValue(); 在日常工作中需要精确的小数计算时使用
84010编辑于 2022-12-02 - 来自专栏python-爬虫
爬虫滑块计算图片之间的距离更加精确
1.思路 原先图片匹配一般都是缺口匹配全图 优化点: 1.缺口图片匹配缺口所在图片那一行图片可以提高他识别率 2.移动后再进行2次匹配计算距离 2.代码 #.缺口图片匹配缺口所在图片那一行图片可以提高他识别率 blockBox.shape[0] print(blockBox_width) blockMask = np.zeros([blockBox_height, blockBox_width], np.uint8) blockBox, cv.COLOR_RGBA2GRAY) ##由于边界点存在光照影响，为了避免边界点对匹配的影响，进行腐蚀操作 kernel = np.ones((3, 3), np.uint8)
1.9K20发布于 2020-06-19 - 来自专栏全栈开发那些事
java中BigDecimal类型比较大小和绝对值计算
关键方法: 修饰符 方法 描述 BigDecimal compareTo(BigDecimal val) 将此 BigDecimal与指定的BigDecimal进行 比较，小于返回-1，等于返回0，大于返回 1 代码测试: import java.math.BigDecimal; //临时测试类 public class CalculateTest { private static BigDecimal X=new BigDecimal("0.4"); private static BigDecimal Y=new BigDecimal("0.5"); private static BigDecimal Z=new BigDecimal("0.6"); private static BigDecimal T=new BigDecimal("0.4"); public static 绝对值计算 System.out.println(X.subtract(Y).abs()); } } 运行结果: -1 1 0 0.4小于0.5 0.5大于0.4 0.4
3K30编辑于 2023-02-25 - 来自专栏Java日常
Java工具类之——BigDecimal运算封装（包含金额的计算方式）
日常对于金额计算，应该都是用的BigDecimal， 可是苦于没有好的工具类方法，现在贡献一个我正在用的对于数字计算的工具类，项目中就是用的这个，简单粗暴好用，话不多说，代码奉上（该工具类需要引入google r : 0; } /** * 计算金额方法 * @author : shijing * 2017年3月23日下午4:53:00 * @param b1 : shijing * 2017年3月23日下午4:50:45 * @param isZero 减法结果为负数时是否返回0，true是返回0（金额计算时使用），false是返回负数结果 r : 0; } /** * 金额除法计算，返回2位小数（具体的返回多少位大家自己看着改吧） * @author : shijing * 2017年3月23日下午5 的除法运算封装，如果除数或者被除数为0，返回默认值 * 默认返回小数位后2位，用于金额计算 * @author : shijing * 2017年3月23日下午4:59:29
2.2K30发布于 2020-12-25 - 来自专栏大前端客栈
精确计算微信小程序scrollview高度，全机型适配
二、计算变量的高度 2.1 计算单个节点高度 上面的公式中的变量有：页面可用高度, title 的高度，tab 的高度。 这里需要计算的就是 页面可用高度 和 title 的高度，因为为了简单 tab 的高度是写死的 50px, 当然不写死也没关系，在父组件中计算 tab 的高度传给子组件就好。 2.2 计算多个节点高度 能计算单个当然也能同时计算多个。 参见 Component构造器 三、在 wxml 使用计算的结果 计算完成后如何使用呢？ 以上就是精确计算微信小程序scrollview高度的方法，从此再也不担心 scroll-view 高度错乱了！
4.5K20编辑于 2022-04-06
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号