- 综合排序
- 最热优先
- 最新优先
- 来自专栏大前端
Kotlin BigDecimal 精确计算
完整工具类 /** * 加、减、乘、除 高精度计算工具类 * @author lyl 20190191 * */ object UtilsBigDecimal { // 需要精确至小数点后几位 fun mul(d1:Double,d2: Double,decimalPoint:Int):Double = BigDecimal(d1).multiply(BigDecimal(d2)).setScale BigDecimal.ROUND_HALF_UP) //四舍五入，例如：2.125 → 2.13 其它计算方式说明 ROUND_UP 舍入远离零的舍入模式。 如果 BigDecimal 为正，则舍入行为与 ROUND_UP 相同; 如果为负，则舍入行为与 ROUND_DOWN 相同。 注意，此舍入模式始终不会减少计算值。 如果对获得精确结果的操作指定此舍入模式，则抛出ArithmeticException。 完毕。
5.1K20发布于 2019-04-11 - 来自专栏Spring相关
使用BigDecimal 进行浮点值的精确计算
import java.math.BigDecimal; public class DecimalTest { public static void main(String[] args) subtractTest(7.2882,7.10)); } private static double subtractTest(double v, double v1) { BigDecimal b1 = new BigDecimal(Double.toString(v)); BigDecimal b2 = new BigDecimal(Double.toString(v1)) ; System.out.println("b1=>"+b1+" b2=>"+b2); return b1.subtract(b2).doubleValue(); } } 输出打印为: b1=>7.2882 b2=>7.1 7.22-7.0=0.1882
2.2K30发布于 2019-01-28 - 来自专栏程序员小跃
你以为用了BigDecimal后，计算结果就一定精确了？
首先问大家一个问题，平时加减乘除用的大部分是不是int类型，如果遇到金额计算，你们用什么呢？想必做过电商的小伙伴们能马上回答，说用BigDecimal，那么，你用了这个就一定精确了吗？ 想要搞清楚这个问题，主要需要弄清楚以下几个问题： 1、为什么说double不精确？ 2、BigDecimal是如何保证精确的？ 所以，计算机是没办法用二进制精确的表示0.1的。也就是说，在计算机中，很多小数没办法精确的使用二进制表示出来。 那么，这个问题总要解决吧。 总结 因为计算机采用二进制处理数据，但是很多小数，如0.1的二进制是一个无线循环小数，而这种数字在计算机中是无法精确表示的。 所以，当使用BigDecimal(Double)创建一个的时候，得到的BigDecimal是损失了精度的。 而使用一个损失了精度的数字进行计算，得到的结果也是不精确的。
1.1K20发布于 2021-02-25 - 来自专栏小明说Java
Java中使用BigDecimal处理金额计算：精确性、安全性与最佳实践
前言在电商系统中，金额计算的精确性和安全性具有举足轻重的地位。 为什么选择BigDecimal？BigDecimal类提供了任意精度的带符号十进制数，非常适合需要精确小数点运算的场景。 因此，推荐使用String类型的参数来创建BigDecimal实例，以确保数值的精确表示。 DECIMAL类型可以指定小数点后的位数，确保数值的精确存储。例如，DECIMAL(10, 2)可以存储最多两位小数的数值，总长度为10位。 结论在处理金额计算时，BigDecimal类提供了必要的精确性和安全性。通过合理使用BigDecimal，可以避免由于浮点数精度问题导致的计算错误，确保金融系统的可靠性和稳定性。
1.7K10编辑于 2024-12-23 - 来自专栏杨龙飞前端
js精确计算
官方文档：http://mikemcl.github.io/big.js/ 使用方法： x = new Big(0.1); y = x.plus(0.2); // '0.3' var a=Big(0.7).plus(x).plus(y); console.log(a.toString()); //a 是一个big对象，通过toString()方法转化成字符串 结果是1.1 博客地址：http://www.cnblogs.com/windseek/
4.4K60发布于 2018-05-15 - 来自专栏程序小小事
Java BigDecimal详解：小数精确计算、使用方法与常见问题解决方案
通过实际代码示例演示如何避免浮点数精度问题，并提供完整的工具类实现，帮助开发者掌握高精度数值计算的正确方式。 与double和float类型不同，BigDecimal能够提供完全精确的计算结果，特别适用于金融、财务等对精度要求严格的领域。 .multiply(num2);// 除法（需要指定精度）BigDecimal quotient = num1.divide(num2, 2, RoundingMode.HALF_UP);2. 性能优化建议仅在需要精确计算的场景使用BigDecimal避免在循环中频繁创建BigDecimal对象对于固定值，考虑使用静态常量（如BigDecimal.ZERO）六、完整工具类实现public class 是不可变对象，每次运算都会生成新对象除法运算：必须指定精度和舍入模式性能考虑：在不需要精确计算的场景使用基本类型比较操作：使用compareTo而非equals进行数值比较最后【程序视点】助力打工人减负
1.1K00编辑于 2025-07-28 - 来自专栏全栈程序员必看
BigDecimal加减乘除计算
前阵子做题遇到了大数的精确计算，再次认识了bigdecimal 关于Bigdecimal意外的有许多小知识点和坑，这里特此整理一下为方便以后学习，希望能帮助到其他的萌新 ---- BigDecimal 2）使用BigDecimal类构造方法传入double类型时，计算的结果也是不精确的！ 因为不是所有的浮点数都能够被精确的表示成一个double 类型值，有些浮点数值不能够被精确的表示成 double 类型值，因此它会被表示成与它最接近的 double 类型的值。 num1.add(num2); BigDecimal result12 = num12.add(num22); //减法 BigDecimal result2 注意，此舍入模式始终不会减少计算值的大小。 2、ROUND_DOWN 接近零的舍入模式。 在丢弃某部分之前始终不增加数字(从不对舍弃部分前面的数字加1，即截短)。
4.4K20编辑于 2022-07-23 - 来自专栏嵌入式Linux系统开发
教你精确计算 I2C 上拉电阻阻值
I2C 总线能挂多少设备？ 理论上： 7-bit address ：2 的 7 次方，能挂 128 个设备。 10-bit address ：2 的 10 次方，能挂 1024 个设备。 上拉电阻计算 1、上拉电阻过小，总线上电流增大，端口输出低电平增大。 2、上拉电阻过大，上升沿时间增大，方波可能会变成三角波。 因此计算出一个精确的上拉电阻阻值是非常重要的。 计算上拉电阻的阻值，是有明确计算公式的： 最大电阻和上升沿时间 tr 、总线电容 Cb 、标准上升沿时间 0.8473 有关。 结论：I2C 上拉电阻阻值和电源电压、传输速度、总线电容（负载因素）都有关系，大家根据自己的板子计算一下即可，选取最优电阻阻值，从而获得最优传输波形。 关于 I2C 的方方面面，我写在了我的博客上，有 10 篇，包括 I2C 的传输协议和Linux 下 I2C 的软件驱动框架，大家可以去查看，网址如下： http://www.linuxer.vip/i2c-bus-spec
12.8K21编辑于 2021-12-09 - 来自专栏全栈程序员必看
bigdecimal截取2位小数_bigdecimal保留整数两位
.format(999999999));//999,999,999.00 System.out.println(df1.format(0));//0.00 b=new BigDecimal ("9999999999");//10位 十亿 System.out.println(df1.format(b));//9,999,999,999.00 b=new BigDecimal
1.4K20编辑于 2022-09-29 - 来自专栏编程语言的世界
bigdecimal保留2位小数
在Java中，可以使用BigDecimal类的setScale方法来保留小数位数。 以下是一个简单的示例，展示如何使用setScale方法将BigDecimal对象保留两位小数：import java.math.BigDecimal；import java.math.RoundingMode ；public class Main { public static void main(String[] args) { // 创建一个BigDecimal对象，传入需要保留两位小数的数值 BigDecimal number = new BigDecimal("3.1415926")； // 使用setScale方法设置保留小数的位数，第一个参数为保留的小数位数 ，第二个参数为舍入模式 // RoundingMode.HALF_UP表示四舍五入 BigDecimal result = number.setScale(2, RoundingMode.HALF_UP
68700编辑于 2024-12-24 - 来自专栏苏三说技术
金额计算字段类型用Long，还是BigDecimal ？
这就好比用1/3 ≈ 0.333333来表示三分之一，永远无法精确。 计算机的二进制系统也无法精确表示某些十进制小数。 精确计算 BigDecimal是Java提供的专门用于精确计算的类。 ("String构造: " + good1); // 输出：0.1 //正确用法2：使用valueOf方法 BigDecimal good2 .setScale(2, RoundingMode.HALF_UP); } return result; } // 分摊计算（ ("BigDecimal MAX * 2: " + huge.multiply(new BigDecimal("2"))); // 正确计算 } } 6.2 代码规范建议
18110编辑于 2026-01-12 - 来自专栏站长的编程笔记
PHP 精度计算问题（精确算法）
PHP 中的精度计算问题 ---- 当使用 php 中的 +-*/ 计算浮点数时, 可能会遇到一些计算结果错误的问题 这个其实是计算机底层二进制无法精确表示浮点数的一个 bug, 是跨域语言的, 比如 js 中的 舍入误差 所以大部分语言都提供了用于精准计算的类库或函数库, 比如 php 中的 bc 高精确度函数库, js 中的 toFixed() 如下所示: 将计算结果浮点数 58 转为整数后结果是 , 此时可以使用 toFixed() 函数处理, 使其返回正确的结果 2. PHP 中的 bc 高精确度函数库 ---- 常用的高精度函数 // 高精度加法 bcadd(string $num1, string $num2, int $scale = 0); // 高精度减法 bcsub(string $num1, string $num2, int $scale = 0); // 高精度乘法 bcmul(string $num1, string $num2, int $scale
2.9K20编辑于 2022-12-28 - 来自专栏全栈程序员必看
bigdecimal保留2位小数_bigdecimal保留两位小数显示00
.##");System.out.println(df.format(d)); 输出结果为： 41.12 若double d=2.00，输出结果为2； 若double d=41.001，输出结果为41 =0.200，输出结果为0.2； 总结：若是这种写法DecimalFormat df = new DecimalFormat(“#.##”)，则保留小数点后面不为0的两位小数，这种写法不能保证保留2为小数 ，但能保证最后一位数不为0； 第二种方法 测试： double d = 0.6544;String s=String.format("%.2f",d);System.out.println(s); 输出结果为 ，其中2为表示两位小数，若需要三位小数，把2改为3即可，其他同理。 第三种方法： 使用BigDecimal类 测试： 输入结果:1.0 若double d=0，输出结果为0.0； 若double d=1.999，输出结果为2.0； 若double d=1.89，输出结果为
4.7K10编辑于 2022-11-09 - 来自专栏闻道于事
Java工具类之浮点精确计算
BigDecimal b2 = BigDecimal.valueOf(v2); return b1.add(b2).doubleValue(); } // 提供精确的减法运算 BigDecimal b2 = BigDecimal.valueOf(v2); return b1.subtract(b2).doubleValue(); } // 提供精确的乘法运算 BigDecimal b2 = BigDecimal.valueOf(v2); return b1.multiply(b2).doubleValue(); } // 提供 （相对）精确的除法运算，当发生除不尽的情况时. // 精确到小数点以后10位的数字四舍五入。 BigDecimal b2 = BigDecimal.valueOf(v2); return b1.divide(b2 , DEF_DIV_SCALE , RoundingMode.HALF_UP
1.1K20发布于 2018-07-03 - 来自专栏python3
python计算时间间隔（精确到微妙）
使用python中的datetime import datetime oldtime=datetime.datetime.now() print oldtime; x=1 while x<10000000: x=x+1 newtime=datetime.datetime.now() print newtime; print u'相差：%s'%(newtime-oldtime) print u'相差：%s微秒'%(newtime-oldtime).microseconds print u'相差：%s秒
3.6K10发布于 2020-01-07 - 来自专栏码农小胖哥的码农生涯
Java开发中商业计算请务必使用BigDecimal来进行计算！
前言 今天群里一个初级开发者问为什么测试人员测出来他写的价格计算模块有计算偏差的问题，他检查了半天也没找出问题。 这里小胖哥要提醒你，商业计算请务必使用`BigDecimal`,浮点做商业运算是不精确的。因为计算机无法使用二进制小数来精确描述我们程序中的十进制小数。 《Effective Java》在第48条也推荐“使用BigDecimal来做精确运算”。今天我们就来总结归纳其相关的知识点。 2. 我们使用BigDecimal进行高精度算术运算。我们还将它用于需要控制比例和舍入行为的计算。如果你的计算是商业计算请务必使用计算精确的`BigDecimal` 。 3. add(bd2); BigDecimal difference = bd1.subtract(bd2); BigDecimal quotient = bd1.divide(bd2);
2K20发布于 2019-12-10 - 来自专栏全栈程序员必看
使用BigDecimal进行科学计算表示方式的转换
1.实战： import java.math.BigDecimal; /** * Created by zhangzh on 2017/6/9. */ public class BigDecimalTest public static void main(String[] args) { String number = "1.49688845586E+12"; BigDecimal bigDecimal = new BigDecimal(number); // 转String System.out.println("string number:" + bigDecimal.toPlainString()); // 转long System.out.println("long number:" + bigDecimal.longValue ()); } } 2.输出结果: string number:1496888455860 long number:1496888455860 发布者：全栈程序员栈长，转载请注明出处：https
1K10编辑于 2022-07-05 - 来自专栏编程我也会
计算机居然不能精确计算0.1+0.2？
小云不服道：这不能怪我，谁知道计算机那么傻，居然不能精确计算0.1+0.2，不信你看，结果居然是0.30000000000000004，0.3后面还有一长串00000。 0.01 0.25太小了 那我们多加一位二进制数试试， 0.375太大了 这次缩小点试试 image.png 0.3125还是太大 我去，我继续试试试 image.png 事实证明，二进制数无法精确表示 0.3，就像十进制无法精确表示1/3一样： 所以二进制表示0.3只能用近似值，再转换成十进制就表示成 0.30000000000000004 了 小云豁然开朗：那计算机里小数点的浮点计算怎么处理呢？ 小帅在电脑前面啪啪啪的敲了一会代码，显示出了程序员应有的成熟与稳重，指着屏幕说： java可以用 BigDecimal 类来进行浮点数计算 （BigDecimal没有减法运算方法，减法就是加上一个负数 ，然后在计算，最后转换回小数 最后，涉及到浮点数计算，要特别小心，如果是不需要很精确的计算直接运算就行，如果系统涉及到金额计算，一定要用Decimal类或者放大成整数后计算，还有比较常见的一种做法是，
72810编辑于 2022-05-16 如何精确计算CDN的并发流量?
精确计算CDN的并发流量需要考虑多个因素，包括用户的访问模式、内容类型、网络带宽和CDN配置等。以下是一些关键步骤和方法：1. 理解并发流量并发流量是指在同一时刻通过CDN传输的请求数或数据量。 2. 请求数计算如果你知道平均每个用户的请求数和活跃用户数，可以计算总请求数：总请求数=活跃用户数×每个用户平均请求数\总请求数=活跃用户数×每个用户平均请求数2. 实时监控为了获得更精确的并发流量数据，可以使用CDN提供的监控工具，实时跟踪以下指标：实时流量监控：监控每个节点的流量情况，识别高峰时段。请求数：跟踪每秒的请求数变化，帮助识别流量模式。 计算实例假设你有以下数据：活跃用户数：1000每个用户平均请求数：5平均内容大小：2 MB测试时间：60秒7. 结论精确计算CDN的并发流量需要结合用户行为分析、内容特性和实时监控工具。
75110编辑于 2024-10-20- 来自专栏Java极客技术
手把手教你进行 Java 的精确计算
作为 Java 程序员在日常的工作中，很多时候我们都会遇到一些需要进行数据计算的场景，通常对于不需要计算精度的场景我们都可以使用 Integer，Float 或者 Double 来进行计算，虽然会丢失精度但是偶尔也可以用 ，如果我们需要精确计算结果的时候，就会用到 java.math 包中提供的 BigDecimal 类来实现对应的功能了。 BigDecimal 作为精确数据计算的工具，既然是数据计算，那肯定会提供相应的加减乘除的方法来让我们使用，如下： add(BigDecimal)：BigDecimal 对象中的值相加，返回 BigDecimal 不过在进行除法运算的时候我们可以看到，divide 方法还提供了设置精确位数的参数，并且还可以设置具体的取整方式。 = num1.shortValue(); byte b = num1.byteValue(); 在日常工作中需要精确的小数计算时使用 BigDecimal，BigDecimal 的性能比 double
84010编辑于 2022-12-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号