首页
学习
活动
专区
圈层
工具
发布
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    double转换为int以及浮点型相加损失精度问题

    百度了下,解释如下 产生原因:     计算机并不能识别除了二进制数据以外的任何数据,无论我们使用何种编程语言,在何种编译环境下工作,都要先把源程序翻译成二进制的机器码后才能被计算机识别。    ...           29----23        22----0                         实数符号位    指数符号位    指数位      有效数位        但是,在将十进制浮点数转换为二进制浮点数时...,小数的二进制有时也是不可能精确的,就如同十进制不能准确表示1/3,二进制也无法准确表示1/10,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型数据时,便出现了精度丢失。...转int的情况,总结了下实现的方式 Double d = 1.7d; @Test public void test1(){ // 这样会报错,因为double转换为字符串之后有...} @Test public void test2_2(){ // 可以通过强转进行转换,Double是包装类,不能直接进行强转,可以拆箱之后再次强转。

    4.5K10

    double转long引发的一次线上故障

    问题背景 问题:部分客户订单页面展示异常问题 原因:double类型转成long类型,精度损失导致线上的故障。...下面为出现问题的具体代码 图片 问题验证 我们看下面会分别输出什么结果: 图片 837378982649737216 837378982649737276 837378982649737276 为什么精度会丢失: double...类型占用64位 1bit(符号位) 11bit(指数位) 52bit(尾数位) 科学计数法:拿十进制举例子:1.23x10的9次方:1.23就是尾数,9就是指数 所以double类型表示的数的范围是比...long类型要大,但是,由于浮点数是基于科学计数法的,因此它们不能精确地表示某些值,例如非常大或非常小的数字。...建议: 禁止直接将double类型转成long类型,对于一些高精度计算推荐使用BigDecimal BigDecimal是Java中提供的一种高精度数字类型,它可以表示任意精度的十进制数值,计算过程中不会有精度损失

    1.8K91

    pdf转word后不能编辑怎么办

    pdf转word后不能编辑怎么办 如果把 pdf 转成 word 后发现不能编辑文本,不要慌,这种问题很常见,通常有简单的解决办法,转换后的文件经常把文字当成图片,或者被设置为受保护或只读,或者嵌入了字体导致无法正常编辑...检查内容是否为图片 打开 word 文档,尝试用光标选中文本,如果不能把插入点放到看似段落的位置,而是出现环绕的选择框,说明内容很可能是图片,被扫描或另存为图片的 pdf 在转到 word 时会变成图片...drive 用 google docs 打开然后另存为 word,或者如果有 adobe acrobat 用它的导出功能,像 smallpdf 或 ilovepdf 这样的在线转换器有时结果不同,选择标有转换为可编辑...word 中把 pdf 作为对象或图片插入,使用图片文字识别功能,如果没有,另一个办法是把图片粘到 onenote,右键选择从图片复制文本,然后粘贴到 word,粘贴后清理格式,针对短段落或不方便全部重转的情况这个方法实用...嵌入了字体或使用了复杂格式,word 无法直接编辑,在 word 中选中文本并改成常见字体比如 arial 看看能否变为可编辑,同时检查是否在框架、形状或页眉页脚里,如果文本在锁定的框架内,右键框架找编辑选项,通过把页面转换为纯文本或在转换时避开复杂格式可以帮助解决问题

    1K10

    OC知识--Foundation框架详尽总结之『数字、结构体、日期、文件类』

    NSNumber介绍 NSArray\NSDictionary中只能存放OC对象,不能存放int\float\double等基本数据类 如果需要使用将基本数据的值作为对象使用,比如说放进数组或字典中,需要先将基本数据类型包装成...NSPoint和CGPoint CGPoint和NSPoint是同义的 CGPoint代表的是二维平面中的一个点 CGPoint有2个成员 CGFloat x:表示该矩形原点的横坐标位置 CGFloat...y:表示该矩形原点的纵坐标位置 typedef CGPoint NSPoint; // CGPoint的定义 struct CGPoint { CGFloat x; CGFloat y; };...typedef struct CGPoint CGPoint; typedef double CGFloat; 可以使用CGPointMake和NSMakePoint函数创建CGPoint CGPoint...NSValue 我们有时候需要将结构体存储在集合中,但不能直接坐到。 Foundation提供了NSValue类将结构体转换为对象,并把它存储在集合中。

    1.2K40

    iOS字典转模、xib的使用、自定义视图

    2.2 字典转模型的过程 3.1xib 的加载方式 3.2 xib与storyBoard的异同点 4.1 View的封装 4.2 UIView的常见属性和方法 5.1 搭建九宫格的步骤 5.2...*marginX =(self.view.bounds.size.width - kColumnCount * kAppViewWidth)/(kColumnCount+1); //to CGFloat...CGFloat is not a class, it is a typedef for double (a basic type). 1.5 instancetype简介 OC中,在IOS7之后主推...可以表示任何对象类型) instancetype 主要用于类方法实例化对象时,让编译器主动推动对象的实际类型,以避免使用ID,造成开发中不必要的麻烦 1.instancetype 只能使用于返回值类型,不能像...属性不能使用New 开头进行命名 1.6 @synthesize的用法 ---- @synthesize 中可以定义 与变量名不相同的getter和setter的命名,籍此来保护变量不会被不恰当的访问

    1.7K10
    领券